JP2017173644A - Musical performance analyzing device and program - Google Patents

Musical performance analyzing device and program Download PDF

Info

Publication number
JP2017173644A
JP2017173644A JP2016060921A JP2016060921A JP2017173644A JP 2017173644 A JP2017173644 A JP 2017173644A JP 2016060921 A JP2016060921 A JP 2016060921A JP 2016060921 A JP2016060921 A JP 2016060921A JP 2017173644 A JP2017173644 A JP 2017173644A
Authority
JP
Japan
Prior art keywords
bow
acoustic signal
bowing
performance
operation timing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016060921A
Other languages
Japanese (ja)
Other versions
JP6677041B2 (en
Inventor
隆一 成山
Ryuichi Nariyama
隆一 成山
松本 秀一
Shuichi Matsumoto
秀一 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2016060921A priority Critical patent/JP6677041B2/en
Publication of JP2017173644A publication Critical patent/JP2017173644A/en
Application granted granted Critical
Publication of JP6677041B2 publication Critical patent/JP6677041B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To efficiently detect a bow change action from an acoustic signal of a bowed stringed instrument.SOLUTION: An acoustic signal of a bowed stringed instrument is acquired, and a signal component (low-frequency noise signal component) outside the register of the object bowed stringed instrument is extracted from the acoustic signal. The bowed stringed instrument generates pulsed noise during the bow change (up-bow or down-bow) action. Such noise includes components outside the original register of the bowed stringed instrument. For the purpose, the low-frequency noise signal component is extracted from the acoustic signal and when the level thereof is equal to or higher than a predetermined threshold, the generation of the pulsed noise in the bow change action is detected. Thus, bow action timing is detected. Further, since the down-bow action is larger in sound volume than the up-bow action, the down-bow action is estimated when the sound volume of the acoustic signal at current bow action timing is a predetermined first threshold larger than the sound volume of the acoustic signal at last bow action timing, and the up-bow action is estimated when the sound volume is a predetermined second threshold smaller.SELECTED DRAWING: Figure 1

Description

この発明は、バイオリン、ヴィオラ、チェロ、コントラバス等の擦弦楽器の演奏音を含む音響信号から該擦弦楽器の演奏における運弓状態を分析する演奏分析装置に関し、更には、そのためのコンピュータ実行可能なプログラムに関する。   The present invention relates to a performance analysis apparatus for analyzing a bowing state in a performance of a bowed instrument from an acoustic signal including a performance sound of the bowed instrument such as a violin, viola, cello, and contrabass. Regarding the program.

バイオリン等の擦弦楽器の演奏においては、運弓順(アップ/ダウン)を正確に行うことが要求される。例えば、バイオリン演奏教習においては、運弓順が正確に行われたか否か評価することは1つの重要なファクタとなっている。そのような運弓評価は、例えば演奏者が実施する演奏操作を可視的に確認することで行い得るが、人間による直接的視認によらずに、自動的に行えるようにすることが好ましい。よって、本発明は、擦弦楽器の演奏音の音響信号から該擦弦楽器の演奏における運弓状態を直接的に分析し得る技術を提供することを意図している。   In the performance of a bowed instrument such as a violin, it is required to perform the bowing order (up / down) accurately. For example, in a violin performance lesson, it is an important factor to evaluate whether or not the bowing order is correctly performed. Such bowing evaluation can be performed, for example, by visually confirming a performance operation performed by the performer, but it is preferable that it can be automatically performed without direct visual recognition by a human. Therefore, the present invention intends to provide a technique capable of directly analyzing the bowing state in the performance of the bowed instrument from the acoustic signal of the performance sound of the bowed instrument.

ところで、バイオリン等の擦弦楽器の運弓に関連する技術は種々知られている。例えば、下記特許文献1においては、バイオリンのリアルタイム演奏に応じて、奏者により操作された弓のストローク速度、圧力、発音点(弓が接触する弦上の位置)をセンサを用いて検出し、検出結果を示す電気信号を生成することが示されている。しかし、これは演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。下記特許文献2においては、MIDI規格の演奏データにおける音量値(ベロシティ値)から弓の移動速度を算出し、その値を用いて弓の折り返し位置を検出する(具体的には、算出した移動速度に基づいて弓の軌跡を算出し、この軌跡と弓の長さを示すパラメータとを比較することにより、弓の折り返し位置を検出し、この時刻を求める)ことが示されている。これは、MIDI規格の演奏データに対して運弓状態に応じた制御データを付加することを意図する技術であり、これも、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。また、音量値から弓の移動速度を算出することに基づき弓の折り返し位置を検出するので、弓の折り返しを素早く検出することには適していない。   By the way, various techniques related to bowing of a bowed instrument such as a violin are known. For example, in Patent Document 1 below, in response to a real-time performance of a violin, the stroke speed, pressure, and pronunciation point (position on the string where the bow contacts) detected by the player are detected using a sensor. It has been shown to produce an electrical signal indicative of the result. However, this cannot analyze the bowing state of the bowed instrument from the acoustic signal of the performance sound. In the following Patent Document 2, a bow moving speed is calculated from a volume value (velocity value) in MIDI standard performance data, and a bow return position is detected using the calculated value (specifically, the calculated moving speed). The bow trajectory is calculated on the basis of this, and the trajectory is compared with a parameter indicating the length of the bow, thereby detecting the folding position of the bow and obtaining this time). This is a technique intended to add control data corresponding to the bowing state to the performance data of the MIDI standard, and this is also not capable of analyzing the bowing state of a bowed instrument from the acoustic signal of the performance sound. Absent. Further, since the bow folding position is detected based on calculating the moving speed of the bow from the volume value, it is not suitable for quickly detecting the bow folding.

更に、下記特許文献3においては、電子譜面データの音符番号に対して、運弓パターンの抽出においてボウイング(運弓)が変わらないようにするための運弓ポイントである固定ポイントを入力し、固定ポイントに従って、運弓パターンを決定して運弓パターンとして抽出し、該抽出された運弓パターンを付した運弓譜を出力することが示されている。しかし、これも、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。また、下記特許文献4においては、ギターのような撥弦楽器の演奏音をマイクロホンで電気信号に変換し、該演奏音の電気信号と予め定められた評価基準を比較することにより、複数本の弦を1ストローク掻き鳴らすストローク演奏が行われたことを検出し評価することが示されている。これも、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。   Furthermore, in Patent Document 3 below, a fixed point which is a bowing point for preventing bowing (bowing) from being changed in the extraction of the bowing pattern is input and fixed to the note number of the electronic musical score data. It is shown that a bowing pattern is determined according to the points, extracted as a bowing pattern, and a bowing score with the extracted bowing pattern is output. However, this also cannot analyze the bowing state of the bowed instrument from the acoustic signal of the performance sound. In Patent Document 4 below, a performance sound of a plucked string instrument such as a guitar is converted into an electrical signal by a microphone, and a plurality of strings are compared by comparing the electrical signal of the performance sound with a predetermined evaluation standard. It is shown to detect and evaluate that a stroke performance that makes a stroke of 1 is performed. This also cannot analyze the bowing state of the bowed instrument from the acoustic signal of the performance sound.

下記特許文献5においては、弓等の可動演奏部材を用いて演奏を行なう擦弦楽器をシミュレートするのに適した電子楽器の楽音制御装置が示されており、弦相当部材と弓とを摩擦させることによりリアルタイムに発生する摩擦音をフィルタ処理することにより弓圧および弓速の楽音制御信号を生成し、擦弦楽器シミュレート音を該楽音制御信号によって制御するようにしている。これは、サイレントバイオリンのように擦弦楽器音をシミュレートするための技術であり、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。   In the following Patent Document 5, a musical sound control device for an electronic musical instrument suitable for simulating a bowed musical instrument that performs using a movable performance member such as a bow is shown, and the string equivalent member and the bow are rubbed. Thus, a musical tone control signal of bow pressure and bow speed is generated by filtering the frictional sound generated in real time, and the bowed instrument simulation sound is controlled by the musical tone control signal. This is a technique for simulating a bowed instrument sound like a silent violin and cannot analyze the bowed state of the bowed instrument from the acoustic signal of the performance sound.

特開平05−127589号公報Japanese Patent Laid-Open No. 05-127589 特開2001−159892号公報JP 2001-159892 A 特開2009−265516号公報JP 2009-265516 A 特開2011−069900号公報JP 2011-069900 A 特開平05−165465号公報JP 05-165465 A

この発明は、上述の点に鑑みてなされたもので、擦弦楽器の音響信号から該擦弦楽器の演奏における運弓状態を分析する演奏分析装置及びプログラムを提供しようとするものであり、特に、弓の返し操作を効率的に検出できるようにすることを目的とする。   The present invention has been made in view of the above-described points, and it is an object of the present invention to provide a performance analysis apparatus and program for analyzing a bowing state in the performance of a bowed instrument from the acoustic signal of the bowed instrument. The purpose is to enable efficient detection of the return operation.

この発明に係る演奏分析装置は、音響信号を取得する取得部と、前記音響信号から対象擦弦楽器の音域外の信号成分を抽出する抽出部と、前記抽出した信号成分のレベルに基づき弓操作タイミングを検出する検出部とを備える。   The performance analysis apparatus according to the present invention includes an acquisition unit that acquires an acoustic signal, an extraction unit that extracts a signal component outside the range of the target bowed instrument from the acoustic signal, and a bow operation timing based on the level of the extracted signal component And a detecting unit for detecting.

擦弦楽器においては、弓を返す操作をしたとき、パルス性のノイズが発生する。そのようなノイズは、該擦弦楽器の音域外の成分(例えば楽器本来の音域よりも低域の成分)を含む。そこで、擦弦楽器の演奏音の音響信号から該擦弦楽器の音域外の信号成分を抽出し、この信号成分のレベルに基づき(例えば該レベルが所定閾値以上であることを判断し)、弓を返す操作をしたときのパルス性のノイズが発生したことを検出することができる。これにより、弓操作タイミング(弓の返し操作タイミング)を検出することができる。   In a bowed instrument, pulsing noise is generated when the bow is returned. Such noise includes a component outside the range of the bowed instrument (for example, a component lower than the original range of the instrument). Therefore, a signal component outside the range of the bowed instrument is extracted from the acoustic signal of the performance sound of the bowed instrument, and a bow is returned based on the level of the signal component (for example, determining that the level is equal to or higher than a predetermined threshold). It is possible to detect the occurrence of pulse noise when the operation is performed. Thereby, the bow operation timing (bow return operation timing) can be detected.

この発明は、装置の発明として実施しうるのみならず、前記演奏分析装置の機能を実現するステップを、コンピュータに実行させるプログラムの発明として、実施及び構成されてよい。   The present invention can be implemented and configured not only as an apparatus invention, but also as a program invention that causes a computer to execute the steps of realizing the functions of the performance analysis apparatus.

この発明によれば、取得した音響信号中の特定の音域成分に基づき弓操作タイミングを検出するので、複雑な処理が不要であり、弓の返し操作を効率的に検出することができる、という優れた効果を奏する。   According to the present invention, since the bow operation timing is detected based on a specific sound range component in the acquired acoustic signal, no complicated processing is required, and it is possible to efficiently detect the bow return operation. Has an effect.

この発明の一実施形態に係る演奏分析装置の構成例を説明する概念的ブロック図。The conceptual block diagram explaining the structural example of the performance analyzer which concerns on one Embodiment of this invention. (a)は取得した音響信号の一例を音量エンベロープによって示し、(b)は対象擦弦楽器の音域外の低域ノイズ信号の一例を示す図。(A) shows an example of the acquired acoustic signal by a volume envelope, (b) is a figure which shows an example of the low frequency noise signal outside the sound range of the target bowed instrument. コンピュータを使用して演奏分析装置を構成する場合の電気的ハードウェア構成例を示すブロック図。The block diagram which shows the electrical hardware structural example in the case of comprising a performance analyzer using a computer. 運弓方向推定処理例を示すフローチャート。The flowchart which shows the example of a bowing direction estimation process. 評価及び表示処理例を示すフローチャート。The flowchart which shows the example of evaluation and a display process. 図5の評価及び表示処理に応じた表示例を示す図。The figure which shows the example of a display according to the evaluation and display process of FIG.

図1は、一実施形態に係る演奏分析装置の構成例を説明する概念的ブロック図である。演奏分析装置100は、擦弦楽器の演奏に応じて発生された音響信号から運弓状態(弓操作タイミングつまり弓の返しのタイミングや運弓方向など)を分析するように機能し、例えば、擦弦楽器の演奏法を教習する目的あるいは擦弦楽器の演奏を評価する目的等、任意の多様な目的で利用され得る。演奏分析装置100は、大別して、取得部10と、抽出部11と、検出部12と、推定部13と、評価部14と、音域設定部15と、表示部16を含む。演奏分析装置100は、例えば汎用のパーソナルコンピュータなど、各部の動作(後述するオーディオ信号を分析する各種処理)を実行可能な何らかのコンピュータ装置により構成されてよく、あるいは、各部の動作を実行可能なように構成された専用ハードウェア装置(集積回路等)からなっていてもよい。   FIG. 1 is a conceptual block diagram illustrating a configuration example of a performance analysis apparatus according to an embodiment. The performance analysis apparatus 100 functions to analyze a bowing state (bow operation timing, that is, bow return timing, bowing direction, etc.) from an acoustic signal generated according to the performance of the bowed instrument. It can be used for any of various purposes, such as for the purpose of learning the playing method of this or for the purpose of evaluating the performance of a bowed instrument. The performance analysis apparatus 100 is broadly divided into an acquisition unit 10, an extraction unit 11, a detection unit 12, an estimation unit 13, an evaluation unit 14, a sound range setting unit 15, and a display unit 16. The performance analysis apparatus 100 may be configured by any computer device capable of executing operations of each unit (various processes for analyzing an audio signal described later) such as a general-purpose personal computer, or may be capable of executing operations of each unit. It may consist of a dedicated hardware device (such as an integrated circuit) configured as described above.

取得部10は、分析対象として、擦弦楽器の演奏に応じて発生された音響信号ASを取得する。取得部10は、例えばマイク等の収音手段を介して、ユーザの楽器演奏音をリアルタイムに取得しデジタル変換することにより、音響信号ASを取得するように構成されていてもよいし、あるいは、ユーザの楽器演奏音のデータを記録した記録媒体から該記録されたデータを取得する、あるいは、通信ネットワークを介して遠隔地から音響信号ASを取得するように構成されてもよい。その場合、外部から取得する音響信号ASの符号化形式はPCM形式に限らず、適宜の圧縮形式でデータ圧縮されたものであってもよく、取得部10は必要に応じて音響圧縮データの復号化機能を有するものであってよい。なお、取得した音響信号ASはFIFOあるいはRAM等において適宜バッファ記憶され、その音量エンベロープが時系列的に検出され、後述する運弓推定処理で利用するために一時保存される。図2(a)は、取得部10によって取得した音響信号ASの一例を音量エンベロープによって示す。   The acquisition unit 10 acquires an acoustic signal AS generated in accordance with the performance of the bowed instrument as an analysis target. The acquisition unit 10 may be configured to acquire the acoustic signal AS by acquiring the user's musical instrument performance sound in real time through a sound collection unit such as a microphone, for example, and performing digital conversion, or The recorded data may be acquired from a recording medium in which the data of the musical instrument performance sound of the user is recorded, or the acoustic signal AS may be acquired from a remote place via a communication network. In that case, the encoding format of the acoustic signal AS acquired from the outside is not limited to the PCM format and may be data compressed in an appropriate compression format, and the acquisition unit 10 decodes the acoustic compression data as necessary. It may have a function. The acquired acoustic signal AS is appropriately buffered and stored in a FIFO or RAM, the volume envelope of which is detected in time series, and temporarily stored for use in the bow estimation process described later. FIG. 2A shows an example of the acoustic signal AS acquired by the acquisition unit 10 using a volume envelope.

抽出部11は、前記取得した音響信号から、分析対象とする擦弦楽器の音域外の信号成分を抽出する。このように擦弦楽器の音域外の信号成分を抽出する理由は、弓操作によって生じる弦の振動に基づく正規の演奏音の信号成分(つまり、対象擦弦楽器の音域内の信号成分)を除外し、弓の返し操作時の摩擦ノイズを抽出することを意図している。例えば、分析対象擦弦楽器がバイオリンであるとすると、バイオリンの音域は音名G3〜D#7の範囲であるから、倍音成分も含めてその音域の周波数成分を含む帯域以外の任意の帯域に属する信号成分を抽出する。なお、一般に弦楽器音にはかなり高域まで倍音成分が含まれるので、対象擦弦楽器の音域外の信号成分として、低域側の信号成分を抽出するのがよい。一例として、抽出部11は、分析対象擦弦楽器がバイオリンの場合、例えば10Hz〜100Hz程度の帯域の低域バンドパスフィルタ(あるいは100Hz程度を高域カットオフ周波数とするローパスフィルタ)により、低域の信号成分を抽出するようにしてよい。勿論、この低域バンドパスフィルタ(ローパスフィルタ)が抽出する低周波数帯域は、対象擦弦楽器の音域に応じて可変設定される。例えば、分析対象擦弦楽器がヴィオラの場合、抽出部11における低域バンドパスフィルタ(ローパスフィルタ)の通過帯域は、バイオリンの場合よりも低い高域カットオフ周波数より低域側の信号成分を抽出するように設定される。また、分析対象擦弦楽器がチェロあるいはコントラバスの場合、それぞれに応じた更に低い高域カットオフ周波数が設定され、それぞれの高域カットオフ周波数より低域側の信号成分を抽出するように設定される。   The extraction unit 11 extracts signal components outside the range of the bowed musical instrument to be analyzed from the acquired acoustic signal. The reason for extracting the signal component outside the range of the bowed instrument in this way is to exclude the signal component of the regular performance sound based on the vibration of the string caused by the bow operation (that is, the signal component within the range of the target bowed instrument) It is intended to extract friction noise during bow turning operation. For example, if the bowed instrument to be analyzed is a violin, the violin has a pitch range G3 to D # 7, and therefore belongs to an arbitrary band other than the band including the frequency component of the pitch range including the harmonic component. Extract signal components. In general, a stringed instrument sound includes harmonic components up to a considerably high frequency range, so it is preferable to extract a signal component on the low frequency side as a signal component outside the sound range of the target stringed musical instrument. As an example, when the stringed musical instrument to be analyzed is a violin, the extraction unit 11 uses, for example, a low-frequency bandpass filter with a band of about 10 Hz to 100 Hz (or a low-pass filter with a high frequency cutoff frequency of about 100 Hz). The signal component may be extracted. Of course, the low frequency band extracted by the low band band pass filter (low pass filter) is variably set according to the sound range of the target stringed musical instrument. For example, when the analysis target stringed instrument is a viola, the pass band of the low-frequency bandpass filter (low-pass filter) in the extraction unit 11 extracts a signal component on the lower frequency side than the high-frequency cutoff frequency lower than that of the violin. Is set as follows. In addition, when the analyzed stringed instrument is a cello or a contrabass, a lower high-frequency cut-off frequency corresponding to each is set, and a signal component on the low-frequency side is extracted from each high-frequency cut-off frequency. The

図2(b)は、(a)の音響信号に対応して抽出部11によって抽出された対象擦弦楽器音域外の低域ノイズ信号の一例を示す。低域ノイズ信号がスパイク状に高レベルを示す箇所が、弓の返し操作時に顕著な摩擦ノイズが生じた箇所を示している。検出部12は、前記抽出した楽器音域外の信号成分(低域ノイズ信号)のレベルに基づき、該レベルが所定閾値を超えた時点を、弓の返し操作が行われたタイミング(弓操作タイミング)t1,t2,t3,・・・として検出する。このようにして音響信号から検出した弓操作タイミングt1,t2,t3,・・・を示す弓操作タイミング検出情報BDは、様々な用途で利用され得る。例えば、次に述べるように、運弓方向を推定するために推定部13において利用される。あるいは、音響信号ASに含まれる個々の演奏音(音符)の立ち上がりを示す信号として、その他の利用装置17において適宜利用され得る。   FIG. 2B shows an example of the low-frequency noise signal outside the target bowed instrument musical range extracted by the extraction unit 11 corresponding to the acoustic signal of FIG. A portion where the low-frequency noise signal shows a high level in a spike shape indicates a portion where significant friction noise is generated during the bow turning operation. Based on the level of the extracted signal component outside the musical instrument sound range (low-frequency noise signal), the detection unit 12 is the timing when the bow return operation is performed (bow operation timing) when the level exceeds a predetermined threshold. Detected as t1, t2, t3,. The bow operation timing detection information BD indicating the bow operation timings t1, t2, t3,... Detected from the acoustic signal in this way can be used for various purposes. For example, as described below, it is used in the estimation unit 13 to estimate the bowing direction. Alternatively, the signal can be appropriately used in the other use device 17 as a signal indicating the rising of each performance sound (note) included in the acoustic signal AS.

推定部13は、検出部12によって検出した弓操作タイミングを示す弓操作タイミング検出情報BDに基づき運弓方向を推定する。擦弦楽器の標準的な運弓は、上げ弓操作と下げ弓操作を交互に行うことからなるため、少なくとも適宜の部分的演奏区間に関して、最初の運弓方向が特定されれば、以後は弓操作タイミング毎に運弓方向が切り換わると推定することによって、弓操作タイミング検出情報BDのみに基づき運弓方向を推定することができる。   The estimation unit 13 estimates the bowing direction based on the bow operation timing detection information BD indicating the bow operation timing detected by the detection unit 12. Since the standard bowing of bowed instruments consists of alternating up and down bow operations, once the initial bow direction is specified for at least the appropriate partial performance section, the bow operation is performed thereafter. By estimating that the bowing direction changes at each timing, the bowing direction can be estimated based only on the bow operation timing detection information BD.

より確度の高い運弓方向の推定手法は、演奏音の音響信号ASの音量を考慮に入れることである。同程度の力で操作したとき、上げ弓による音よりも下げ弓による音の方が大きな音量が得られることが知られているので、一実施例において、推定部13は、隣接する弓操作タイミングで挟まれた各区間における音響信号ASの音量の相互関係(すなわち隣接する区間の音量の相互関係)に基づき、前記検出された各弓操作タイミングにおける運弓方向を推定するように構成してよい。より具体的には、検出部12によって検出した或る弓操作タイミング(仮にこれを第1の弓操作タイミングという;例えば図2(b)におけるt2)を始点とする区間(仮にこれを第1区間という)における音響信号ASの音量が、その直前の弓操作タイミング(仮にこれを第2の弓操作タイミングという;例えば図2(b)におけるt1)を始点とする区間(仮にこれを第2区間という)における音響信号ASの音量よりも大きく、かつその音量差が所定の第1閾値より大きい場合第1運弓方向(下げ弓)と推定し、前記第1の弓操作タイミングにおける音響信号ASの音量が前記第2の弓操作タイミング音響信号ASの音量よりも小さく、かつその音量差が所定の第2閾値より小さい場合第2運弓方向(上げ弓)と推定するように構成してよい。   A more accurate method for estimating the bowing direction is to take into account the volume of the acoustic signal AS of the performance sound. Since it is known that the sound of the lower bow sound is larger than that of the raised bow when operated with the same level of force, in one embodiment, the estimation unit 13 performs the adjacent bow operation timing. The arching direction at each detected arch operation timing may be estimated based on the mutual relationship between the volume levels of the acoustic signal AS in each section sandwiched between (ie, the mutual relationship between the volume levels of adjacent sections). . More specifically, a certain arch operation timing detected by the detection unit 12 (assuming this is called the first arch operation timing; for example, t2 in FIG. 2B) is a section (assuming this is the first section). The volume of the acoustic signal AS at the point immediately before the bow operation timing (assuming this is called the second bow operation timing; for example, t1 in FIG. ) Is greater than the volume of the acoustic signal AS and the volume difference is greater than a predetermined first threshold value, the first bow direction (lowering bow) is estimated, and the volume of the acoustic signal AS at the first bow operation timing is estimated. Is smaller than the volume of the second bow operation timing acoustic signal AS and the volume difference is smaller than a predetermined second threshold, the second bowing direction (raised bow) is estimated. Good.

図2においては、弓操作タイミング検出情報BDが示す弓操作タイミングt1,t2,t3,・・・と音響信号ASの音量との組み合わせによって推定される運弓方向の一例を符号UとDによって示している。Dは下げ弓、Uは上げ弓を示す。例えば、検出された或る弓操作タイミングt2を始点とする区間における音響信号AS2の音量は、その直前の弓操作タイミングt1を始点とする区間における音響信号AS1の音量よりも所定の第2閾値より小さいので、運弓方向は上げ弓Uと推定される。逆に、或る弓操作タイミングt1を始点とする区間における音響信号AS1の音量は、その直後の弓操作タイミングt2を始点とする区間における音響信号AS2の音量よりも所定の第1閾値より大きいので、運弓方向は下げ弓Dと推定することが可能である。以下、同様に、或る弓操作タイミングt3を始点とする区間における音響信号AS3の音量は、その直前の弓操作タイミングt2を始点とする区間における音響信号AS2の音量よりも所定の第1閾値より大きいので、運弓方向は下げ弓Dと推定される。なお、音量の大小は、それぞれの音量エンベロープの最大値を比較することによって判定できるし、あるいは最大値の代わりに平均値で判定してもよい。なお、これらの閾値は適宜に定めてよい。 In FIG. 2, an example of the bowing direction estimated by the combination of the bow operation timings t1, t2, t3,. ing. D indicates a lowering bow, and U indicates a raising bow. For example, the volume of the sound signal AS 2 in the section that starts a certain arch operation timing t2 that has been detected, a second predetermined than the volume of the sound signal AS 1 in a section that starts the bow operation timing t1 immediately before Since it is smaller than the threshold value, the bowing direction is estimated to be the raising bow U. Conversely, the volume of the acoustic signal AS 1 in a section starting from a certain bow operation timing t1 is more than a predetermined first threshold value than the volume of the acoustic signal AS 2 in a section starting from the immediately following bow operation timing t2. Since it is large, the bowing direction can be estimated as the down bow D. Hereinafter, similarly, the volume of the acoustic signal AS 3 in a section starting from a certain bow operation timing t3 is a predetermined first volume higher than the volume of the acoustic signal AS 2 in a section starting from the immediately preceding bow operation timing t2. Since it is larger than the threshold value, the bowing direction is estimated to be the lowering bow D. Note that the magnitude of the volume can be determined by comparing the maximum values of the respective volume envelopes, or may be determined by an average value instead of the maximum value. These threshold values may be determined as appropriate.

なお、推定部13は、1音毎の弓の上げ下げを推定することに限らず、1音中のトレモロ演奏における弓の交互の上げ下げを推定するように構成してもよいし、あるいはスラー演奏における同一方向への弓の返し操作の繰り返しを推定するように構成してもよい。その場合、トレモロあるいはスラー等の推定対象奏法に応じて、たとえば前記第1閾値及び/又は第2閾値の値をそれぞれ適切に設定するものとする。   Note that the estimating unit 13 is not limited to estimating the raising / lowering of the bow for each sound, but may be configured to estimate the alternating raising / lowering of the bow in the tremolo performance in one sound, or in the slur performance You may comprise so that the repetition of the bow return operation | movement to the same direction may be estimated. In this case, for example, the values of the first threshold value and / or the second threshold value are appropriately set according to the estimation target performance method such as tremolo or slur.

表示部14は、推定部13によって推定された運弓方向を示す情報を可視的に提示する装置である。推定された運弓方向を可視的に提示する場合、任意の表示形態を採用してよい。例えば、運弓方向を示す適宜のアイコン(例えばUとD)を時系列順に単純に並べて表示してもよいし、あるいは、取得した音響信号ASが演奏している楽曲の楽譜表示上の各音符に対応づけて、推定された運弓方向を示すアイコンを表示してもよい。この表示はディスプレイ表示に限らず、プリンタによる印刷出力であってもよい。なお、推定された運弓方向を示す情報の提示は可視的手法に限らず、報知音等により可聴的に提示するようにしてもよい。また、推定された運弓方向を示す情報を記録媒体に記録しておき、後に記録媒体から読み出して可視的又は可聴的に提示するようにしてもよい。このように、推定された運弓方向を示す情報を可視的又は可聴的に提示することは、例えば擦弦楽器の教習の場において生徒が演奏した音響信号ASに基づきその運弓が適切であるか教師が評価するような場合に役立つのは勿論のこと、生徒又は演奏者自身が自分の運弓が適切であったかどうかを確認するためにも役立つ。   The display unit 14 is a device that visually presents information indicating the bowing direction estimated by the estimation unit 13. When the estimated bowing direction is visually presented, any display form may be employed. For example, appropriate icons (for example, U and D) indicating the bow direction may be simply arranged and displayed in chronological order, or each note on the musical score display of the music played by the acquired acoustic signal AS. An icon indicating the estimated bowing direction may be displayed in association with. This display is not limited to the display display, but may be a print output by a printer. Note that the information indicating the estimated bowing direction is not limited to a visible method, and may be presented audibly by a notification sound or the like. Further, information indicating the estimated bowing direction may be recorded on a recording medium, and later read from the recording medium and presented visually or audibly. In this way, visually or audibly presenting information indicating the estimated bowing direction is, for example, whether the bowing is appropriate based on the acoustic signal AS played by the student in the practice of a bowed instrument. Of course, it is useful not only for teachers to evaluate, but also for students or performers themselves to check if their bow is appropriate.

評価部15は、取得した音響信号ASが演奏している楽曲に関する模範の運弓方向を示す情報と前記推定部13によって推定された運弓方向を示す情報とを比較することにより、前記取得した音響信号ASにおける運弓を評価するように構成されている。この評価結果は表示部14を介してユーザ(教師、生徒又は演奏者等)に対して提示し得る。評価結果の表示形態としては、任意のものを採用しうる。例えば、取得した音響信号ASが演奏している楽曲の楽譜をディスプレイ画面に表示して、楽譜上の各音符に対応して評価結果を示すアイコン(正しい運弓であったことを示すアイコンと、間違った運弓であったことを示すアイコンなど)を表示するようにしてよい。あるいは、評価結果に基づき運弓を採点したスコアを提示するようにしてもよい。また、評価部15による評価結果は、ユーザ(生徒又は演奏者)毎に記録媒体内に蓄積記憶するようにしてよい。個々のユーザ(生徒又は演奏者)毎に評価結果を蓄積記憶することにより、生徒又は演奏者個人毎の運弓の癖や運弓を間違えやすい楽譜上の箇所などを統計的に解明することができ、また、生徒又は演奏者集合の全体に関して運弓を間違えやすい楽譜上の箇所又は間違えにくい楽譜上の箇所などを統計的に解明することができる。   The evaluation unit 15 compares the information indicating the exemplary bow direction with respect to the music played by the acquired acoustic signal AS by comparing the information indicating the bow direction estimated by the estimation unit 13 with the acquired information. It is configured to evaluate the bow in the acoustic signal AS. This evaluation result can be presented to the user (teacher, student, performer, etc.) via the display unit 14. Any display form of the evaluation result can be adopted. For example, the score of the music played by the acquired acoustic signal AS is displayed on the display screen, and an icon indicating an evaluation result corresponding to each note on the score (an icon indicating that the bow was correct) An icon indicating that the bow was wrong) may be displayed. Or you may make it show the score which scored the bow based on the evaluation result. The evaluation result by the evaluation unit 15 may be accumulated and stored in a recording medium for each user (student or player). By accumulating and storing the evaluation results for each individual user (student or performer), it is possible to statistically elucidate the points on the musical score, etc. that are likely to be mistaken for bowing or bowing for each student or performer. In addition, it is possible to statistically elucidate a portion on the score where the bowing is easy to be mistaken or a point on the score which is difficult to be mistaken for the entire student or performer group.

なお、そのような運弓の評価のために、評価部15は楽曲データベース20を利用し得る。楽曲データベース20には多数の楽曲の楽譜データが蓄積記憶されている。評価部15は、楽曲データベース20にアクセスして、前記取得した音響信号ASが演奏している楽曲の楽譜データを取得し、該取得した楽譜データに基づき当該楽曲に関する模範の運弓方向を示す情報を得る。楽曲データベース20に記憶された楽譜データ中に運弓方向を示す情報(運弓情報)が含まれていれば、それをそのまま、前記模範の運弓方向を示す情報として利用すればよい。楽曲データベース20に記憶された楽譜データ中に運弓情報が含まれていない場合は、通常の運弓ルール(例えば、下げ弓と上げ弓を交互に行う、音の切れ目では弓を返す、小節線直後の音は基本的に下げ弓で弾く、同じ音符内およびスラーやタイの場合は弓を返さない、等)に基づいて、当該楽曲中の各音符に対応づけてデフォルトの運弓情報を自動的に生成し、それを前記模範の運弓方向を示す情報として利用すればよい。なお、運弓情報を含む楽譜データであっても、楽譜中のすべての音符に対して運弓情報を提示することなく、主要な音符(格別に運弓方向を特定したい音符)に対してのみ運弓情報を提示するものが多い。そのような場合においては、楽譜中のすべての音符に対して運弓情報を明示するために、運弓情報が不足している音符について前記デフォルトの運弓情報を自動的に生成するのがよい。すなわち、楽譜データにおいて特定の運弓情報が明示されている音符については該運弓情報を採用し、それ以外の音符については上記通常の運弓ルールに従いデフォルトの運弓情報を自動的に生成し、これらの組合せによって当該楽曲に関する前記模範の運弓方向を示す情報とする。   Note that the evaluation unit 15 can use the music database 20 for the evaluation of such a bow. The music database 20 stores and stores musical score data of a large number of music. The evaluation unit 15 accesses the music database 20 to acquire the score data of the music played by the acquired acoustic signal AS, and information indicating an exemplary bow direction regarding the music based on the acquired score data Get. If the musical score data stored in the music database 20 includes information indicating the bowing direction (bowing information), the information may be used as it is as information indicating the exemplary bowing direction. If the musical score data stored in the music database 20 does not include bowing information, a normal bowing rule (for example, alternately performing a lowering bow and a raising bow, returning a bow at a sound break, bar line, The sound immediately after is basically played with a bow, and the default bowing information is automatically associated with each note in the song based on the same note and the bow in the case of slurs and ties. May be generated and used as information indicating the model's bow direction. Note that even for musical score data including bowing information, only the main notes (notes for which the bowing direction is to be specified) are specified without presenting bowing information for all notes in the score. Many of them present bowing information. In such a case, the default bowing information may be automatically generated for notes lacking bowing information in order to specify bowing information for all notes in the score. . That is, the bowing information is adopted for the notes for which specific bowing information is clearly shown in the score data, and default bowing information is automatically generated for the other notes according to the normal bowing rule. The combination is used as information indicating the exemplary bow direction of the musical composition.

なお、自動的に生成したデフォルトの運弓情報(模範の運弓方向を示す情報)は、当該ユーザ専用のメモリ内に保存するようにしてよく、あるいは、当該ユーザが楽曲データベース20の書き換え(更新)をオーソライズされているのであれば該楽曲データベース20内に保存してもよい。また、複数のユーザ間で各自が作成したデフォルトの運弓情報を共有できるようにしたり、書き換えできるようにしてもよく、例えばクラウド上でそのような共有の運弓情報を保存し管理するようにしてもよい。   The automatically generated default bowing information (information indicating the model bowing direction) may be stored in a memory dedicated to the user, or the user may rewrite (update) the music database 20. ) May be stored in the music database 20 if it is authorized. Also, it may be possible to share or rewrite the default bow information created by each user among multiple users. For example, such shared bow information may be stored and managed on the cloud. May be.

音域設定部16は、前記取得部10が取得する前記音響信号ASに関して、対象擦弦楽器の種類を識別し、該識別した楽器種類に従い前記抽出部11で抽出すべき前記信号成分の音域を設定するように構成されている。この音域設定部16における対象擦弦楽器種類の識別は、ユーザによる対象擦弦楽器の種類入力操作(選択操作)に応じて行うようになっていてもよいし、あるいは、取得部10で取得した音響信号ASの音色及び音域等を分析することに基づき自動的に対象擦弦楽器の種類を識別するようになっていてもよい。抽出部11において、前記低域バンドパスフィルタ(ローパスフィルタ)の通過帯域が、音域設定部16による設定に従い、対象擦弦楽器の最低音よりも低い所定帯域に可変設定される。   The sound range setting unit 16 identifies the type of the target stringed instrument with respect to the acoustic signal AS acquired by the acquisition unit 10, and sets the sound range of the signal component to be extracted by the extraction unit 11 according to the identified instrument type. It is configured as follows. The identification of the target bowed instrument type in the range setting unit 16 may be performed in accordance with the type input operation (selection operation) of the target bowed instrument by the user, or the acoustic signal acquired by the acquisition unit 10. The type of the target stringed instrument may be automatically identified based on the analysis of the AS tone color and tone range. In the extraction unit 11, the pass band of the low-frequency band pass filter (low-pass filter) is variably set to a predetermined band lower than the lowest sound of the target bowed instrument according to the setting by the sound range setting unit 16.

図3は、図1の演奏分析装置100のハードウェアとしてコンピュータを使用する場合の電気的構成例を示すブロック図である。演奏分析装置100は、マイクロプロセッサユニット(CPU)101、メモリ102、操作装置103、表示装置104、オーディオインタフェース(「オーディオI/F」)105、及び通信インタフェース(「通信I/F」)106等を含む。CPU101は、メモリ102に記憶された各種のプログラムを実行して、演奏分析装置100の全体動作を制御する。メモリ102は、ROM、RAM及び外部記憶装置を含む。外部記憶装置は、例えば磁気ディスクや光学ディスク、フラッシュメモリなど適宜の記録媒体からなる。   FIG. 3 is a block diagram showing an example of an electrical configuration when a computer is used as hardware of the performance analysis apparatus 100 of FIG. The performance analysis apparatus 100 includes a microprocessor unit (CPU) 101, a memory 102, an operation device 103, a display device 104, an audio interface (“audio I / F”) 105, a communication interface (“communication I / F”) 106, and the like. including. The CPU 101 executes various programs stored in the memory 102 and controls the overall operation of the performance analysis apparatus 100. The memory 102 includes a ROM, a RAM, and an external storage device. The external storage device includes an appropriate recording medium such as a magnetic disk, an optical disk, or a flash memory.

操作装置103は、例えばマウス、キーボード等の操作入力装置と、該操作入力を検出する機構を含む。表示装置104は、ディスプレイと、該ディスプレイの表示を制御する機構を含む。   The operation device 103 includes an operation input device such as a mouse and a keyboard and a mechanism for detecting the operation input. The display device 104 includes a display and a mechanism for controlling display on the display.

オーディオI/F105は、音響信号(オーディオ信号)の入力端子、音響信号の出力端子、アナログ‐デジタル変換器、デジタル‐アナログ変換器を含む。演奏分析装置100は、図示しないマイクロホン及びオーディオI/F105を介して、ユーザ(生徒又は演奏者)の擦弦楽器のリアルタイム演奏により発生した音響信号ASを取得できる。その場合、マイクロホン及びオーディオI/F105は前記取得部10を構成する。   The audio I / F 105 includes an input terminal for an acoustic signal (audio signal), an output terminal for the acoustic signal, an analog-digital converter, and a digital-analog converter. The performance analysis apparatus 100 can acquire an acoustic signal AS generated by real-time performance of a user (student or performer) 's bowed instrument via a microphone and an audio I / F 105 (not shown). In that case, the microphone and the audio I / F 105 constitute the acquisition unit 10.

通信I/F106は、イーサネット(登録商標)インタフェース、USBインタフェース(着脱式記憶媒体インタフェース)等を含む。演奏分析装置100は、該通信I/F106を介して、例えばインターネット等の通信ネットワークに接続し、遠隔地と通信し得る。演奏分析装置100は、該通信I/F106を介して、遠隔地のユーザ(生徒又は演奏者)の楽器のリアルタイム演奏により発生した音響信号ASあるいは既に記録済の音響信号ASを取得できる。その場合、通信I/F106は前記取得部10を構成する。   The communication I / F 106 includes an Ethernet (registered trademark) interface, a USB interface (detachable storage medium interface), and the like. The performance analysis apparatus 100 can be connected to a communication network such as the Internet via the communication I / F 106 to communicate with a remote place. The performance analysis apparatus 100 can acquire an acoustic signal AS generated by real-time performance of a musical instrument of a remote user (student or player) or an already recorded acoustic signal AS via the communication I / F 106. In that case, the communication I / F 106 constitutes the acquisition unit 10.

図4は、メモリ102に非一過的に記憶されCPU101によって実行可能なソフトウェアプログラムからなる運弓方向推定処理の一例を略示するフローチャートである。   FIG. 4 is a flowchart schematically showing an example of the bow direction estimation process including a software program that is non-transitoryly stored in the memory 102 and can be executed by the CPU 101.

ステップS1において、CPU101は、分析対象である音響信号ASを取得する(図1の取得部10の動作)。一例として、CPU101は、発生した音響信号を、オーディオI/F104を介して略リアルタイムで取得し、バッファ記憶する。   In step S1, the CPU 101 acquires the acoustic signal AS to be analyzed (operation of the acquisition unit 10 in FIG. 1). As an example, the CPU 101 acquires the generated acoustic signal via the audio I / F 104 in substantially real time and stores it in a buffer.

ステップS2において、CPU101は、バッファ記憶した音響信号ASから所定時間長の音響信号を処理対象として時系列順に選択する。   In step S <b> 2, the CPU 101 selects an acoustic signal having a predetermined time length from the buffered acoustic signal AS as a processing target in order of time series.

ステップS3において、CPU101は、処理対象として選択した所定時間長の音響信号から対象擦弦楽器の音域外の信号成分(低域ノイズ信号成分)を抽出する。これは図1の抽出部11の動作に相当し、前述のように、音響信号に低域バンドパスフィルタ(ローパスフィルタ)をかけることからなる。   In step S <b> 3, the CPU 101 extracts a signal component (low frequency noise signal component) outside the range of the target bowed instrument from the acoustic signal having a predetermined time length selected as the processing target. This corresponds to the operation of the extraction unit 11 in FIG. 1 and includes applying a low-frequency bandpass filter (low-pass filter) to the acoustic signal as described above.

ステップS4において、CPU101は、前記抽出したノイズ信号成分から所定閾値以上のレベルを持つパルスを検出し、このタイミングを弓操作タイミングとして検出し、検出した弓操作タイミングを示す情報(弓操作タイミング検出情報BD)を記憶する。これは図1の検出部12の動作に相当する。   In step S4, the CPU 101 detects a pulse having a level equal to or higher than a predetermined threshold from the extracted noise signal component, detects this timing as a bow operation timing, and information indicating the detected bow operation timing (bow operation timing detection information). BD) is stored. This corresponds to the operation of the detection unit 12 in FIG.

ステップS5において、CPU101は、処理対象として選択した前記所定時間長の音響信号を、前記検出した弓操作タイミングで複数の区間に区切る。そして、ステップS6において、CPU101は、前記検出した弓操作タイミングで区切った各区間毎に、直前の区間とその音量を比較し、直前の区間よりも音量が上がっていれば(音量差が前記所定の第1閾値より大きければ)下げ弓(D)と推定し、直前の区間よりも音量が下がっていれば(音量差が前記所定の第2閾値より小さければ)上げ弓(U)と推定し、その推定結果を運弓方向を示す情報(運弓推定情報U/D)として、前記弓操作タイミング検出情報BDと関連づけて、記憶する。これは図1の推定部13の動作に相当する。   In step S5, the CPU 101 divides the acoustic signal having the predetermined time length selected as the processing target into a plurality of sections at the detected bow operation timing. In step S6, the CPU 101 compares the volume with the immediately preceding section for each section divided by the detected bow operation timing. If the volume is higher than the immediately preceding section (the volume difference is the predetermined value). If the volume is lower than the immediately preceding section (if the volume difference is smaller than the predetermined second threshold), it is estimated to be a raised bow (U). The estimation result is stored in association with the bow operation timing detection information BD as information indicating the bowing direction (bowing estimation information U / D). This corresponds to the operation of the estimation unit 13 in FIG.

ステップS7において、CPU101は、処理対象として選択した前記所定時間長の音響信号に関する全区間について前記ステップS6の推定を終了したかを判定し、NOであれば前記ステップS6の処理を繰り返す。全区間について前記ステップS6の推定を終了したならば、ステップS8に行き、前記取得した音響信号ASのすべてに関して処理が終了したかを判定する。NOであれば、前記ステップS2に戻る。ステップS2では、未処理の音響信号ASのうち最も前の所定時間長の音響信号を処理対象として選択する。以下、処理対象として新たに選択された所定時間長の音響信号に関して、前記ステップS3〜S8の処理が繰り返される。前記取得した音響信号ASのすべてに関して処理が終了したならば、図4の処理を終了する。   In step S7, the CPU 101 determines whether the estimation in step S6 has been completed for all the sections related to the acoustic signal having the predetermined time length selected as the processing target. If NO, the process in step S6 is repeated. When the estimation in step S6 is completed for all the sections, the process goes to step S8 to determine whether the processing has been completed for all of the acquired acoustic signals AS. If NO, the process returns to step S2. In step S2, the earliest predetermined time length of the acoustic signal AS is selected as a processing target. Thereafter, the processing of steps S3 to S8 is repeated for the acoustic signal having a predetermined time length newly selected as the processing target. If the processing is completed for all the acquired acoustic signals AS, the processing in FIG. 4 is terminated.

図5は、メモリ102に非一過的に記憶されCPU101によって実行可能なソフトウェアプログラムからなる評価及び表示処理の一例を略示するフローチャートである。この評価及び表示処理は、図4の処理と同時並行的に行われてもよいし、あるいは別の時に行われてもよい。なお、図5に示した評価及び表示処理は、図1の表示部14及び評価部15の動作に相当する。   FIG. 5 is a flowchart schematically showing an example of an evaluation and display process including a software program that is temporarily stored in the memory 102 and can be executed by the CPU 101. This evaluation and display process may be performed concurrently with the process of FIG. 4 or may be performed at another time. 5 corresponds to the operations of the display unit 14 and the evaluation unit 15 in FIG.

ステップS11において、CPU101は、前記取得した音響信号ASが演奏している楽曲の楽譜データを取得し(例えば、図1の前記楽曲データベース20から取得する)、該楽譜データに基づき表示装置104の画面上に楽譜を表示する。参考のために、表示される楽譜の一例を図6(a)において部分的に示す。   In step S11, the CPU 101 acquires score data of the music played by the acquired acoustic signal AS (for example, acquired from the music database 20 of FIG. 1), and the screen of the display device 104 based on the score data. Display the score above. For reference, an example of the displayed score is partially shown in FIG.

ステップS12において、CPU101は、前記取得した楽譜データ中に運弓情報が含まれているかを判定する。運弓情報が含まれていなければ、あるいは一部しか含まれていない場合は、ステップS13に進み、前述したように、通常の運弓ルール(例えば、下げ弓と上げ弓を交互に行う、音の切れ目では弓を返す、小節線直後の音は基本的に下げ弓で弾く、同じ音符内およびスラーやタイの場合は弓を返さない、等)に基づいて、当該楽曲中の各音符に対応づけて運弓情報を自動的に生成し、記憶する。例えば、図6(a)では、符号B1で示す音符箇所に上げ弓を指示する運弓記号が記され、符号B2,B3で示す音符箇所に下げ弓を指示する運弓記号が記されている。ステップS13では、それ以外の音符箇所に関して、通常の運弓ルールに従って模範の運弓情報を生成する。図6(a)に対応して生成される模範の運弓情報の一例を図6(d)に示す。なお、図6(d)においては、公知の音楽記号を用いて上げ弓と下げ弓を示している。   In step S12, the CPU 101 determines whether bow information is included in the acquired musical score data. If the bowing information is not included, or if only a part is included, the process proceeds to step S13, and as described above, the normal bowing rule (for example, a sound in which a lowering bow and a raising bow are alternately performed) It responds to each note in the song based on the same note and the bow in the case of slurs and ties, etc. Then, bowing information is automatically generated and stored. For example, in FIG. 6A, a bowing symbol for instructing a raising bow is written at a note position indicated by a reference symbol B1, and a bowing symbol for instructing a lowering bow is indicated at a note location indicated by reference numerals B2 and B3. . In step S13, model bow information is generated according to a normal bow rule for other note locations. An example of the model bow information generated corresponding to FIG. 6A is shown in FIG. In FIG. 6 (d), the up bow and the down bow are shown using known music symbols.

ステップS14において、CPU101は、前記図4の処理において生成(記憶)した前記弓操作タイミング検出情報BDと運弓推定情報U/Dを取得する。   In step S14, the CPU 101 acquires the bow operation timing detection information BD and the bowing estimation information U / D generated (stored) in the processing of FIG.

ステップS15において、CPU101は、前記取得した弓操作タイミング検出情報BDに基づき、検出した弓操作タイミングを示す適宜のアイコンを表示装置104の画面上に表示し、また、前記取得した運弓推定情報U/Dに基づき、推定した運弓方向を示す適宜のアイコンを表示装置104の画面上に表示する。図6(b)は、検出した弓操作タイミングのアイコン表示例を示しており、この例ではパルス図形で表示される。また、図6(c)は、推定した運弓方向を示すアイコン表示例(つまり、音響信号ASにおける運弓状態)を示しており、この例では上げ弓を示す「U」と下げ弓を示す「D」という文字からなるアイコンが表示される。   In step S15, the CPU 101 displays an appropriate icon indicating the detected bow operation timing on the screen of the display device 104 based on the acquired bow operation timing detection information BD, and also acquires the acquired bowing estimation information U. Based on / D, an appropriate icon indicating the estimated bowing direction is displayed on the screen of the display device 104. FIG. 6B shows an icon display example of the detected bow operation timing. In this example, the icon is displayed as a pulse figure. FIG. 6C shows an example of icon display indicating the estimated bowing direction (that is, the bowing state in the acoustic signal AS). In this example, “U” indicating a raising bow and a lowering bow are indicated. An icon consisting of the letter “D” is displayed.

ステップS16において、CPU101は、前記取得した弓操作タイミング検出情報BDと運弓推定情報U/Dに基づき、該情報BDが示す演奏(発音)タイミングにおける模範の運弓情報とそれに対応する運弓推定情報U/Dとを比較し、評価結果を生成し、表示し、記憶する。図6(c)においては、評価結果を示すアイコンの一例が示されている。すなわち、図6(c)に示す音響信号ASにおける運弓状態と図6(d)に示す模範の運弓情報とを比較すると、音響信号ASにおいては第2小節の2拍目と3拍目の運弓が正しくない。そこで、図6(c)では、運弓が正しくないことを示す所定のアイコンWを、運弓方向を示すアイコン(D又はU)に組み合わせて表示している。   In step S16, based on the acquired bow operation timing detection information BD and bow estimation information U / D, the CPU 101 performs model bow information at the performance (pronunciation) timing indicated by the information BD and the corresponding bow estimation. The information U / D is compared, and an evaluation result is generated, displayed, and stored. FIG. 6C shows an example of an icon indicating the evaluation result. That is, when the bowing state in the acoustic signal AS shown in FIG. 6 (c) is compared with the exemplary bowing information shown in FIG. 6 (d), the second beat and the third beat of the second bar in the acoustic signal AS are compared. Incorrect bowing. Therefore, in FIG. 6C, a predetermined icon W indicating that the bow is not correct is displayed in combination with an icon (D or U) indicating the bow direction.

ステップS17において、CPU101は、評価及び表示処理を終了するかを判定し、NOであれば前記ステップS14に戻り、前記ステップS14〜S17の処理が繰り返される。   In step S17, the CPU 101 determines whether to end the evaluation and display process. If NO, the CPU 101 returns to step S14, and the processes of steps S14 to S17 are repeated.

なお、上記実施例では、音響信号から抽出する対象擦弦楽器の音域外の信号成分が低域ノイズ信号成分である場合について説明したが、これに限らず、楽器本来の音域よりも高域のノイズ信号成分を抽出するようにしてもよい。   In the above-described embodiment, the case where the signal component outside the range of the target bowed instrument extracted from the acoustic signal is a low-frequency noise signal component is not limited to this. You may make it extract a signal component.

以上、この発明の一実施形態を説明したが、この発明は上記実施形態に限定されるものではなく、特許請求の範囲、及び明細書と図面に記載された技術的思想の範囲内において種々の変形が可能である。例えば、インターネットを介して生徒の端末と教師の端末とが接続された教習システムに、この発明に係る演奏分析装置100を適用し得る。その場合、教師の端末(演奏分析装置100)は、その通信I/F106を介してインターネット上の生徒の端末から擦弦楽器演奏の練習音(音響信号AS)を取得し、該取得した練習音に基づく演奏分析(運弓方向推定及び評価)を表示する。教師は、それに基づきコメントするなど生徒に対する指導を行い得る。その場合、教師の端末(演奏分析装置100)は、複数の音響信号ASを同時的に取得し、これらを時分割処理又は並行処理によって同時的に分析し得るように構成されているとよい。あるいは、逆に、生徒の端末(演奏分析装置100)は、その通信I/F106を介してインターネット上の教師の端末から楽器演奏音(手本)を取得し、該取得した演奏音(手本)に基づく演奏分析(運弓方向推定及び評価)を表示するようにしてもよい。生徒は、表示に基づき演奏の特徴を学んだり、自己の演奏分析結果と比較したりするなどして、効果的な練習を行い得る。勿論、各生徒の端末(演奏分析装置100)も、複数の音響信号ASを同時的に取得し、これらを時分割処理又は並行処理によって同時的に分析し得るように構成されていてよい。   Although one embodiment of the present invention has been described above, the present invention is not limited to the above-described embodiment, and various modifications are possible within the scope of the technical idea described in the claims and the specification and drawings. Deformation is possible. For example, the performance analysis apparatus 100 according to the present invention can be applied to a learning system in which a student terminal and a teacher terminal are connected via the Internet. In that case, the teacher's terminal (performance analysis apparatus 100) acquires the practice sound (acoustic signal AS) of the bowed instrument performance from the student's terminal on the Internet via the communication I / F 106, and uses the acquired practice sound as the acquired practice sound. Display performance analysis based on bow direction estimation and evaluation. Teachers can give guidance to students, such as commenting on them. In that case, the teacher's terminal (performance analysis apparatus 100) may be configured to simultaneously acquire a plurality of acoustic signals AS and to analyze them simultaneously by time division processing or parallel processing. Or, conversely, the student terminal (performance analysis apparatus 100) acquires musical instrument performance sounds (examples) from the teacher terminal on the Internet via the communication I / F 106, and the acquired performance sounds (examples). ) Based performance analysis (bowing direction estimation and evaluation) may be displayed. The student can perform effective practice by learning the characteristics of the performance based on the display or comparing with the performance analysis result of the student. Of course, each student's terminal (performance analysis apparatus 100) may be configured to simultaneously acquire a plurality of acoustic signals AS and analyze them simultaneously by time-division processing or parallel processing.

別の例として、複数のユーザの端末(演奏分析装置100)同士を有線又は無線で接続して互いの情報(分析結果である運弓情報を含む)を授受できるようにし、各ユーザの運弓情報が他のユーザによって確認され得るようにしてもよい。例えば、オーケストラ等で複数ユーザがそれぞれ自己の擦弦楽器を演奏しているときに自己の演奏の運弓情報を、自己の端末(演奏分析装置100)から他のユーザの端末(演奏分析装置100)に送信することにより、ユーザ間で運弓方向が異なっているような場合に適切な報知を行うことができるようにする利用の仕方が可能である。また、上記のように有線又は無線で授受される複数ユーザの運弓情報を管理者(指導者又は教師)用の装置において集中管理するように構成してもよく、これにより、運弓を間違えやすい楽譜上の箇所又は間違えにくい楽譜上の箇所や、他の特定のユーザが他のユーザに比べて演奏タイミングが早い/遅い箇所などを統計的に解明することなどが可能であり、また、そのような解明結果を練習演奏中にリアルタイムにユーザや指導者(教師)に報知することが出来るようになる、という効果が期待できる。オーケストラ等では演奏パート毎にそのパートの全奏者の運弓タイミングと運弓方向がそろっていることが大事であるから、この発明を適用することによって、そのための適切なアシストを行うことができる。   As another example, a plurality of users' terminals (performance analysis apparatus 100) are connected to each other by wire or wireless so that each other's information (including the bowing information as an analysis result) can be exchanged. The information may be confirmed by other users. For example, when a plurality of users are playing their own bowed instruments in an orchestra or the like, their own bowing information is sent from their own terminal (performance analysis apparatus 100) to another user's terminal (performance analysis apparatus 100). By transmitting to, it is possible to use it so that appropriate notification can be performed when the bowing direction is different among users. Further, as described above, bowing information of a plurality of users exchanged by wire or wireless may be centrally managed in an apparatus for an administrator (instructor or teacher), thereby making a mistake in bowing. It is possible to statistically elucidate places on the musical score that are easy or difficult to mistake, and places where other specific users have earlier / slower performance timing than other users. Such an elucidated result can be expected to be able to be notified to the user and the instructor (teacher) in real time during the practice performance. In an orchestra or the like, it is important that the bow timing and the bow direction of all players in the part are aligned for each performance part. Therefore, by applying the present invention, appropriate assist can be performed.

また、この発明の演奏分析装置100は、各部10〜16の少なくとも一部の機能をネットワーク上の1以上のコンピュータ装置で分散して行うように構成されてもよい。また、この発明は、コンピュータに、音響信号を取得するステップと、前記音響信号から対象擦弦楽器の音域外の信号成分を抽出するステップと、前記抽出した信号成分のレベルに基づき弓操作タイミングを検出するステップと、を実行させるためのプログラムの発明として構成されてもよい。また、この発明は、音響信号を取得するステップと、前記音響信号から対象擦弦楽器の音域外の信号成分を抽出するステップと、前記抽出した信号成分のレベルに基づき弓操作タイミングを検出するステップとからなる、コンピュータ若しくはプロセッサによって実装される方法の発明として構成されてもよい。   Moreover, the performance analysis apparatus 100 of this invention may be comprised so that at least one part function of each part 10-16 may be distributed and performed by one or more computer apparatuses on a network. The present invention also includes a step of acquiring an acoustic signal in a computer, a step of extracting a signal component outside the range of the target bowed instrument from the acoustic signal, and detecting a bow operation timing based on the level of the extracted signal component. And an invention of a program for executing the step. The present invention also includes a step of acquiring an acoustic signal, a step of extracting a signal component outside the range of the target bowed instrument from the acoustic signal, a step of detecting a bow operation timing based on the level of the extracted signal component, May be configured as a method invention implemented by a computer or processor.

100 演奏分析装置、10 取得部、11 抽出部、12 検出部、13 推定部、14 表示部、15 評価部、16 音域設定部、101 マイクロプロセッサユニット(CPU)、102 メモリ、103 操作装置、104 表示装置、105 オーディオインタフェース、106 通信インタフェース。 DESCRIPTION OF SYMBOLS 100 Performance analyzer, 10 Acquisition part, 11 Extraction part, 12 Detection part, 13 Estimation part, 14 Display part, 15 Evaluation part, 16 Sound range setting part, 101 Microprocessor unit (CPU), 102 Memory, 103 Operating device, 104 Display device, 105 audio interface, 106 communication interface.

Claims (10)

音響信号を取得する取得部と、
前記音響信号から対象擦弦楽器の音域外の信号成分を抽出する抽出部と、
前記抽出した信号成分のレベルに基づき弓操作タイミングを検出する検出部と
を備える演奏分析装置。
An acquisition unit for acquiring an acoustic signal;
An extraction unit for extracting a signal component outside the range of the target stringed instrument from the acoustic signal;
A performance analysis apparatus comprising: a detection unit that detects a bow operation timing based on the level of the extracted signal component.
隣接する弓操作タイミングで挟まれた各区間における前記音響信号の音量の相互関係に基づき、前記検出された各弓操作タイミングにおける運弓方向を推定する推定部
を更に備える請求項1に記載の演奏分析装置。
2. The performance according to claim 1, further comprising an estimation unit configured to estimate a bowing direction at each detected bow operation timing based on a mutual relationship between sound volumes of the acoustic signals in each section sandwiched between adjacent bow operation timings. Analysis equipment.
前記推定部は、第1の弓操作タイミングを始点とする第1区間における前記音響信号の音量が、その直前の第2区間における前記音響信号の音量よりも大きく、かつその音量差が所定の第1閾値より大きい場合、前記第1の弓操作タイミングにおける運弓方向を第1運弓方向と推定し、他方、前記第1区間における前記音響信号の音量が前記第2区間における前記音響信号の音量よりも小さく、かつその音量差が所定の第2閾値より小さい場合、前記第1の弓操作タイミングにおける運弓方向を第2運弓方向と推定する、請求項2に記載の演奏分析装置。   The estimation unit is configured such that the volume of the acoustic signal in the first section starting from the first bow operation timing is larger than the volume of the acoustic signal in the second section immediately before the first bow operation timing, and the volume difference is a predetermined first level. When larger than one threshold, the bowing direction at the first bow operation timing is estimated as the first bowing direction, while the volume of the acoustic signal in the first section is the volume of the acoustic signal in the second section. 3. The performance analysis apparatus according to claim 2, wherein the bowing direction at the first bow operation timing is estimated as the second bowing direction when the volume difference is smaller than the predetermined second threshold value. 前記抽出部は、対象擦弦楽器の音域よりも低域の信号成分を抽出するフィルタを含む、請求項1乃至3のいずれかに記載の演奏分析装置。   The performance analysis apparatus according to claim 1, wherein the extraction unit includes a filter that extracts a signal component having a frequency lower than the sound range of the target stringed musical instrument. 前記検出された弓操作タイミング又は前記推定された運弓方向を示す情報を提示する装置を更に備える、請求項1乃至4のいずれかに記載の演奏分析装置。   The performance analyzer according to claim 1, further comprising a device that presents information indicating the detected bow operation timing or the estimated bow direction. 或る楽曲に関する模範の運弓方向を示す情報と前記推定された運弓方向を示す情報とを比較することにより、前記取得した音響信号における運弓を評価する評価部を更に備える、請求項2乃至4のいずれかに記載の演奏分析装置。   The evaluation part which evaluates the bow in the said acquired acoustic signal is further provided by comparing the information which shows the model bow direction regarding a certain music with the information which shows the said estimated bow direction. The performance analyzer in any one of thru | or 4. 前記取得部が取得する前記音響信号に関して、前記対象擦弦楽器の種類を識別し、該識別した楽器種類に従い前記抽出部で抽出すべき前記信号成分の音域を設定する音域設定部を更に備える、請求項1乃至6のいずれかに記載の演奏分析装置。   The acoustic signal acquired by the acquisition unit further includes a sound range setting unit that identifies a type of the target stringed musical instrument and sets a sound range of the signal component to be extracted by the extraction unit according to the identified musical instrument type. Item 7. The performance analyzer according to any one of Items 1 to 6. 前記取得部は、複数の前記音響信号を有線又は無線で取得するように構成されており、
前記抽出部は、前記取得した音響信号毎に前記信号成分を抽出し、
前記検出部は、前記取得した音響信号毎に前記弓操作タイミングを検出する、請求項1乃至7のいずれかに記載の演奏分析装置。
The acquisition unit is configured to acquire a plurality of the acoustic signals by wire or wirelessly,
The extraction unit extracts the signal component for each acquired acoustic signal,
The performance analysis device according to claim 1, wherein the detection unit detects the bow operation timing for each of the acquired acoustic signals.
請求項1乃至8のいずれかに記載の演奏分析装置を複数具備し、
複数の前記演奏分析装置を有線又は無線で接続して情報を通信しうるように構成したシステム。
A plurality of performance analyzers according to any one of claims 1 to 8,
A system configured to connect a plurality of the performance analysis apparatuses by wire or wirelessly to communicate information.
コンピュータに、
音響信号を取得するステップと、
前記音響信号から対象擦弦楽器の音域外の信号成分を抽出するステップと、
前記抽出した信号成分のレベルに基づき弓操作タイミングを検出するステップと
を実行させるためのプログラム。
On the computer,
Obtaining an acoustic signal;
Extracting a signal component outside the range of the target stringed instrument from the acoustic signal;
And a step of detecting a bow operation timing based on the level of the extracted signal component.
JP2016060921A 2016-03-24 2016-03-24 Performance analyzer and program Active JP6677041B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016060921A JP6677041B2 (en) 2016-03-24 2016-03-24 Performance analyzer and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016060921A JP6677041B2 (en) 2016-03-24 2016-03-24 Performance analyzer and program

Publications (2)

Publication Number Publication Date
JP2017173644A true JP2017173644A (en) 2017-09-28
JP6677041B2 JP6677041B2 (en) 2020-04-08

Family

ID=59973006

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016060921A Active JP6677041B2 (en) 2016-03-24 2016-03-24 Performance analyzer and program

Country Status (1)

Country Link
JP (1) JP6677041B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020177218A (en) * 2019-04-18 2020-10-29 和秀 上森 Multi-channel speaker device

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020177218A (en) * 2019-04-18 2020-10-29 和秀 上森 Multi-channel speaker device

Also Published As

Publication number Publication date
JP6677041B2 (en) 2020-04-08

Similar Documents

Publication Publication Date Title
US7189912B2 (en) Method and apparatus for tracking musical score
CN111052223B (en) Playback control method, playback control device, and recording medium
US10504498B2 (en) Real-time jamming assistance for groups of musicians
US10360889B2 (en) Latency enhanced note recognition method in gaming
US20160104469A1 (en) Musical-performance analysis method and musical-performance analysis device
US9613542B2 (en) Sound source evaluation method, performance information analysis method and recording medium used therein, and sound source evaluation apparatus using same
US20220383842A1 (en) Estimation model construction method, performance analysis method, estimation model construction device, and performance analysis device
JP2008040259A (en) Musical piece practice assisting device, dynamic time warping module, and program
CN113763913A (en) Music score generation method, electronic device and readable storage medium
KR101907276B1 (en) System for practicing musical instrument and method for supporting the practice
JP6677041B2 (en) Performance analyzer and program
Shin et al. Real-time recognition of guitar performance using two sensor groups for interactive lesson
JP5153517B2 (en) Code name detection device and computer program for code name detection
CN113168824B (en) Acoustic analysis method, acoustic analysis device, and model construction method
JP6838357B2 (en) Acoustic analysis method and acoustic analyzer
JP2013003205A (en) Musical score display device, musical score display program and musical score
JP6690446B2 (en) Acoustic analysis device and acoustic analysis method
JP6862667B2 (en) Musical score display control device and program
US11880507B1 (en) Automated musical-score-referenced evaluation of haptic-based rhythmic performance
KR102556571B1 (en) Apparatus for training and testing to improve cognitive and auditory function, method and program of the same
KR20240010344A (en) Method and apparatus for teaching of playing musical instrument
JP2005241716A (en) Device and program for model generation of musical sound decision apparatus for natural musical instrument
WO2019092780A1 (en) Evaluation device and program
WO2024072394A1 (en) Automated musical-score-referenced evaluation of haptic-based rhythmic performance
JP2017078829A (en) Performance analysis device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200225

R151 Written notification of patent or utility model registration

Ref document number: 6677041

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151