JP2016194629A - Plucked string instrument performance evaluation device, music performance device, and plucked string instrument performance evaluation program - Google Patents

Plucked string instrument performance evaluation device, music performance device, and plucked string instrument performance evaluation program Download PDF

Info

Publication number
JP2016194629A
JP2016194629A JP2015074852A JP2015074852A JP2016194629A JP 2016194629 A JP2016194629 A JP 2016194629A JP 2015074852 A JP2015074852 A JP 2015074852A JP 2015074852 A JP2015074852 A JP 2015074852A JP 2016194629 A JP2016194629 A JP 2016194629A
Authority
JP
Japan
Prior art keywords
performance
fingering
string instrument
plucked string
music
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015074852A
Other languages
Japanese (ja)
Other versions
JP6728572B2 (en
Inventor
永介 山下
Eisuke Yamashita
永介 山下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2015074852A priority Critical patent/JP6728572B2/en
Publication of JP2016194629A publication Critical patent/JP2016194629A/en
Application granted granted Critical
Publication of JP6728572B2 publication Critical patent/JP6728572B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Auxiliary Devices For Music (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)

Abstract

PROBLEM TO BE SOLVED: To accurately determine harmonics playing of a plucked string instrument.SOLUTION: The plucked string instrument performance evaluation device of the present invention executes: fingering determination processing of determining a fingering state on the basis of imaging information taken by imaging means for imaging the performance state of a plucked string instrument; performance sound acquisition processing of acquiring a performance sound of the plucked string instrument; and determination processing of determining whether harmonics playing is being performed on the basis of the fingering state determined by the fingering determination processing and the performance sound acquired by the performance sound acquisition processing.SELECTED DRAWING: Figure 7

Description

本発明は、ギター、ベース等の撥弦楽器について、その演奏評価を行う撥弦楽器演奏評価装置、並びに、撥弦楽器の演奏評価を実行可能な楽曲演奏装置に関する。特に、撥弦楽器についてハーモニクス奏法の判定を可能とする撥弦楽器演奏評価装置、楽曲演奏装置に関する。   The present invention relates to a plucked string instrument performance evaluation apparatus that performs performance evaluation of plucked string instruments such as guitars and basses, and a music performance apparatus that can perform performance evaluation of plucked string instruments. In particular, the present invention relates to a plucked string instrument performance evaluation apparatus and a music performance apparatus that can determine the harmonics playing method of a plucked string instrument.

従来、カラオケボックスやスナックなどのナイト店に設置されているカラオケ装置では、楽曲の演奏に合わせて歌唱を楽しむことが行われている。特許文献1には、歌唱のみならず楽器演奏を楽しむことのできるカラオケ装置が提案されている。この特許文献1に開示されるカラオケ装置は、カラオケ演奏されるパートの内、ミュート(消音)できるパートを表示し、利用者から指示されたパートをミュートし、当該パートのマイナスワン演奏を楽しむことができる。さらに、特許文献1に開示されるカラオケ装置では、画面にコード名を表示させて、演奏者に対してどのコードを演奏するべきかを指示し、紙の楽譜を用いずとも演奏を楽しむことが可能となっている。   Conventionally, in karaoke apparatuses installed in night stores such as karaoke boxes and snacks, singing is performed in accordance with the performance of music. Patent Document 1 proposes a karaoke apparatus that can enjoy not only singing but also playing musical instruments. The karaoke apparatus disclosed in Patent Document 1 displays a part that can be muted (muted) among parts played karaoke, and mutes the part instructed by the user to enjoy the minus one performance of the part. Can do. Furthermore, in the karaoke apparatus disclosed in Patent Document 1, the chord name is displayed on the screen, the player is instructed which chord should be played, and the performance can be enjoyed without using a paper score. It is possible.

また、特許文献2には、複数本の弦を連続的に掻き鳴らすことにより演奏音を奏でる撥弦楽器の演奏について、撥弦楽器の演奏音と、予め定められた評価基準とを比較することにより、複数本の弦を1ストローク掻き鳴らす単位弾奏毎に所定の時間間隔で複数回の離散評価を行う離散評価手段と、その離散評価手段による複数回の離散評価に基づいて、その離散評価に対応する単位弾奏を評価する演奏評価手段とを、備えた撥弦楽器演奏評価装置が開示されている。特許文献2に開示される撥弦楽器演奏評価装置は、このような構成により、楽器の演奏音を集音するといった簡単な構成により、1ストローク分の演奏動作に対応して複数点の離散評価を行うことで、その1ストロークの演奏において複数の演奏音が混じり合って奏でられる撥弦楽器の演奏を好適に評価することが可能である。   Further, in Patent Document 2, for the performance of a plucked instrument that plays a performance sound by continuously stroking a plurality of strings, by comparing the performance sound of the plucked string instrument with a predetermined evaluation standard, Corresponding to the discrete evaluation based on the discrete evaluation means for performing a plurality of discrete evaluations at a predetermined time interval for each unit percussion for stroking a plurality of strings, and based on the plurality of discrete evaluations by the discrete evaluation means A plucked string instrument performance evaluation device including performance evaluation means for evaluating a unit performance is disclosed. With such a configuration, the plucked string instrument performance evaluation apparatus disclosed in Patent Document 2 performs a discrete evaluation of a plurality of points corresponding to a performance operation for one stroke with a simple configuration of collecting musical instrument performance sounds. By doing so, it is possible to suitably evaluate the performance of the plucked string musical instrument that is played by mixing a plurality of performance sounds in the one-stroke performance.

特開2001−100771号公報Japanese Patent Laid-Open No. 2001-100771 特許第4934180号公報Japanese Patent No. 4934180

特許文献2に開示される撥弦楽器演奏評価装置は、複数本の弦を1ストロークで掻き鳴らすコード奏法を評価の対象としたものであるが、ギター、ベース等の各種撥弦楽器では、このようなコード奏法以外の奏法が使用されることがある。ハーモニクス奏法は、その1つであり、撥弦楽器において弦に軽く触れることで、現に触れた位置を振動の節とする倍音成分を形成する奏法である。このようなハーモニクス奏法により、普通の音よりも柔らかく澄んだ演奏音を形成することが可能となる。   The plucked string instrument performance evaluation apparatus disclosed in Patent Document 2 is intended for evaluation of a chord playing method in which a plurality of strings are struck in one stroke. In various plucked string instruments such as guitars and basses, Performance techniques other than chord performance may be used. The harmonics playing technique is one of them, and is a playing technique in which a harmonic component is formed by using a plucked instrument lightly touching a string and having the position touched as a node of vibration. Such a harmonics playing method makes it possible to form a performance sound that is softer and clearer than ordinary sounds.

ハーモニクス奏法は、各種楽曲において使用され、楽曲を特徴付ける役割を有している。楽曲をコピーして演奏する際には、ハーモニクス奏法についても忠実に再現することが好ましい。装置を使用して、撥弦楽器の演奏評価を行う場合、特許文献2に開示されるようなコード奏法の評価、あるいは、単音による奏法の評価は、従来から行われていたが、撥弦楽器におけるハーモニクス奏法については、評価の対象とはなっていなかった。   The harmonics playing method is used in various musical pieces and has a role of characterizing the musical piece. When copying and playing music, it is preferable to faithfully reproduce the harmonics playing method. When performing performance evaluation of a plucked string instrument using a device, evaluation of chord performance as disclosed in Patent Document 2 or evaluation of performance based on a single tone has been conventionally performed. The rendition was not subject to evaluation.

本発明は、撥弦楽器における演奏評価において、ハーモニクス奏法の判定を行うことを1つの目的としている。   One object of the present invention is to perform determination of the harmonics playing method in performance evaluation of a plucked string instrument.

そのため、本発明に係る撥弦楽器演奏評価装置は、以下の構成を採用する。
撥弦楽器の演奏の様子を撮像する撮像手段で撮像された撮像情報から運指状態を判定する運指判定処理と、
前記撥弦楽器の演奏音を取得する演奏音取得処理と、
前記運指判定処理で判定された運指状態と、前記演奏音取得処理で取得した演奏音に基づき、ハーモニクス奏法が行われているか否かを判定する判定処理と、を実行する。
Therefore, the plucked string instrument performance evaluation apparatus according to the present invention employs the following configuration.
A fingering determination process for determining a fingering state from imaging information imaged by an imaging means for imaging the performance of a plucked string instrument;
A performance sound acquisition process for acquiring a performance sound of the plucked string instrument;
Based on the fingering state determined in the fingering determination processing and the determination processing for determining whether or not the harmonics performance is performed based on the performance sound acquired in the performance sound acquisition processing.

さらに本発明に係る撥弦楽器演奏評価装置において、
前記判定処理は、運指状態に基づき、弦と指の接触位置を推定し、演奏音中、推定した接触位置に対応する倍音成分の大きさに基づいて、ハーモニクス奏法が行われているか否かを判定する。
Furthermore, in the plucked string instrument performance evaluation apparatus according to the present invention,
The determination process estimates the contact position between the strings and fingers based on the fingering state, and whether or not the harmonics performance is performed based on the magnitude of the harmonic component corresponding to the estimated contact position during the performance sound. Determine.

また本発明に係る楽曲演奏装置は、
再生処理と、前記再生処理に同期して実行される演奏評価処理と、を実行する楽曲演奏装置であって、
前記再生処理は、指定された楽曲情報を再生し、
前記演奏評価処理は、運指判定処理と、前記演奏音取得処理と、判定処理を含んで実行し、
前記運指判定処理は、撥弦楽器の演奏の様子を撮像する撮像手段で撮像された撮像情報から運指状態を判定し、
前記演奏音取得処理は、前記撥弦楽器の演奏音を取得し、
前記判定処理は、前記運指判定処理で判定された運指状態と、前記演奏音取得処理で取得した演奏音に基づき、ハーモニクス奏法が行われているか否かを判定し、評価値を算出する。
In addition, the music performance device according to the present invention,
A music performance device that performs a reproduction process and a performance evaluation process that is executed in synchronization with the reproduction process,
The reproduction process reproduces specified music information,
The performance evaluation process includes a fingering determination process, the performance sound acquisition process, and a determination process.
The fingering determination process determines a fingering state from imaging information imaged by an imaging means for imaging a state of playing a plucked string instrument,
The performance sound acquisition process acquires the performance sound of the plucked string instrument,
The determination process determines whether or not a harmonic performance is performed based on the fingering state determined in the fingering determination process and the performance sound acquired in the performance sound acquisition process, and calculates an evaluation value .

さらに本発明に係る楽曲演奏装置において、
前記楽曲情報には、楽曲の再生進行に対応したハーモニクス奏法による加点区間が設定され、
前記演奏評価処理は、加点区間でハーモニクス奏法を判定した場合、評価値に加点する。
Furthermore, in the music performance device according to the present invention,
In the music information, a score interval by a harmonics playing method corresponding to the progress of music playback is set,
The performance evaluation process adds a score to the evaluation value when the harmonics performance method is determined in the added section.

また本発明に係る撥弦楽器演奏評価プログラムは、
撥弦楽器の演奏の様子を撮像する撮像手段で撮像された撮像情報から運指状態を判定する運指判定処理と、
前記撥弦楽器の演奏音を取得する演奏音取得処理と、
前記運指判定処理で判定された運指状態と、前記演奏音取得処理で取得した演奏音に基づき、ハーモニクス奏法が行われているか否かを判定する判定処理と、をコンピュータに実行させる。
Moreover, the plucked string instrument performance evaluation program according to the present invention includes:
A fingering determination process for determining a fingering state from imaging information imaged by an imaging means for imaging the performance of a plucked string instrument;
A performance sound acquisition process for acquiring a performance sound of the plucked string instrument;
Based on the fingering state determined in the fingering determination process and the determination process for determining whether or not the harmonics performance is performed based on the performance sound acquired in the performance sound acquisition process, the computer is caused to execute.

本発明に係る撥弦楽器演奏評価装置、撥弦楽器演奏評価プログラムによれば、演奏の様子を撮像した撮像情報から運指状態を判定し、判定した運指状態と撥弦楽器の演奏音に基づいて、ハーモニクス奏法が行われているか否かを判定することが可能となり、ハーモニクス奏法を演奏評価の対象とすることが可能となる。撥弦楽器の演奏音のみで判定した場合、ハーモニクス奏法であるのか、倍音成分について演奏しているのか判定することが困難であるが、本発明のように、運指状態を参照することで、ハーモニクス奏法を正しく判定することが可能である。   According to the plucked string instrument performance evaluation apparatus and the plucked instrument performance evaluation program according to the present invention, the fingering state is determined from the imaging information obtained by imaging the state of the performance, and based on the determined fingering state and the performance sound of the plucked string instrument, It is possible to determine whether or not the harmonics performance method is being performed, and the harmonics performance method can be the target of performance evaluation. When it is determined only by the performance sound of the plucked string instrument, it is difficult to determine whether it is a harmonic performance method or a harmonic component, but it is difficult to determine the harmonics by referring to the fingering state as in the present invention. It is possible to correctly determine the performance style.

また、撮像情報では、2次元的に情報を捕らえるため、弦と指の接触位置を正確に特定することが困難である。本発明に係る撥弦楽器演奏評価装置、撥弦楽器演奏評価プログラムでは、運指状態に基づき指と弦の接触位置を推定するとともに、推定した接触位置に対応する倍音成分に基づいてハーモニクス奏法を判定することで、指と弦の位置を正確に特定することなく、ハーモニクス奏法の判定を可能としている。また、指が接触していても弾かない弦が存在する。このような場合であっても、弾弦状態を特定することなく、ハーモニクスの判定を可能としている。   In addition, since the imaging information captures information two-dimensionally, it is difficult to accurately specify the contact position between the string and the finger. In the plucked string instrument performance evaluation apparatus and plucked string instrument performance evaluation program according to the present invention, the contact position between the finger and the string is estimated based on the fingering state, and the harmonic performance method is determined based on the harmonic component corresponding to the estimated contact position. Thus, it is possible to determine the harmonics playing method without accurately specifying the positions of fingers and strings. There are also strings that do not play even if the finger is in contact. Even in such a case, the harmonics can be determined without specifying the string state.

また本発明に係る楽曲演奏装置は、上述する撥弦楽器演奏評価装置を採用することで、楽曲情報の再生に同期して演奏される撥弦楽器の演奏評価を行うことが可能である。さらに、楽曲再生の進行上、適切な位置でハーモニクス奏法が判定された場合、評価値に加点することで、楽曲進行上のハーモニクス奏法に対する評価を可能としている。   In addition, the music performance device according to the present invention can evaluate the performance of a plucked string instrument that is played in synchronization with the reproduction of the music information by employing the above-described plucked string performance evaluation apparatus. Further, when the harmonics performance method is determined at an appropriate position in the progress of music reproduction, the evaluation of the harmonics performance method in the music progression is made possible by adding points to the evaluation value.

本発明の実施形態に係るカラオケシステムの構成を示す図The figure which shows the structure of the karaoke system which concerns on embodiment of this invention. 本発明の実施形態に係る楽曲情報のデータ構成を示す図The figure which shows the data structure of the music information which concerns on embodiment of this invention. 本発明の実施形態に係るメイン処理を示すフロー図The flowchart which shows the main process which concerns on embodiment of this invention 本発明の実施形態に係る楽器用演奏準備処理を示すフロー図The flowchart which shows the performance preparation process for musical instruments which concerns on embodiment of this invention 本発明の実施形態に係る位置決め画像表示の様子を示す図The figure which shows the mode of the positioning image display which concerns on embodiment of this invention 本発明の実施形態に係る楽器演奏処理を示すフロー図The flowchart which shows the musical instrument performance process which concerns on embodiment of this invention 演奏時の撮像状態、及び、フレット上の接触位置候補を説明するための模式図Schematic diagram for explaining imaging state during performance and contact position candidates on the fret 本発明の実施形態に係るハーモニクス奏法に関する周波数成分テーブルFrequency component table related to harmonics performance according to an embodiment of the present invention

では、本発明の実施形態に係る楽曲演奏装置について、カラオケシステムに適用した場合を例にとって説明を行う。図1は、本発明の実施形態に係るカラオケシステムの構成を示す図である。本実施形態におけるカラオケシステムは、カラオケ装置2と、リモコン装置1a、1bにて構成されおり、これらは、LAN100にて、無線、有線で通信可能なように互いに接続されている。   Then, the case where it applies to a karaoke system is demonstrated about the music performance apparatus which concerns on embodiment of this invention as an example. FIG. 1 is a diagram showing a configuration of a karaoke system according to an embodiment of the present invention. The karaoke system in the present embodiment is composed of a karaoke device 2 and remote control devices 1a and 1b, which are connected to each other via a LAN 100 so that they can communicate wirelessly and wiredly.

店舗に設置されるカラオケ装置2は、リモコン装置1(例えば、1a、1b)によりユーザからの各種指示を受け付けることが可能となっている。また、リモコン装置1は表示部11と操作部17が共有されたタッチパネル表示画面を備え、ユーザに対して各種情報を提供することも可能である。リモコン装置1は、LAN100上に設置されたアクセスポイント110を介してカラオケ装置2と無線接続される。図中に示されるように、例えばカラオケ装置2にはリモコン装置1aと1bが対応付けられ、LAN100を介して情報を送受信することが可能となっている。また、リモコン装置1とカラオケ装置2とは赤外線などを利用した近距離通信を行うことも可能である。   The karaoke device 2 installed in the store can accept various instructions from the user by the remote control device 1 (for example, 1a, 1b). In addition, the remote control device 1 includes a touch panel display screen in which the display unit 11 and the operation unit 17 are shared, and can provide various information to the user. The remote control device 1 is wirelessly connected to the karaoke device 2 via an access point 110 installed on the LAN 100. As shown in the figure, for example, the karaoke device 2 is associated with remote control devices 1 a and 1 b, and can transmit and receive information via the LAN 100. In addition, the remote control device 1 and the karaoke device 2 can perform short-range communication using infrared rays or the like.

さらに、本実施形態のカラオケシステムでは、ユーザに各種サービスを提供するためインターネットを介してカラオケ用ホスト5(サーバ装置)が設けられ、その記憶部51には、楽曲情報やユーザ情報など、各種サービスに必要な情報を記憶している。そして、ルータ120を通じて、カラオケ装置2、又はリモコン装置1と、各種情報の送受信が行えるように構成されている。   Furthermore, in the karaoke system of the present embodiment, a karaoke host 5 (server device) is provided via the Internet to provide various services to the user, and the storage unit 51 has various services such as music information and user information. The information necessary for is stored. And it is comprised so that various information can be transmitted / received with the karaoke apparatus 2 or the remote control apparatus 1 through the router 120. FIG.

本発明の実施形態に係る楽曲演奏装置としてのカラオケ装置2は、全体を統括制御する制御部30を中心として機能し、主な機能として、楽曲演奏を実行する楽曲演奏処理を行う。記憶手段としてのハードディスク(HDD)32には、楽曲演奏処理で使用する楽曲情報が記憶されている。   The karaoke apparatus 2 as a music performance apparatus according to the embodiment of the present invention functions mainly with the control unit 30 that performs overall control, and performs a music performance process for executing a music performance as a main function. A hard disk (HDD) 32 serving as a storage means stores music information used in music performance processing.

本実施形態では、カラオケ装置2に対して外部楽器44cを接続可能としている。外部楽器44cとしては、ギター、ベース、バイオリン等、弦を弾くことで演奏音を奏でる各種撥弦楽器を使用することが可能である。外部楽器44cはケーブルを介してカラオケ装置2に接続され、演奏に基づく演奏音情報をカラオケ装置2に送信する。外部楽器44cから入力された演奏音情報は、音響制御部70にて演奏される演奏情報とミキシングされてスピーカ42から放音される。なお、外部楽器44cには、電気的な音響出力を有さないアコースティックな楽器を採用してもよい。その場合には、マイクロホンで拾った楽器音を音響制御部70に入力する、あるいは、スピーカ42を介すことなく楽器自身から放音される音を利用することが考えられる。   In the present embodiment, the external musical instrument 44 c can be connected to the karaoke apparatus 2. As the external musical instrument 44c, it is possible to use various plucked musical instruments such as guitars, basses, violins, and the like that play performance sounds by playing strings. The external musical instrument 44c is connected to the karaoke apparatus 2 via a cable, and transmits performance sound information based on the performance to the karaoke apparatus 2. The performance sound information input from the external musical instrument 44 c is mixed with the performance information played by the acoustic control unit 70 and emitted from the speaker 42. The external musical instrument 44c may be an acoustic musical instrument that does not have an electrical sound output. In that case, it is conceivable that the instrument sound picked up by the microphone is input to the sound control unit 70 or the sound emitted from the instrument itself without using the speaker 42 is used.

さらに、カラオケ装置2は、カメラ43が接続されており、カメラ43が撮像した撮像情報を取り込み可能としている。本実施形態では、このカメラ43にて撮像された撮像情報に基づいて、外部楽器44cによるハーモニクス奏法の判定が行われる。   Furthermore, the karaoke apparatus 2 is connected to a camera 43 and can capture image information captured by the camera 43. In the present embodiment, based on the image information captured by the camera 43, the determination of the harmonics playing method by the external musical instrument 44c is performed.

図2には、カラオケ装置2において再生される楽曲情報のデータ構成を示した図である。楽曲情報は、楽曲情報に関連する各種情報であるメタ情報と、演奏等、各種処理を実行する実情報を含んで構成される。メタ情報には、楽曲情報を識別するための楽曲識別情報、楽曲名、歌手名等が含まれている。   FIG. 2 is a diagram showing a data configuration of music information reproduced in the karaoke apparatus 2. The music information includes meta information, which is various information related to the music information, and actual information for executing various processes such as performance. The meta information includes song identification information for identifying song information, a song name, a singer name, and the like.

楽曲情報の実情報には、演奏情報、歌詞情報、演奏評価情報が含まれている。演奏情報は、MIDI規格に基づいて電子楽器用の制御情報、あるいは、実際の演奏を録音した圧縮音声情報等で構成され、カラオケの伴奏音を演奏するための情報である。歌詞情報は、歌唱補助のため、演奏情報に同期して表示される情報であり、演奏に同期して表示された歌詞の色替えを行うように構成することも可能である。演奏評価情報は、外部楽器44cの演奏を評価するための情報であり、楽曲の進行に対応して旋律情報、コード情報等が含まれている。演奏評価情報は、楽曲の演奏開始(t=0)から演奏終了(t=T3)の間で、所定の区間毎に旋律情報、コード情報と、外部楽器44cから入力された演奏音情報とを比較して、各情報の一致度合いから区間毎の演奏評価値を算出するために用いられる。この他、演奏評価情報には、外部楽器44cによるハーモニクス奏法を行う期間を規定したハーモニクス設定区間情報が含まれている。図2の例では、楽曲の演奏開始時(t=0)から演奏終了時(t=t3)の期間中に、ハーモニクス設定区間(t=T1〜T2)が設けられている。このハーモニクス設定区間中に、外部楽器44cによるハーモニクス奏法が検出された場合、演奏評価値に加点される。   The actual information of the music information includes performance information, lyrics information, and performance evaluation information. The performance information is composed of control information for an electronic musical instrument based on the MIDI standard, compressed audio information recording an actual performance, or the like, and is information for playing an accompaniment sound of karaoke. The lyric information is information that is displayed in synchronization with the performance information in order to assist the singing, and can be configured to change the color of the displayed lyrics in synchronization with the performance. The performance evaluation information is information for evaluating the performance of the external musical instrument 44c, and includes melody information, chord information, and the like corresponding to the progress of the music. The performance evaluation information includes melody information, chord information, and performance sound information input from the external instrument 44c for each predetermined section from the start of performance (t = 0) to the end of performance (t = T3). In comparison, it is used to calculate a performance evaluation value for each section from the degree of coincidence of each information. In addition, the performance evaluation information includes harmonics setting section information that defines a period during which the external musical instrument 44c performs the harmonics playing method. In the example of FIG. 2, the harmonics setting section (t = T1 to T2) is provided during the period from the start of music performance (t = 0) to the end of performance (t = t3). If a harmonics playing method by the external musical instrument 44c is detected during this harmonics setting section, a score is added to the performance evaluation value.

では、本実施形態のカラオケ装置2にて実行されるメイン処理について説明する。図3は、カラオケ装置2で実行されるメイン処理を示すフロー図である。カラオケ装置2の電源投入後、メイン処理が開始されると、カラオケ装置2は、予約テーブルをチェック(S101)し、次に演奏する楽曲の有無を判定する(S102)。予約テーブル中、次に演奏する楽曲が有りと判定された場合(S102:Yes)には、当該予約楽曲について、外部楽器44cの演奏が設定されているか否かを判定する(S103)。外部楽器44cの演奏が設定されていない場合(S103:No)は、当該楽曲に応じた通常演奏処理(S104)を実行する。   Then, the main process performed with the karaoke apparatus 2 of this embodiment is demonstrated. FIG. 3 is a flowchart showing main processing executed by the karaoke apparatus 2. When the main process is started after the karaoke device 2 is turned on, the karaoke device 2 checks the reservation table (S101), and determines whether there is a song to be played next (S102). If it is determined that there is a song to be played next in the reservation table (S102: Yes), it is determined whether or not the performance of the external musical instrument 44c is set for the reserved song (S103). When the performance of the external musical instrument 44c is not set (S103: No), a normal performance process (S104) corresponding to the music is executed.

一方、予約楽曲に外部楽器44cの演奏が設定されている場合(S103:Yes)には、楽器用演奏準備処理(S200)に引き続いて、楽器演奏処理(S300)が実行される。この楽器用演奏準備処理(S200)は、カメラ43の撮像位置に対して演奏者が保持する弦楽器の位置決めを行うための処理である。また、楽器演奏処理(S300)は、指定された楽曲情報中の演奏情報を演奏手段としての音響制御部70に演奏させるとともに、外部楽器44cの演奏評価を行う処理である。特に、本実施形態の外部楽器44cの演奏評価では、外部楽器44c(撥弦楽器)によるハーモニクス奏法の判定を行うことを特徴としている。   On the other hand, when the performance of the external musical instrument 44c is set for the reserved music (S103: Yes), the musical instrument performance process (S300) is executed following the musical instrument performance preparation process (S200). The musical instrument performance preparation process (S200) is a process for positioning the stringed instrument held by the performer with respect to the imaging position of the camera 43. The musical instrument performance process (S300) is a process for performing performance evaluation of the external musical instrument 44c while causing the acoustic control unit 70 as a performance means to perform the performance information in the designated music information. In particular, the performance evaluation of the external musical instrument 44c according to the present embodiment is characterized in that the harmonic performance method is determined by the external musical instrument 44c (plucked string instrument).

まず、楽器用演奏準備処理(位置合わせ処理)について説明する。図4には楽器用演奏準備処理を示すフロー図が示されている。この処理が開始されると、モニタ41には、カメラ43の撮像範囲と楽器の位置合わせを行うための位置決め画像が表示される(S201)。図5には、モニタ41における位置決め画像表示の様子が示されている。図5は、外部楽器44cとしてギターを使用した場合の位置決め画像の例であり、ギターのネック部分の位置決め画像がカメラ43による撮像情報に重畳して表示されている。この位置決め画像には、ネック部分についてフレット位置(1〜4フレット)、弦の位置、指板の位置が示されている。本実施形態では、位置決め画像としてフレット、弦、指板を使用しているが、位置合わせにおいてはフレットの位置のみで行うことも可能である。楽曲で演奏対象となる楽器が決まっている場合、形状は略同じことが予想されるため、フレットの位置合わせを行う程度で、撮像位置と楽器の位置合わせを行うことが可能である。   First, musical instrument performance preparation processing (positioning processing) will be described. FIG. 4 is a flowchart showing the musical instrument performance preparation process. When this processing is started, a positioning image for aligning the imaging range of the camera 43 and the musical instrument is displayed on the monitor 41 (S201). FIG. 5 shows how the positioning image is displayed on the monitor 41. FIG. 5 is an example of a positioning image when a guitar is used as the external musical instrument 44 c, and a positioning image of the neck portion of the guitar is displayed superimposed on imaging information by the camera 43. This positioning image shows the fret position (1 to 4 fret), the position of the string, and the position of the fingerboard for the neck portion. In the present embodiment, a fret, a string, and a fingerboard are used as the positioning image. However, the alignment can be performed only at the position of the fret. When the musical instrument to be played is determined, the shape is expected to be substantially the same, so that the imaging position and the musical instrument can be aligned to the extent that the fret alignment is performed.

カラオケ装置2は、カメラ43による撮像を開始し(S202)、撮像によって得られた撮像情報を左右反転してモニタ41に表示させる(S203)。したがって、モニタ41には、左右反転した撮像情報上に、図5に示す位置決め画像が重畳された状態で表示される。楽器を所持する演奏者は、このモニタ41を見ながら外部楽器44cの位置を、位置決め画像に合わせる。本実施形態では、モニタ41にて撮像情報を左右反転させているため、演奏者はいわば鏡を見ている状態で位置合わせを行うことが可能となっている。   The karaoke apparatus 2 starts imaging by the camera 43 (S202), and causes the monitor 41 to display the imaging information obtained by imaging on the monitor 41 while being reversed horizontally (S203). Therefore, the monitor 41 displays the positioning image shown in FIG. 5 superimposed on the left-right reversed imaging information. A player who has a musical instrument matches the position of the external musical instrument 44c with the positioning image while looking at the monitor 41. In the present embodiment, since the imaging information is reversed left and right on the monitor 41, the performer can perform positioning while looking at the mirror.

カラオケ装置2では、撮像情報中、フレット、弦、指板を画像認識することで取得する(S204)。フレット、弦、指板の画像認識は、例えば、認識対象となる楽器の構成をパターンマッチングすることでその位置を認識することが可能である。演奏者による位置合わせに基づき、フレット、弦、指板が所定位置となったこと(S205:Yes)を条件として、楽器とカメラ43の撮像位置の位置調整は完了する。なお、本実施形態では、ギターの1〜4フレット位置の位置合わせを行うこととしているが、カメラ43はより広角でギターを撮像しており、他のフレット位置における運指状態についても取得可能となっている。また、楽器演奏処理中にはギターの位置が移動することが考えられるが、カラオケ装置2は、楽器演奏処理中、ギターの移動に追従してフレット位置を認識することが可能である。   The karaoke apparatus 2 obtains the image information by recognizing frets, strings, and fingerboard in the imaging information (S204). Image recognition of frets, strings, and fingerboards can be recognized by pattern matching the configuration of musical instruments to be recognized, for example. Based on the alignment by the performer, the position adjustment of the imaging position of the instrument and the camera 43 is completed on the condition that the fret, the string, and the fingerboard are at predetermined positions (S205: Yes). In the present embodiment, the guitar 1 to 4 fret positions are aligned, but the camera 43 images the guitar at a wider angle and can acquire fingering states at other fret positions. It has become. Further, it is conceivable that the position of the guitar moves during the musical instrument performance process, but the karaoke apparatus 2 can recognize the fret position following the movement of the guitar during the musical instrument performance process.

この楽器用演奏準備処理(S200)による撮像位置と楽器の位置合わせ完了後、楽器演奏処理(S300)が開始する。図6には、この楽器用演奏処理を示すフロー図が示されている。楽器演奏処理(S300)が開始すると、予約情報中に指定された楽曲情報の再生を開始する。楽曲情報の再生では、演奏手段としての音響制御部70に指定された予約情報中について、その演奏情報を演奏開始させる(S301)。演奏情報の演奏では、マイナスワン演奏の形態、すなわち、外部楽器44cのパートを抜いて(演奏しない、もしくは音量を下げて演奏する)演奏する形態としてもよい。   After completion of the alignment of the imaging position and the musical instrument by the musical instrument performance preparation process (S200), the musical instrument performance process (S300) is started. FIG. 6 is a flowchart showing the musical instrument performance process. When the musical instrument performance process (S300) is started, the reproduction of the music information specified in the reservation information is started. In the reproduction of the music information, the performance information is started to be played in the reservation information designated by the acoustic control unit 70 as the performance means (S301). The performance information performance may be a minus one performance form, that is, a form in which the part of the external musical instrument 44c is removed (does not perform or performs at a reduced volume).

楽曲情報の再生中には、以下に説明するS302〜S311を繰り返し実行することで、外部楽器44cの演奏評価処理を実行する。演奏評価処理は、楽曲情報中の演奏評価情報を使用して、外部楽器44cによる適切な演奏が行われているか否かを判定し、演奏評価値を算出する処理である。演奏評価処理は、例えば、特許文献2等に記載された演奏評価手法を使用して行うことが可能である。本実施形態では、外部楽器44c(撥弦楽器)によるハーモニクス奏法を検出し、評価可能としたことを特徴としている。図6に示すフロー図は、ハーモニクス奏法に関する評価部分を記載したものである。   During the reproduction of the music information, the performance evaluation process of the external instrument 44c is executed by repeatedly executing S302 to S311 described below. The performance evaluation process is a process for calculating performance evaluation values by determining whether or not an appropriate performance is being performed by the external musical instrument 44c using the performance evaluation information in the music information. The performance evaluation process can be performed using, for example, a performance evaluation method described in Patent Document 2 or the like. The present embodiment is characterized in that a harmonics playing method using an external musical instrument 44c (plucked string instrument) can be detected and evaluated. The flowchart shown in FIG. 6 describes an evaluation part related to the harmonics playing method.

本実施形態では、カメラ43で外部楽器44cの演奏の様子を撮像した撮像情報と、外部楽器44cの演奏音に基づきハーモニクス奏法の判定が行われる。ハーモニクス奏法は、撥弦楽器の弦に軽く触れた状態で、弦を弾くことで、触れた位置を節とする倍音成分を含んだ演奏音を奏でる奏法である。演奏音だけを使用した判定では、ハーモニクス奏法か否かを判定することは困難である。すなわち、同じ周波数の演奏音について、ハーモニクス奏法なのか、押弦した状態の奏法であるかを特定することはできない。本実施形態では、演奏音に加えて運指状態を使用することにより、ハーモニクス奏法を的確に判定することを可能としている。   In the present embodiment, the determination of the harmonic performance method is performed based on imaging information obtained by imaging the performance of the external instrument 44c by the camera 43 and the performance sound of the external instrument 44c. The harmonics playing method is a playing method in which a performance sound including a harmonic component having a node at the touched position is played by playing the string while lightly touching a plucked string. In the determination using only the performance sound, it is difficult to determine whether or not it is a harmonics performance method. In other words, it is impossible to specify whether the performance sound of the same frequency is a harmonic performance technique or a performance technique in a pressed state. In the present embodiment, using the fingering state in addition to the performance sound, it is possible to accurately determine the harmonics playing method.

演奏評価処理では、カメラ43で撮像した撮像情報を取得(S302)、撮像情報からユーザの運指状態を検出する(S303)。図7(A)には、撮像状態を示す模式図が示されている。本実施形態では、ギターのフレット上に位置する手の範囲を手検出範囲Hとして切り出し、フレット上における指の接触位置候補を判定する(S304)。カメラ43で撮像された撮像情報は、2次元的に演奏の様子を捕らえた情報であるため、どの指が、ギターの弦を押さえている、あるいは、ハーモニクス奏法のために接触させているかを特定することができない。本実施形態では、フレット上、手検出範囲Hが被る範囲に位置するフレット位置を、接触位置候補として判定し、演奏音から当該接触位置候補に対応する倍音成分の有無を判定することで、ハーモニクス奏法の有無を判定している。   In the performance evaluation process, image information captured by the camera 43 is acquired (S302), and the fingering state of the user is detected from the image information (S303). FIG. 7A shows a schematic diagram illustrating an imaging state. In this embodiment, the range of the hand located on the guitar fret is cut out as the hand detection range H, and the finger contact position candidate on the fret is determined (S304). Since the imaging information captured by the camera 43 is information that captures the state of the performance two-dimensionally, specify which finger is holding the guitar string or touching it for harmonics playing Can not do it. In the present embodiment, the fret position located in the range covered by the hand detection range H on the fret is determined as a contact position candidate, and the harmonics are determined by determining the presence or absence of a harmonic component corresponding to the contact position candidate from the performance sound. The presence or absence of playing style is judged.

図7(B)は、図7(A)の手検出範囲Hから接触位置候補を抽出した一例である。図中、各弦上、丸印で示す箇所が接触位置候補に相当している。図7(B)の例では、手検出範囲Hが被る範囲のフレット位置全て(図の例では3〜6フレット)を、接触位置候補としている。このような形態では、手検出範囲Hから指の位置を特定する必要が無いため、撮像画像に対する認識処理を簡略化することが可能である。接触位置候補の判定は、手検出範囲Hを使用して厳密に行うこととしてもよい。図7(C)は、他の実施形態について接触位置候補の抽出例を示したものであり、使用する撮像情報は図7(A)の場合と同じである。この場合、手検出範囲Hが被る部分からフレット、及び、弦単位で接触位置候補を抽出している。このような形態では、接触位置候補の数を少なくすることで、後の倍音成分の探索範囲縮小を図ることが可能である。   FIG. 7B is an example in which contact position candidates are extracted from the hand detection range H of FIG. In the figure, the portions indicated by circles on each string correspond to contact position candidates. In the example of FIG. 7B, all the fret positions in the range covered by the hand detection range H (3 to 6 frets in the example in the figure) are the contact position candidates. In such a form, since it is not necessary to specify the position of the finger from the hand detection range H, the recognition process for the captured image can be simplified. The determination of the contact position candidate may be performed strictly using the hand detection range H. FIG. 7C shows an example of extracting contact position candidates for other embodiments, and the imaging information used is the same as in FIG. 7A. In this case, contact position candidates are extracted in units of frets and strings from the portion covered by the hand detection range H. In such a form, it is possible to reduce the search range of subsequent harmonic components by reducing the number of contact position candidates.

撮像情報から接触位置候補の判定完了後、判定した接触位置候補は、ハーモニクス奏法の範囲であるか否かが判定される(S305)。ハーモニクス奏法が可能なフレット位置は、ある程度限られている。例えば、ギターにおいては、2〜5、7、9、12、16フレットがハーモニクス奏法を行い易い位置である。S305では、接触位置候補がこのようなフレット範囲に属するか否かを判定することで、ハーモニクス奏法の有無を判定する。図8には、弦番号とフレット番号に対応したハーモニクス奏法に関する周波数成分テーブルが示されている。この周波数成分テーブルは、演奏評価処理を実行するプログラムにおいて記憶管理される。周波数成分テーブル中「−」で示されている部分は、ハーモニクス奏法が行われない箇所である。カラオケ装置2は、この周波数成分テーブルを参照し、接触候補位置が全て「−」部分である場合(S305:No)、現在の奏法は、通常の奏法と判定し、この区間のギター演奏を評価する演奏評価値を算出し、メモリ27へ一時記憶する(S306)。   After completion of the determination of the contact position candidate from the imaging information, it is determined whether or not the determined contact position candidate is within the harmonics performance range (S305). The fret positions where harmonics can be played are limited to some extent. For example, in a guitar, 2 to 5, 7, 9, 12, and 16 frets are positions where it is easy to perform harmonics. In S305, the presence / absence of the harmonics performance is determined by determining whether or not the contact position candidate belongs to such a fret range. FIG. 8 shows a frequency component table related to the harmonics playing method corresponding to the string number and the fret number. This frequency component table is stored and managed in a program that executes performance evaluation processing. The portion indicated by “−” in the frequency component table is a portion where the harmonics performance is not performed. The karaoke apparatus 2 refers to this frequency component table, and when the contact candidate positions are all “−” portions (S305: No), the current performance method is determined to be a normal performance method, and the guitar performance in this section is evaluated. A performance evaluation value is calculated and temporarily stored in the memory 27 (S306).

一方、周波数成分テーブル中、接触位置候補がハーモニクス奏法の範囲を含む場合(S305:Yes)、カラオケ装置2は、外部楽器44cから入力された演奏音中、周波数成分テーブル中に規定された倍音成分の大きさを判定し、条件を満たす大きさの倍音成分が含まれか否かを判定する(S307)。図7(B)の接触位置候補の場合、図8に示す周波数成分テーブル中の破線で示す範囲(3〜6フレット)が、探索対象となる倍音成分の周波数値である。なお、図7(C)の接触位置候補の場合、図8に示す周波数成分テーブル中の一点鎖線で示す範囲が、探索対象となる倍音成分の周波数値となる。演奏音中、この探索対象となる倍音成分が含まれている場合(S307:Yes)には、現在の奏法はハーモニクス奏法であると判定される(S308)。一方、演奏音中、探索対象となる倍音成分が含まれていない場合(S307:No)、現在の奏法は、通常の奏法と判定する(S306)。   On the other hand, in the frequency component table, when the contact position candidate includes the range of the harmonics performance method (S305: Yes), the karaoke apparatus 2 performs overtone components defined in the frequency component table during the performance sound input from the external instrument 44c. Is determined, and it is determined whether or not a harmonic component having a size satisfying the condition is included (S307). In the case of the contact position candidate in FIG. 7B, the range (3 to 6 frets) indicated by the broken line in the frequency component table shown in FIG. 8 is the frequency value of the harmonic component to be searched. In the case of the contact position candidate in FIG. 7C, the range indicated by the alternate long and short dash line in the frequency component table shown in FIG. 8 is the frequency value of the harmonic component to be searched. If the overtone component to be searched is included in the performance sound (S307: Yes), it is determined that the current performance style is a harmonic performance style (S308). On the other hand, if the overtone component to be searched is not included in the performance sound (S307: No), the current performance style is determined to be a normal performance style (S306).

さらに本実施形態の演奏評価処理では、ハーモニクス奏法が行われた場合、その演奏タイミングが適切であることを条件として高評価を行うこととしている。この演奏タイミングの評価は、図2で説明したハーモニクス設定区間情報で規定されるハーモニクス設定区間を使用して行われる。ハーモニクス奏法が行われたタイミングが、楽曲の再生進行上、ハーモニクス設定区間内である場合(S309:Yes)、演奏評価値に加点を行う(S310)。一方、ハーモニクス設定区間外である場合(S309:No)には加点を行わない。ハーモニクス設定区間の演奏評価値もメモリ27へ一時記憶する。このように本実施形態の演奏評価処理では、ハーモニクス奏法の評価について、ハーモニクス奏法設定区間に行われたことを条件として加点する評価形態を採用することで、ハーモニクス奏法の音高を問わない自由度を持たせている。ハーモニクス奏法の評価としては、他の形態を採用することが可能である。例えば、楽曲の再生期間中、ハーモニクス奏法が行われたことだけを条件として加点することとしてもよい。あるいは、適切なタイミングで、適切な音高のハーモニクス奏法が行われたこと、例えば、原曲の演奏に忠実に演奏されたことを条件として加点する形態としてもよい。   Furthermore, in the performance evaluation process of the present embodiment, when the harmonics performance is performed, high evaluation is performed on the condition that the performance timing is appropriate. The performance timing evaluation is performed using the harmonic setting section defined by the harmonic setting section information described with reference to FIG. If the timing at which the harmonics playing method is performed is within the harmonics setting section in the course of music reproduction (S309: Yes), a score is added to the performance evaluation value (S310). On the other hand, if it is outside the harmonics setting section (S309: No), no points are added. The performance evaluation value of the harmonic setting section is also temporarily stored in the memory 27. As described above, in the performance evaluation process according to the present embodiment, the degree of freedom regardless of the pitch of the harmonics performance method is adopted by adopting an evaluation form that adds points on the condition that the performance method has been performed in the harmonics performance method setting section. Is given. Other forms can be employed for evaluating the harmonics playing method. For example, points may be added only on the condition that the harmonics performance method has been performed during the music reproduction period. Alternatively, a point may be added on the condition that the harmonics performance method with an appropriate pitch is performed at an appropriate timing, for example, the performance is performed faithfully to the performance of the original music.

楽曲の再生が終了する(S311:Yes)と、通常の奏法区間、ハーモニクス奏法設定区間の各区間毎に算出した演奏評価値をメモリ27から読み出し、平均値や最大値など目的に応じた演奏評価結果を算出する。そしてこの楽曲に対する楽器演奏(外部楽器44cに入力された演奏音情報)の演奏評価値に基づく演奏評価結果をモニタ41に表示して(S312)、一連の楽器演奏処理を終了する。演奏評価結果は、演奏時の旋律、コード演奏に対する評価に、ハーモニクス奏法の評価を加えた総合評価を通知する形態としてもよいし、ハーモニクス奏法の評価を別途通知する個別評価としてもよい。   When the reproduction of the music is finished (S311: Yes), the performance evaluation values calculated for each of the normal performance style section and the harmonic performance style setting section are read from the memory 27, and the performance evaluation according to the purpose such as the average value and the maximum value is performed. Calculate the result. Then, the performance evaluation result based on the performance evaluation value of the musical instrument performance (performance sound information input to the external musical instrument 44c) for this musical piece is displayed on the monitor 41 (S312), and the series of musical instrument performance processing ends. The performance evaluation result may be in the form of notifying the overall evaluation in which the evaluation of the harmonics performance method is added to the evaluation for the melody and chord performance at the time of performance, or may be the individual evaluation separately notifying the evaluation of the harmonics performance method.

以上、本実施形態の楽曲演奏装置について、カラオケ装置2を例にとって説明したが、楽曲演奏装置としては、カラオケ装置2に限られるものではなく、電子楽器、ゲーム機などを使用した形態であってもよい。あるいは、楽曲を演奏する機能を有さない装置(撥弦楽器演奏評価装置)として実現することも可能である。あるいは、パーソナルコンピュータやゲーム機などの各種コンピュータにインストールすることで、撥弦楽器演奏評価装置と同じ機能を有する撥弦楽器演奏評価プログラムについても、本発明の範疇に属する。   As mentioned above, although the karaoke apparatus 2 was demonstrated to the example about the music performance apparatus of this embodiment, as a music performance apparatus, it is not restricted to the karaoke apparatus 2, It is a form using an electronic musical instrument, a game machine, etc. Also good. Or it is also possible to implement | achieve as an apparatus (plucked instrument performance evaluation apparatus) which does not have the function to play a music. Alternatively, a plucked string instrument performance evaluation program having the same function as the plucked string instrument performance evaluation apparatus by being installed in various computers such as a personal computer and a game machine also belongs to the category of the present invention.

1(1a、1b):リモコン装置
2:カラオケ装置
5:カラオケ用ホスト
11:表示部
17:操作部
30:制御部
41:モニタ
42:スピーカ
43:カメラ
44c:外部楽器
51:記憶部
70:音響制御部
110:アクセスポイント
120:ルータ
H:手検出範囲
1 (1a, 1b): remote control device 2: karaoke device 5: karaoke host 11: display unit 17: operation unit 30: control unit 41: monitor 42: speaker 43: camera 44c: external instrument 51: storage unit 70: sound Control unit 110: access point 120: router H: hand detection range

Claims (5)

撥弦楽器の演奏の様子を撮像する撮像手段で撮像された撮像情報から運指状態を判定する運指判定処理と、
前記撥弦楽器の演奏音を取得する演奏音取得処理と、
前記運指判定処理で判定された運指状態と、前記演奏音取得処理で取得した演奏音に基づき、ハーモニクス奏法が行われているか否かを判定する判定処理と、を実行する
撥弦楽器演奏評価装置。
A fingering determination process for determining a fingering state from imaging information imaged by an imaging means for imaging the performance of a plucked string instrument;
A performance sound acquisition process for acquiring a performance sound of the plucked string instrument;
Performing a fingering state determined in the fingering determination process and a determination process for determining whether or not a harmonic performance is being performed based on the performance sound acquired in the performance sound acquisition process. apparatus.
前記判定処理は、運指状態に基づき、弦と指の接触位置を推定し、演奏音中、推定した接触位置に対応する倍音成分の大きさに基づいて、ハーモニクス奏法が行われているか否かを判定する
請求項1に記載の撥弦楽器演奏評価装置。
The determination process estimates the contact position between the strings and fingers based on the fingering state, and whether or not the harmonics performance is performed based on the magnitude of the harmonic component corresponding to the estimated contact position during the performance sound. The plucked string instrument performance evaluation apparatus according to claim 1.
再生処理と、前記再生処理に同期して実行される演奏評価処理と、を実行する楽曲演奏装置であって、
前記再生処理は、指定された楽曲情報を再生し、
前記演奏評価処理は、運指判定処理と、前記演奏音取得処理と、判定処理を含んで実行し、
前記運指判定処理は、撥弦楽器の演奏の様子を撮像する撮像手段で撮像された撮像情報から運指状態を判定し、
前記演奏音取得処理は、前記撥弦楽器の演奏音を取得し、
前記判定処理は、前記運指判定処理で判定された運指状態と、前記演奏音取得処理で取得した演奏音に基づき、ハーモニクス奏法が行われているか否かを判定し、評価値を算出する
楽曲演奏装置。
A music performance device that performs a reproduction process and a performance evaluation process that is executed in synchronization with the reproduction process,
The reproduction process reproduces specified music information,
The performance evaluation process includes a fingering determination process, the performance sound acquisition process, and a determination process.
The fingering determination process determines a fingering state from imaging information imaged by an imaging means for imaging a state of playing a plucked string instrument,
The performance sound acquisition process acquires the performance sound of the plucked string instrument,
The determination process determines whether or not a harmonic performance is performed based on the fingering state determined in the fingering determination process and the performance sound acquired in the performance sound acquisition process, and calculates an evaluation value Music performance device.
前記楽曲情報には、楽曲の再生進行に対応したハーモニクス奏法による加点区間が設定され、
前記演奏評価処理は、加点区間でハーモニクス奏法を判定した場合、評価値に加点する
請求項3に記載の楽曲演奏装置。
In the music information, a score interval by a harmonics playing method corresponding to the progress of music playback is set,
The music performance device according to claim 3, wherein the performance evaluation process adds points to the evaluation value when the harmonics performance method is determined in the added section.
撥弦楽器の演奏の様子を撮像する撮像手段で撮像された撮像情報から運指状態を判定する運指判定処理と、
前記撥弦楽器の演奏音を取得する演奏音取得処理と、
前記運指判定処理で判定された運指状態と、前記演奏音取得処理で取得した演奏音に基づき、ハーモニクス奏法が行われているか否かを判定する判定処理と、をコンピュータに実行させる
撥弦楽器演奏評価プログラム。
A fingering determination process for determining a fingering state from imaging information imaged by an imaging means for imaging the performance of a plucked string instrument;
A performance sound acquisition process for acquiring a performance sound of the plucked string instrument;
A plucked string instrument that causes a computer to execute a fingering state determined in the fingering determination process and a determination process for determining whether or not a harmonic performance is performed based on the performance sound acquired in the performance sound acquisition process Performance evaluation program.
JP2015074852A 2015-04-01 2015-04-01 Plucked instrument performance evaluation device, music performance device, and plucked instrument performance evaluation program Active JP6728572B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015074852A JP6728572B2 (en) 2015-04-01 2015-04-01 Plucked instrument performance evaluation device, music performance device, and plucked instrument performance evaluation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015074852A JP6728572B2 (en) 2015-04-01 2015-04-01 Plucked instrument performance evaluation device, music performance device, and plucked instrument performance evaluation program

Publications (2)

Publication Number Publication Date
JP2016194629A true JP2016194629A (en) 2016-11-17
JP6728572B2 JP6728572B2 (en) 2020-07-22

Family

ID=57322845

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015074852A Active JP6728572B2 (en) 2015-04-01 2015-04-01 Plucked instrument performance evaluation device, music performance device, and plucked instrument performance evaluation program

Country Status (1)

Country Link
JP (1) JP6728572B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113327482A (en) * 2021-06-17 2021-08-31 上海松鼠课堂人工智能科技有限公司 String instrument playing teaching method and system based on video monitoring

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113327482A (en) * 2021-06-17 2021-08-31 上海松鼠课堂人工智能科技有限公司 String instrument playing teaching method and system based on video monitoring

Also Published As

Publication number Publication date
JP6728572B2 (en) 2020-07-22

Similar Documents

Publication Publication Date Title
US9821225B2 (en) Game machine, control method used in same, and non-transitory computer readable storage medium
US10504498B2 (en) Real-time jamming assistance for groups of musicians
US10013963B1 (en) Method for providing a melody recording based on user humming melody and apparatus for the same
CN111052223A (en) Playback control method, playback control device, and program
JP2011069900A (en) Thrumming stringed instrument performance evaluation device
CN103782337A (en) System for videotaping and recording a musical group
JP2019053170A (en) Musical instrument practicing device
Dittmar et al. Real-time guitar string detection for music education software
JP6728572B2 (en) Plucked instrument performance evaluation device, music performance device, and plucked instrument performance evaluation program
CN111279412B (en) Sound device and sound control method
WO2019180830A1 (en) Singing evaluating method, singing evaluating device, and program
JP5807754B2 (en) Stringed instrument performance evaluation apparatus and stringed instrument performance evaluation program
CN112420006B (en) Method and device for operating simulated musical instrument assembly, storage medium and computer equipment
JP6277927B2 (en) Music playback device and program of music playback device
JP2013003205A (en) Musical score display device, musical score display program and musical score
JP6056799B2 (en) Program, information processing apparatus, and data generation method
JP5590350B2 (en) Music performance device and music performance program
US9573049B2 (en) Strum pad
WO2023181570A1 (en) Information processing method, information processing system, and program
WO2022172732A1 (en) Information processing system, electronic musical instrument, information processing method, and machine learning system
JP6587396B2 (en) Karaoke device with guitar karaoke scoring function
KR102221143B1 (en) A saxophone performance evaluation system and a saxophone performance evaluation method
WO2023139883A1 (en) Signal processing device and signal processing method
JP2010224430A (en) Automatic music collection device, scale identification program, scale discrimination program, electric traditional stringed musical instrument music automatic collection system, and electric shamisen music automatic collection system
WO2012014198A2 (en) A multi-source pickup system and methods of use thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180402

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190618

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190712

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200615

R150 Certificate of patent or registration of utility model

Ref document number: 6728572

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150