JP6737300B2 - 演奏解析方法、演奏解析装置およびプログラム - Google Patents

演奏解析方法、演奏解析装置およびプログラム Download PDF

Info

Publication number
JP6737300B2
JP6737300B2 JP2018052863A JP2018052863A JP6737300B2 JP 6737300 B2 JP6737300 B2 JP 6737300B2 JP 2018052863 A JP2018052863 A JP 2018052863A JP 2018052863 A JP2018052863 A JP 2018052863A JP 6737300 B2 JP6737300 B2 JP 6737300B2
Authority
JP
Japan
Prior art keywords
performance
time point
performance position
analysis
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018052863A
Other languages
English (en)
Other versions
JP2019164282A (ja
JP2019164282A5 (ja
Inventor
陽 前澤
陽 前澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yamaha Corp
Original Assignee
Yamaha Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yamaha Corp filed Critical Yamaha Corp
Priority to JP2018052863A priority Critical patent/JP6737300B2/ja
Priority to PCT/JP2019/006049 priority patent/WO2019181331A1/ja
Publication of JP2019164282A publication Critical patent/JP2019164282A/ja
Publication of JP2019164282A5 publication Critical patent/JP2019164282A5/ja
Application granted granted Critical
Publication of JP6737300B2 publication Critical patent/JP6737300B2/ja
Priority to US17/008,460 priority patent/US11557270B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/36Accompaniment arrangements
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10GREPRESENTATION OF MUSIC; RECORDING MUSIC IN NOTATION FORM; ACCESSORIES FOR MUSIC OR MUSICAL INSTRUMENTS NOT OTHERWISE PROVIDED FOR, e.g. SUPPORTS
    • G10G1/00Means for the representation of music
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/061Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for extraction of musical phrases, isolation of musically relevant segments, e.g. musical thumbnail generation, or for temporal structure analysis of a musical piece, e.g. determination of the movement sequence of a musical work
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/091Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for performance evaluation, i.e. judging, grading or scoring the musical qualities or faithfulness of a performance, e.g. with respect to pitch, tempo or other timings of a reference performance
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/325Synchronizing two or more audio tracks or files according to musical features or musical timings

Description

本発明は、楽曲の演奏を解析する技術に関する。
楽曲のうち演奏者が演奏している位置を解析する技術が従来から提案されている。例えば特許文献1および特許文献2には、演奏者が実際に演奏した楽曲の演奏音から演奏位置を推定し、演奏位置の進行に同期するように伴奏パートの演奏音の再生を制御する技術が開示されている。
特開2016−099512号公報 国際公開第2018/016639号
前述の技術のもとで推定される演奏位置には誤差が発生し得る。演奏位置に誤差が発生した場合、例えば利用者からの指示に応じて演奏位置を補正することが想定される。しかし、誤差が発生した時点で推定されている演奏位置を起点として以後の演奏位置を補正する構成では、演奏位置を迅速かつ簡便に適切な位置に補正することが難しい場合がある。以上の事情を考慮して、本発明の好適な態様は、演奏位置を迅速かつ簡便に適切な位置に補正することを目的とする。
以上の課題を解決するために、本発明の好適な態様に係る演奏解析方法は、楽曲の演奏音を表す音響信号に対する解析処理で前記楽曲内の演奏位置を順次に推定し、前記解析処理で推定された演奏位置を、時間軸上の第1時点において、前記第1時点から前方に離間した選択期間について前記解析処理で推定された演奏位置の時系列に応じた演奏位置に変更する。
本発明の好適な態様に係る演奏解析装置は、楽曲の演奏音を表す音響信号に対する解析処理で前記楽曲内の演奏位置を順次に推定する推定部と、前記解析処理で推定された演奏位置を、時間軸上の第1時点において、前記第1時点から前方に離間した選択期間について前記解析処理で推定された演奏位置の時系列に応じた演奏位置に変更する制御部とを具備する。
本発明の第1実施形態に係る演奏システムの構成を例示するブロック図である。 情報処理装置の構成を例示するブロック図である。 情報処理装置の機能的な構成を例示するブロック図である。 演奏位置の時間的な変化を例示するグラフである。 情報処理装置の動作の手順を例示するフローチャートである。
<第1実施形態>
図1は、本発明の第1実施形態に係る演奏システム100の構成を例示するブロック図である。演奏システム100は、演奏者H1が所在する音響ホール等の音響空間に設置されたコンピュータシステムである。演奏者H1は、例えば楽器を利用して楽曲を演奏する演奏者、または楽曲を歌唱する歌唱者である。以下の説明における「演奏」には、楽器の演奏のほかに歌唱も包含される。演奏システム100は、演奏者H1による楽曲の演奏に並行して当該楽曲の自動演奏を実行する。図1に例示される通り、第1実施形態の演奏システム100は、情報処理装置11と演奏装置12とを具備する。
演奏装置12は、情報処理装置11による制御のもとで楽曲の自動演奏を実行する。具体的には、演奏装置12は、駆動機構121と発音機構122とを具備する自動演奏楽器(例えば自動演奏ピアノ)である。発音機構122は、自然楽器の鍵盤楽器と同様に、鍵盤の各鍵の変位に連動して弦(発音体)を発音させる打弦機構を鍵毎に具備する。駆動機構121は、発音機構122を駆動することで対象楽曲の自動演奏を実行する。情報処理装置11からの指示に応じて駆動機構121が発音機構122を駆動することで自動演奏が実現される。なお、情報処理装置11を演奏装置12に搭載してもよい。
図2は、情報処理装置11の構成を例示するブロック図である。情報処理装置11は、例えばスマートフォンまたはタブレット端末等の可搬型の情報端末、またはパーソナルコンピュータ等の可搬型または据置型の情報端末である。図2に例示される通り、情報処理装置11は、制御装置21と記憶装置22と収音装置23と入力装置24とを具備する。
収音装置23は、演奏者H1による演奏で発音された演奏音M1(例えば楽器音または歌唱音等の音響)を収音するマイクロホンである。収音装置23は、演奏音M1の波形を表す音響信号Zを生成する。音響信号Zをアナログからデジタルに変換するA/D変換器の図示は便宜的に省略した。なお、情報処理装置11が収音装置23を具備する構成を図2では例示したが、情報処理装置11とは別体の収音装置23を情報処理装置11に有線または無線で接続してもよい。また、電気弦楽器等の電気楽器から出力される音響信号Zを情報処理装置11に供給してもよい。すなわち、収音装置23は省略されてもよい。
入力装置24は、情報処理装置11を使用する利用者H2からの指示を受付ける入力機器である。例えば、利用者H2が操作する複数の操作子、または利用者H2による接触を検知するタッチパネルが、入力装置24として好適に利用される。利用者H2は、例えば演奏システム100の管理者、または演奏者H1が出演する演奏会の運営者である。利用者H2は、図1に例示される通り、演奏者H1による演奏で発音された演奏音M1と、演奏装置12による自動演奏で発音された演奏音M2とを聴取する。
図2の制御装置21は、例えばCPU(Central Processing Unit)等の処理回路であり、情報処理装置11の各要素を統括的に制御する。記憶装置22は、制御装置21が実行するプログラムと制御装置21が使用する各種のデータとを記憶するメモリである。例えば磁気記録媒体もしくは半導体記録媒体等の公知の記録媒体、または複数種の記録媒体の組合せで記憶装置22が構成される。なお、情報処理装置11とは別体の記憶装置22を用意し、制御装置21が通信網を介して記憶装置22に対する書込および読出を実行してもよい。すなわち、記憶装置22を情報処理装置11から省略してもよい。
第1実施形態の記憶装置22は楽曲データを記憶する。楽曲データは、楽曲を構成する音符の時系列を指定する。具体的には、楽曲データは、楽曲を構成する複数の音符の各々について音高と音量と発音期間とを指定する。例えば、MIDI(Musical Instrument Digital Interface)規格に準拠した形式のファイル(SMF:Standard MIDI File)が楽曲データとして好適である。
図3は、情報処理装置11の機能的な構成を例示するブロック図である。図3に例示される通り、制御装置21は、記憶装置22に記憶されたプログラムを実行することで、演奏者H1による演奏に応じて演奏装置12の自動演奏を制御するための複数の機能(演奏解析部31および演奏制御部32)を実現する。なお、複数の処理回路の集合で制御装置21の機能を実現してもよいし、制御装置21の機能の一部または全部を専用の電子回路で実現してもよい。また、演奏装置12が設置された音響空間から離間した位置にあるサーバ装置が、制御装置21の一部または全部の機能を実現してもよい。
演奏解析部31は、収音装置23から供給される音響信号Zを解析することで楽曲内の演奏位置Pを特定する。演奏位置Pは、楽曲のうち演奏者H1が現に演奏している時点である。演奏位置Pの特定は、演奏者H1による楽曲の演奏に並行して反復的に実行される。演奏解析部31が特定する演奏位置Pは、時間の経過とともに楽曲内の後方に移動する。以上の説明から理解される通り、第1実施形態の情報処理装置11は、音響信号Zの解析により演奏位置Pを特定する演奏解析装置として機能する。
演奏制御部32は、演奏者H1による楽曲の演奏に並行して演奏装置12による自動演奏を制御する。演奏制御部32は、演奏解析部31が特定した演奏位置Pに応じて自動演奏を制御する。具体的には、演奏制御部32は、演奏装置12による自動演奏が演奏者H1の演奏に追従するように演奏位置Pに応じて自動演奏の進行を制御する。すなわち、演奏制御部32は、楽曲データが演奏位置Pについて指定する演奏を演奏装置12に対して指示する。例えば楽曲データで指定された音符の発音または消音の指示(例えばMIDIイベントデータ)が演奏制御部32から演奏装置12に出力される。
図3に例示される通り、第1実施形態の演奏解析部31は、推定部41と演算部42と制御部43とを具備する。推定部41は、収音装置23が生成した音響信号Zを解析する所定の処理(以下「解析処理」という)で演奏位置Pxを順次に推定する。すなわち、時間軸上の相異なる時点について解析処理により演奏位置Pxが推定される。演奏位置Pxの推定(すなわち解析処理)には、例えば特許文献1または特許文献2等に開示された公知の音響解析技術(スコアアライメント)が任意に採用される。図3に例示される通り、推定部41が順次に推定する演奏位置Pxの時系列は記憶装置22に記憶される。すなわち、推定部41による推定結果の履歴が記憶装置22に保持される。
制御部43は、演奏位置Pを特定する。制御部43が特定した演奏位置Pが演奏制御部32に指示される。第1実施形態の制御部43は、基本的には、推定部41が推定した演奏位置Pxを演奏位置Pとして特定する。ただし、推定部41が解析処理により推定する演奏位置Pxには誤差が発生する可能性がある。第1実施形態の制御部43は、演奏位置Pxに誤差が発生した場合に、解析処理で推定された演奏位置Pxを、誤差が低減された演奏位置Pyに変更する。すなわち、演奏制御部32に指示される演奏位置Pが、演奏位置Pxから演奏位置Pyに補正される。図3の演算部42は、演奏位置Pの補正に利用される演奏位置Pyを特定する。
図4は、演奏位置Pの時間的な変化を例示するグラフである。図4の誤差期間Eは、演奏位置Pxの誤差が経時的に増大する期間である。演奏位置Pxに誤差が発生した場合、利用者H2は、演奏者H1による楽器の演奏音M1と演奏装置12による自動演奏の演奏音M2との間の時間的なズレを知覚することで、演奏位置Pxに誤差が発生したと判断することが可能である。演奏位置Pxに誤差が発生したと判断すると、利用者H2は、入力装置24に対する操作で所定の指示(以下「第1指示」という)を付与する。図4の時点t1(第1時点の例示)は、入力装置24に対する第1指示に応じた時点である。例えば利用者H2が第1指示を付与した時点が時点t1として設定される。以上の説明から理解される通り、時点t1は、解析処理で推定された演奏位置Pxに誤差が発生している時点である。制御部43は、利用者H2からの第1指示を契機として、時点t1において、演奏位置Pを演奏位置Pxから演奏位置Pyに変更する。
演算部42は、時点t1の前方に位置する選択期間Qについて推定部41が過去の解析処理で推定した演奏位置Pxの時系列から演奏位置Pyを特定(具体的には外挿)する。選択期間Qは、始点q1から終点q2までの期間である。選択期間Qの始点q1は終点q2の前方の時点である。他方、選択期間Qの終点q2は、第1指示に応じた時点t1から所定の時間長δだけ時間軸上の前方に離間した時点である。時間長δは、演奏位置Pxに誤差が発生し始めてから利用者H2が第1指示を付与するまでに想定される時間長を上回る時間長に設定される。例えば選択期間Qの始点q1は時点t1の5秒前に設定され、終点q2は時点t1の2秒前に設定される。したがって、選択期間Q内では、解析処理で推定された演奏位置Pxに誤差が発生していない可能性が高い。すなわち、選択期間Qは、誤差期間Eの始点よりも前方の期間である。第1実施形態の演算部42は、以上に説明した選択期間Q内の演奏位置Pxの時系列(すなわち誤差が発生していない演奏位置Pxの時系列)から、当該選択期間Qよりも後方の時点t1での演奏位置Pyを特定する。
演算部42が選択期間Q内の演奏位置Pxの時系列から時点t1の演奏位置Pyを特定する処理(すなわち外挿)には、公知の時系列解析が任意に採用される。具体的には、線形予測、多項式予測またはカルマンフィルタ等の予測技術が演奏位置Pyの特定に好適に利用される。前述の通り、制御部43は、演奏制御部32に指示する演奏位置Pを、時点t1において演奏位置Pxから演奏位置Pyに変更する。
以上に例示した手順で演奏位置Pが補正されると、演奏者H1による楽器の演奏音M1と自動演奏の演奏音M2との間の時間的なズレが誤差期間Eと比較して低減される。演奏位置Pの誤差が解消したと判断すると、利用者H2は、入力装置24に対する操作で所定の指示(以下「第2指示」という)を付与する。図4において時点t1の後方に位置する時点t2(第2時点の例示)は、入力装置24に対する第2指示に応じた時点である。例えば利用者H2が第2指示を付与した時点が時点t2として設定される。
時点t1と時点t2との間の期間(以下「調整期間」という)Aにおいて、利用者H2は、入力装置24に対する操作で演奏位置Pを調整することが可能である。制御部43は、調整期間A内における演奏位置Pの推移を入力装置24に対する利用者H2からの指示に応じて制御する。例えば、制御部43は、利用者H2からの指示に応じた速度で演奏位置Pを進行させる。また、制御部43は、利用者H2からの指示に応じて演奏位置Pの進行を停止させる。図4では、調整期間A内において利用者H2が演奏位置Pを進行させた場合が例示されている。調整期間Aにおける演奏位置Pは、当該調整期間Aの始点(時点t1)における変更後の演奏位置Pyを起点として設定される。推定部41による推定の結果(演奏位置Px)は、調整期間A内では演奏位置Pに反映されない。以上の説明から理解される通り、調整期間Aでは、演算部42が特定した演奏位置Pyを初期値として、利用者H2からの指示に応じて演奏位置Pが調整される。
推定部41は、調整期間A内において解析処理による演奏位置Pxの推定を停止する。すなわち、利用者H2による第1指示を契機として解析処理が停止される。他方、調整期間Aが終了する時点t2において、推定部41は、解析処理による演奏位置Pxの推定を再開する。具体的には、推定部41は、時点t2について特定された演奏位置Pを起点(すなわち初期値)として時点t2以降の演奏位置Pxの推定を再開する。制御部43は、時点t2以降(すなわち調整期間Aの経過後)においては、推定部41が解析処理により順次に推定する演奏位置Pxを、演奏位置Pとして演奏制御部32に指示する。解析処理により推定された演奏位置Pxの時系列は、時点t1以前と同様に記憶装置22に記憶される。なお、調整期間A以外の期間でも利用者H2による演奏位置Pの調整は許容される。ただし、調整期間A以外では利用者H2による演奏位置Pの調整を禁止してもよい。
図5は、制御装置21が実行する処理の具体的な手順を例示するフローチャートである。例えば入力装置24に対する所定の操作を契機として図5の処理が開始される。図5の処理を開始すると、推定部41は、音響信号Zに対する解析処理により演奏位置Pxを推定する(S1)。推定部41が推定した演奏位置Pxは、演奏位置Pとして演奏制御部32に指示されるとともに(S2)、記憶装置22に記憶される(S3)。制御部43は、利用者H2から第1指示が付与されたか否かを判定する(S4)。解析処理による演奏位置Pxの推定(S1)と指示(S2)と記憶(S3)とは、第1指示が付与されるまで反復される(S4:NO)。
利用者H2から第1指示が付与されると(S4:YES)、推定部41による解析処理が停止される(S5)。演算部42は、第1指示の時点t1の前方を終点q2とする選択期間Q内の演奏位置Pxの時系列から演奏位置Pyを算定する(S6)。制御部43は、演奏制御部32に指示する演奏位置Pを、推定部41が推定した最新の演奏位置Pxから、演算部42が算定した演奏位置Pyに変更する(S7)。
以上の手順により演奏制御部32に対する演奏位置Pyの指示が開始されると、制御部43は、演奏位置Pを調整する指示が利用者H2から付与されたか否かを判定する(S8)。制御部43は、利用者H2からの指示に応じて演奏位置Pを調整する(S9)。利用者H2から調整の指示が付与されない場合(S8:NO)、演奏位置Pの調整は実行されない。
制御部43は、利用者H2から第2指示が付与されたか否かを判定する(S10)。利用者H2からの指示に応じた演奏位置Pの調整(S8,S9)は、第2指示が付与されるまで反復される(S10:NO)。利用者H2から第2指示が付与されると(S10:YES)、推定部41による解析処理が再開される(S1)。
以上に説明した通り、第1実施形態では、時間軸上の時点t1において、解析処理で推定された演奏位置Pxが、当該時点t1から前方に離間した選択期間Qについて推定された演奏位置Pxの時系列に応じた演奏位置Pyに変更される。したがって、解析処理で推定される演奏位置Pxについて時点t1の直前(例えば選択期間Qの経過後)に誤差が発生した場合に、時点t1以降の演奏位置Pを迅速かつ簡便に適切な位置に補正することができる。
例えば、利用者H2が第1指示を付与する時点t1では演奏位置Pxに既に誤差が発生しているから、当該時点t1での演奏位置Pxを起点として以降の演奏位置Pを利用者H2が適切な位置に調整することが難しい場合がある。第1実施形態では、解析処理で推定された演奏位置Pが、誤差の発生前における演奏位置Pxの時系列に応じた演奏位置Pyに補正される。演奏位置Pyは、誤差が発生していないと仮定した場合の適切な演奏位置Pに近似する可能性が高い。すなわち、演奏位置Pの誤差の解消のために必要な演奏位置Pの調整量が削減される。したがって、利用者H2が演奏位置Pを調整する作業が簡素化されるという利点がある。
また、第1実施形態では、入力装置24に対する第1指示を契機として演奏位置Pが補正されるから、利用者H2が演奏位置Pの誤差を認識した直後に演奏位置Pを適切な位置に補正することが可能である。すなわち、利用者H2は所望の時点で演奏位置Pの制御に関与できる。また、時点t1の後方における演奏位置Pの推移が入力装置24に対する指示に応じて制御されるから、楽曲のうち演奏位置Pxの正確な推定が困難である期間について、利用者H2からの指示に応じて演奏位置Pを適切に推移させることができる。
第1実施形態では、時点t1と時点t2との間の調整期間A内において解析処理が停止されるから、調整期間A内でも解析処理が継続される構成と比較して、調整期間A内における推定部41の処理負荷が軽減される。また、時点t2における演奏位置Pを起点として解析処理による演奏位置Pxの推定が再開されるから、時点t2以降についても演奏位置Pを適切に推移させることが可能である。
<第2実施形態>
本発明の第2実施形態を説明する。なお、以下の各例示において機能が第1実施形態と同様である要素については、第1実施形態の説明で使用した符号を流用して各々の詳細な説明を適宜に省略する。
第2実施形態では、演算部42が演奏位置Pyを特定する処理(S6)の内容が第1実施形態とは相違する。具体的には、第2実施形態の演算部42は、複数の暫定的な演奏位置(以下「暫定位置」という)から演奏位置Pyを算定する。複数の暫定位置の各々は、選択期間Q内の演奏位置Pxの時系列から算定される。ただし、暫定位置を特定する条件が複数の暫定位置の各々について相違する。暫定位置の特定の条件としては、例えば以下の事項が例示される。
[1]暫定位置を特定する方法(線形予測/多項式予測/カルマンフィルタ)。
[2]選択期間Qの時間軸上の位置(始点q1または終点q2の時刻)および時間長。
[3]暫定位置の特定に利用される演奏位置Pxの個数。
以上に例示した条件を相違させた複数の場合の各々について演算部42は暫定位置を特定する。したがって、複数の暫定位置の各々は相異なる位置となる。
演算部42は、複数の暫定位置から演奏位置Pyを特定する。例えば演算部42は、複数の暫定位置の代表値(例えば平均値または中央値)を演奏位置Pyとして特定する。なお、複数の暫定位置から演奏位置Pyを特定する方法は任意である。例えば、複数の暫定位置のうち利用者H2が指定した位置に最も近い1個の暫定位置を演奏位置Pyとして特定してもよい。
第2実施形態においても第1実施形態と同様の効果が実現される。また、第2実施形態では、相異なる条件で特定された複数の暫定位置から演奏位置Pyが特定されるから、時点t1における演奏位置Pyを適切な位置に設定し易いという利点がある。例えば特定の条件のもとでは演奏位置Pxに誤差が発生する可能性が高い場合でも、相異なる条件に対応する複数の暫定位置を加味することで、誤差を低減した正確な演奏位置Pyを特定できる。
<変形例>
以上に例示した各態様に付加される具体的な変形の態様を以下に例示する。以下の例示から任意に選択された2個以上の態様を、相互に矛盾しない範囲で適宜に併合してもよい。
(1)演奏位置Pxを特定する解析処理では、当該演奏位置Pxの信頼性の指標(以下「信頼度」という)を算定することが可能である。例えば、時間軸上の各時点が演奏位置に該当する確率(尤度)から演奏位置Pxを特定する解析処理を想定すると、演奏位置Pxにおける確率が信頼度として好適に利用される。時間軸上の各時点が演奏位置に該当する確率は、音響信号Zが観測された条件のもとで当該時点が演奏位置Pxである事後確率である。演奏位置Pxの誤差が小さいほど、当該演奏位置Pxの信頼度は大きい数値となる。以上に説明した各演奏位置Pxの信頼度を演奏位置Pyの特定に利用してもよい。
例えば、演奏位置Pxの信頼度が所定の閾値を上回る一連の期間を選択期間Qとして演算部42が演奏位置Pyを特定してもよい。すなわち、信頼度が閾値を上回る複数の演奏位置Pxから演奏位置Pyが特定される。また、所定の選択期間Q内の複数の演奏位置Pxのうち信頼度が閾値を上回る2個以上の演奏位置Pxから演奏位置Pyを特定してもよい。
(2)前述の各形態では、利用者H2による第1指示の時点を時点t1として例示したが、時点t1の設定方法は以上の例示に限定されない。例えば、演奏位置Pxの信頼度が所定の閾値を下回る数値まで低下した時点を時点t1として設定してもよい。すなわち、演奏位置Pxの信頼度が閾値を下回ることを契機として演奏位置Pxが演奏位置Pyに変更される。以上の説明から理解される通り、利用者H2からの第1指示の受付を省略してもよい。
(3)前述の各形態では、調整期間A内において解析処理を停止したが、解析処理を停止させる動作を省略してもよい。例えば、時点t1の直後から、推定部41が、当該時点t1での変更後の演奏位置Pを起点とした解析処理により演奏位置Pxを推定してもよい。すなわち、利用者H2による演奏位置Pの調整(調整期間A)を省略してもよい。
(4)前述の各形態では、推定部41が解析処理により演奏位置Pxを推定したが、演奏位置Pxとともに演奏速度(テンポ)Txを推定部41が推定してもよい。同様に、演算部42は、選択期間Q内の演奏位置Pxの時系列から演奏位置Pyを算定する処理に加えて、選択期間Q内の演奏速度Txの時系列から時点t1での演奏速度Tyを算定してもよい。制御部43は、時点t1の直後に演奏位置Pを演奏速度Tyで変化させる。
(5)前述の形態に係る情報処理装置11の機能は、コンピュータ(例えば制御装置21)とプログラムとの協働により実現される。本発明の好適な態様に係るプログラムは、楽曲の演奏音M1を表す音響信号Zから楽曲内の演奏位置Pxを順次に推定する解析処理(S1)と、解析処理で推定された演奏位置Pxを、時間軸上の時点t1において、選択期間Qについて解析処理で推定された演奏位置Pxの時系列に応じた演奏位置Pyに変更する制御処理(S7)とをコンピュータに実行させる。以上の形態に係るプログラムは、コンピュータが読取可能な記録媒体に格納された形態で提供されてコンピュータにインストールされる。記録媒体は、例えば非一過性(non-transitory)の記録媒体であり、CD-ROM等の光学式記録媒体(光ディスク)が好例であるが、半導体記録媒体または磁気記録媒体等の公知の任意の形式の記録媒体を含む。なお、非一過性の記録媒体とは、一過性の伝搬信号(transitory, propagating signal)を除く任意の記録媒体を含み、揮発性の記録媒体を除外するものではない。また、通信網を介した配信の形態でプログラムをコンピュータに提供してもよい。
<付記>
以上に例示した形態から、例えば以下の構成が把握される。
本発明の好適な態様(第1態様)に係る演奏解析方法は、楽曲の演奏音を表す音響信号に対する解析処理で前記楽曲内の演奏位置を順次に推定し、前記解析処理で推定された演奏位置を、時間軸上の第1時点において、前記第1時点から前方に離間した選択期間について前記解析処理で推定された演奏位置の時系列に応じた演奏位置に変更する。以上の態様では、時間軸上の第1時点において、解析処理で推定された演奏位置が、当該第1時点から前方に離間した選択期間について推定された演奏位置の時系列に応じた演奏位置に変更される。したがって、解析処理で推定される演奏位置について第1時点の直前(例えば選択期間の経過後)に誤差が発生した場合に、第1時点以降の演奏位置を迅速かつ簡便に適切な位置に補正することができる。
第1態様の好適例(第2態様)において、前記第1時点は、利用者からの指示に応じた時点である。以上の態様では、利用者からの指示に応じた時点が第1時点とされるから、例えば利用者が演奏位置の誤差を認識した直後に演奏位置を適切な位置に補正することが可能である。
第1態様または第2態様の好適例(第3態様)において、前記第1時点の後方における演奏位置の推移を利用者からの指示に応じて制御する。以上の態様では、第1時点の後方における演奏位置の推移が利用者からの指示に応じて制御されるから、楽曲内で演奏位置の正確な推定が困難である期間について、利用者からの指示に応じて演奏位置を適切に推移させることが可能である。
第3態様の好適例(第4態様)において、前記第1時点と当該第1時点の後方の第2時点との間の調整期間では、前記解析処理による前記演奏位置の推定を停止し、前記第2時点において、当該第2時点における演奏位置を起点として前記解析処理による前記演奏位置の推定を再開する。以上の態様では、第1時点と第2時点との間の調整期間内において解析処理による演奏位置の推定が停止されるから、調整期間内における推定部の処理負荷が軽減される。また、第2時点における演奏位置を起点として解析処理による演奏位置の推定が再開されるから、第2時点以降についても演奏位置を適切に推移させることが可能である。
第1態様から第4態様の何れかの好適例(第5態様)において、前記変更後の演奏位置は、相異なる条件で特定された複数の暫定位置から特定される。以上の態様では、相異なる条件で特定された複数の暫定位置から変更後の演奏位置が特定されるから、第1時点における演奏位置を適切な位置に設定し易いという利点がある。
以上に例示した各態様の演奏解析方法を実行する演奏解析装置、または、以上に例示した各態様の演奏解析方法をコンピュータに実行させるプログラムとしても、本発明の好適な態様は実現される。
100…演奏システム、11…情報処理装置、12…演奏装置、121…駆動機構、122…発音機構、21…制御装置、22…記憶装置、23…収音装置、24…入力装置、31…演奏解析部、32…演奏制御部、41…推定部、42…演算部、43…制御部。

Claims (11)

  1. 楽曲の演奏音を表す音響信号に対する解析処理で前記楽曲内の演奏位置を順次に推定し、
    前記解析処理で推定された演奏位置を、時間軸上の第1時点において、前記第1時点から前方に離間した選択期間について前記解析処理で推定された演奏位置の時系列に応じた演奏位置に変更する
    コンピュータにより実現される演奏解析方法。
  2. 前記第1時点は、利用者からの指示に応じた時点である
    請求項1の演奏解析方法。
  3. 前記第1時点の後方における演奏位置の推移を利用者からの指示に応じて制御する
    請求項1または請求項2の演奏解析方法。
  4. 前記第1時点と当該第1時点の後方の第2時点との間の調整期間では、前記解析処理による前記演奏位置の推定を停止し、前記第2時点において、当該第2時点における演奏位置を起点として前記解析処理による前記演奏位置の推定を再開する
    請求項3の演奏解析方法。
  5. 前記変更後の演奏位置は、相異なる条件で特定された複数の暫定位置から特定される
    請求項1から請求項4の何れかの演奏解析方法。
  6. 楽曲の演奏音を表す音響信号に対する解析処理で前記楽曲内の演奏位置を順次に推定する推定部と、
    前記解析処理で推定された演奏位置を、時間軸上の第1時点において、前記第1時点から前方に離間した選択期間について前記解析処理で推定された演奏位置の時系列に応じた演奏位置に変更する制御部と
    を具備する演奏解析装置。
  7. 前記第1時点は、利用者からの指示に応じた時点である
    請求項6の演奏解析装置。
  8. 前記制御部は、前記第1時点の後方における演奏位置の推移を利用者からの指示に応じて制御する
    請求項6または請求項7の演奏解析装置。
  9. 前記推定部は、前記第1時点と当該第1時点の後方の第2時点との間の調整期間では、
    前記解析処理による前記演奏位置の推定を停止し、前記第2時点において、当該第2時点における演奏位置を起点として前記解析処理による前記演奏位置の推定を再開する
    請求項8の演奏解析装置。
  10. 前記変更後の演奏位置は、相異なる条件で特定された複数の暫定位置から特定される
    請求項6から請求項9の何れかの演奏解析装置。
  11. 楽曲の演奏音を表す音響信号に対する解析処理で前記楽曲内の演奏位置を順次に推定する推定部、および、
    前記解析処理で推定された演奏位置を、時間軸上の第1時点において、前記第1時点から前方に離間した選択期間について前記解析処理で推定された演奏位置の時系列に応じた演奏位置に変更する制御部
    としてコンピュータを機能させるプログラム。
JP2018052863A 2018-03-20 2018-03-20 演奏解析方法、演奏解析装置およびプログラム Active JP6737300B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018052863A JP6737300B2 (ja) 2018-03-20 2018-03-20 演奏解析方法、演奏解析装置およびプログラム
PCT/JP2019/006049 WO2019181331A1 (ja) 2018-03-20 2019-02-19 演奏解析方法および演奏解析装置
US17/008,460 US11557270B2 (en) 2018-03-20 2020-08-31 Performance analysis method and performance analysis device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018052863A JP6737300B2 (ja) 2018-03-20 2018-03-20 演奏解析方法、演奏解析装置およびプログラム

Publications (3)

Publication Number Publication Date
JP2019164282A JP2019164282A (ja) 2019-09-26
JP2019164282A5 JP2019164282A5 (ja) 2020-04-30
JP6737300B2 true JP6737300B2 (ja) 2020-08-05

Family

ID=67986963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018052863A Active JP6737300B2 (ja) 2018-03-20 2018-03-20 演奏解析方法、演奏解析装置およびプログラム

Country Status (3)

Country Link
US (1) US11557270B2 (ja)
JP (1) JP6737300B2 (ja)
WO (1) WO2019181331A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6737300B2 (ja) * 2018-03-20 2020-08-05 ヤマハ株式会社 演奏解析方法、演奏解析装置およびプログラム

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2713110B2 (ja) * 1993-07-23 1998-02-16 ヤマハ株式会社 自動演奏装置
US6166314A (en) * 1997-06-19 2000-12-26 Time Warp Technologies, Ltd. Method and apparatus for real-time correlation of a performance to a musical score
JP2001125568A (ja) * 1999-10-28 2001-05-11 Roland Corp 電子楽器
KR100412196B1 (ko) * 2001-05-21 2003-12-24 어뮤즈텍(주) 악보 추적 방법 및 그 장치
JP2005265903A (ja) * 2004-03-16 2005-09-29 Yamaha Corp 鍵盤楽器
US7164076B2 (en) * 2004-05-14 2007-01-16 Konami Digital Entertainment System and method for synchronizing a live musical performance with a reference performance
JP5012263B2 (ja) * 2007-07-04 2012-08-29 ヤマハ株式会社 演奏クロック生成装置、データ再生装置、演奏クロック生成方法、データ再生方法およびプログラム
EP2239727A1 (en) * 2009-04-08 2010-10-13 Yamaha Corporation Musical performance apparatus and program
JP5654897B2 (ja) * 2010-03-02 2015-01-14 本田技研工業株式会社 楽譜位置推定装置、楽譜位置推定方法、及び楽譜位置推定プログラム
JP6435751B2 (ja) * 2014-09-29 2018-12-12 ヤマハ株式会社 演奏記録再生装置、プログラム
JP6481319B2 (ja) * 2014-10-01 2019-03-13 ヤマハ株式会社 楽譜表示装置および楽譜表示方法
JP6467887B2 (ja) 2014-11-21 2019-02-13 ヤマハ株式会社 情報提供装置および情報提供方法
JP6801225B2 (ja) * 2016-05-18 2020-12-16 ヤマハ株式会社 自動演奏システムおよび自動演奏方法
JP6631713B2 (ja) * 2016-07-22 2020-01-15 ヤマハ株式会社 タイミング予想方法、タイミング予想装置、及び、プログラム
JP6642714B2 (ja) * 2016-07-22 2020-02-12 ヤマハ株式会社 制御方法、及び、制御装置
JP6614356B2 (ja) * 2016-07-22 2019-12-04 ヤマハ株式会社 演奏解析方法、自動演奏方法および自動演奏システム
WO2018016639A1 (ja) * 2016-07-22 2018-01-25 ヤマハ株式会社 タイミング制御方法、及び、タイミング制御装置
US10846519B2 (en) * 2016-07-22 2020-11-24 Yamaha Corporation Control system and control method
JP6597903B2 (ja) * 2016-07-22 2019-10-30 ヤマハ株式会社 楽曲データ処理方法およびプログラム
JP6720798B2 (ja) * 2016-09-21 2020-07-08 ヤマハ株式会社 演奏教習装置、演奏教習プログラム、および演奏教習方法
JP6776788B2 (ja) * 2016-10-11 2020-10-28 ヤマハ株式会社 演奏制御方法、演奏制御装置およびプログラム
JP6737300B2 (ja) * 2018-03-20 2020-08-05 ヤマハ株式会社 演奏解析方法、演奏解析装置およびプログラム
JP7243026B2 (ja) * 2018-03-23 2023-03-22 ヤマハ株式会社 演奏解析方法、演奏解析装置およびプログラム
JP7293653B2 (ja) * 2018-12-28 2023-06-20 ヤマハ株式会社 演奏補正方法、演奏補正装置およびプログラム
US20220036866A1 (en) * 2020-07-31 2022-02-03 Yamaha Corporation Reproduction control method, reproduction control system, and reproduction control apparatus

Also Published As

Publication number Publication date
JP2019164282A (ja) 2019-09-26
WO2019181331A1 (ja) 2019-09-26
US11557270B2 (en) 2023-01-17
US20200394991A1 (en) 2020-12-17

Similar Documents

Publication Publication Date Title
JP5654897B2 (ja) 楽譜位置推定装置、楽譜位置推定方法、及び楽譜位置推定プログラム
US9852721B2 (en) Musical analysis platform
US8723011B2 (en) Musical sound generation instrument and computer readable medium
US9804818B2 (en) Musical analysis platform
JP6776788B2 (ja) 演奏制御方法、演奏制御装置およびプログラム
WO2014189137A1 (ja) 演奏解析方法及び演奏解析装置
JP2012109924A (ja) 音響処理装置
WO2019181735A1 (ja) 演奏解析方法および演奏解析装置
CN114067768A (zh) 播放控制方法及播放控制系统
JP6737300B2 (ja) 演奏解析方法、演奏解析装置およびプログラム
JP2015034923A (ja) 音高補正装置
CN114446266A (zh) 音响处理系统、音响处理方法及程序
JP6171393B2 (ja) 音響合成装置および音響合成方法
JP7293653B2 (ja) 演奏補正方法、演奏補正装置およびプログラム
JP6838357B2 (ja) 音響解析方法および音響解析装置
JP2014206577A (ja) 鍵盤楽器
JP6111807B2 (ja) 鍵盤楽器
WO2022181474A1 (ja) 音響解析方法、音響解析システムおよびプログラム
JP5742592B2 (ja) 楽音生成装置、楽音生成プログラム及び電子楽器
JP6464853B2 (ja) オーディオ再生装置及びオーディオ再生プログラム
JP2022129742A (ja) 音響解析方法、音響解析システムおよびプログラム
JP2013205621A (ja) Midi演奏装置
JP2022027381A (ja) 再生制御方法および再生制御システム
JP2012220511A (ja) 楽曲再生装置、楽曲再生方法及びプログラム
JP5509961B2 (ja) フレーズデータ抽出装置及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200318

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200318

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200318

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200629

R151 Written notification of patent or utility model registration

Ref document number: 6737300

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151