JP2013228508A - 音符位置検出装置、音符位置推定方法およびプログラム - Google Patents

音符位置検出装置、音符位置推定方法およびプログラム Download PDF

Info

Publication number
JP2013228508A
JP2013228508A JP2012099643A JP2012099643A JP2013228508A JP 2013228508 A JP2013228508 A JP 2013228508A JP 2012099643 A JP2012099643 A JP 2012099643A JP 2012099643 A JP2012099643 A JP 2012099643A JP 2013228508 A JP2013228508 A JP 2013228508A
Authority
JP
Japan
Prior art keywords
note
detected
candidates
score image
candidate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012099643A
Other languages
English (en)
Other versions
JP5598681B2 (ja
Inventor
Hiroyuki Sasaki
博之 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012099643A priority Critical patent/JP5598681B2/ja
Priority to US13/868,029 priority patent/US20130284000A1/en
Priority to CN201310148279.3A priority patent/CN103377646B/zh
Publication of JP2013228508A publication Critical patent/JP2013228508A/ja
Application granted granted Critical
Publication of JP5598681B2 publication Critical patent/JP5598681B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/091Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for performance evaluation, i.e. judging, grading or scoring the musical qualities or faithfulness of a performance, e.g. with respect to pitch, tempo or other timings of a reference performance
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/005Non-interactive screen display of musical or status data
    • G10H2220/015Musical staff, tablature or score displays, e.g. for score reading during a performance

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Auxiliary Devices For Music (AREA)
  • Image Analysis (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

【課題】互いに独立して関連の無い同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出する音符位置検出装置を実現する。
【解決手段】CPU10は、楽譜画像から小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する。取得された配置範囲における音符の位置を音符データを用いて推定し、推定された位置にある音符のマッチング値および検出位置を位置候補として検出する。検出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致係数の高い位置候補の検出位置を音符の位置と判別する。
【選択図】図1

Description

本発明は、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出する音符位置検出装置、音符位置推定方法およびプログラムに関する。
音楽に親しみたいユーザ、とりわけ初心者であると、楽譜に表示された音符がどの音になるのか判らないことが多い。その為、近年では楽譜に表示された音符と、その音符を表す音符データとの対応関係を直感的に確認できるようにした技術が各種開発されている。例えば特許文献1には、記憶部に記憶された音符データを楽譜として画面表示しておき、表示画面上に設けられたタッチパネルを用いて楽譜中の所望の音符をタッチ操作すると、そのタッチ操作した位置にある音符の楽音を発音させる技術が開示されている。
特許第3980888号公報
ところで、上記特許文献1に開示の技術は、曲を構成する各音を表す複数の音符データと、楽譜表示される各音符の表示位置とが予め対応付けられている為、タッチ操作で指定された音符の音を発音出来るが、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出することが出来ない、という問題がある。
本発明は、このような事情に鑑みてなされたもので、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出することができる音符位置検出装置、音符位置推定方法およびプログラムを提供することを目的としている。
上記目的を達成するため、本発明の音符位置検出装置は、楽譜画像データと曲を構成する複数の音符データとを記憶する記憶手段と、前記記憶手段に記憶される楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得手段と、前記取得手段により取得された配置範囲における音符の位置を、前記記憶手段に記憶される音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値、および当該検出された音符位置を位置候補として抽出する抽出手段と、前記抽出手段により抽出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別手段とを具備することを特徴とする。
本発明では、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出することができる。
第1実施形態の構成を示すブロック図である。 音符位置検出処理の動作を示すフローチャートである。 音符位置検出処理の動作を示すフローチャートである。 予備検出範囲の一例を示す図である。 音符位置カーブの一例を示す図である。 マッチング範囲の一例を示す図である。 楽典フィルタ処理の動作を示すフローチャートである。 近接音符の一例を示す図である。 第2実施形態による演奏処理の動作を示すフローチャートである。 楕円検出の一例を示す図である。 発音時刻サーチの一例を示す図である。 第2実施形態の変形例による演奏処理の動作を示すフローチャートである。 操作位置と発音する音符との対応関係を示す図である。 楽譜中の音符と鍵盤表示の一例を示す図である。 小節線越えの操作例を示す図である。
以下、図面を参照して本発明の実施形態について説明する。
[第1実施形態]
A.構成
図1は、本発明の第1実施形態による音符位置検出装置を備えた電子楽器100の構成を示すブロック図である。図1において、CPU10は、操作部13が発生する操作イベントやタッチパネル15が発生するタッチ操作信号に応じて楽器各部を制御する。本発明の要旨に係わるCPU10の機能は、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出するものであり、これについては追って述べる。
ROM11には、CPU10にロードされる各種の制御プログラムが記憶される。各種の制御プログラムとは、後述する音符位置検出処理を含む。RAM12は、ワークエリア、データエリアおおよび音符位置保存エリアを備える。RAM12のワークエリアには、CPU10の処理に用いられる各種レジスタ・フラグデータが一時記憶される。
RAM12のデータエリアには、表示部14に画面表示される楽譜画像データ(ビットマップ形式)と、曲を構成する各音を表す複数の音符データとが記憶される。楽譜画像データと音符データとは、互いに独立して関連付けられていない同じ楽曲のものである。なお、音符データは、公知のMIDIデータ形式で表現される。RAM12の音符位置保存エリアには、後述する音符位置検出処理により得られる楽譜中の各音符の位置が保存される。
操作部13は、装置パネルに配設される各種操作スイッチを有し、ユーザ操作されるスイッチ種に対応したスイッチイベントを発生する。操作部13が発生するスイッチイベントはCPU10に取り込まれる。操作部13には、電源をパワーオンオフする電源スイッチの他、例えば後述する音符位置検出処理を実行させるモードを指定するモードスイッチや、発生楽音の音色を選択する音色選択スイッチなどが設けられる。
表示部14は、カラー液晶パネル等から構成され、CPU10から供給される表示制御信号に応じて、RAM12ノデータエリアに格納される楽譜画像データに基づき楽譜画像を画面表示したり、楽器の設定状態や動作状態などを画面表示したりする。タッチパネル15は、表示部14の表示画面上に配設されるマルチタッチ方式のタッチスクリーンから構成され、当該タッチスクリーン上で為されるタッチ操作に応じた操作信号を出力する。この操作信号はCPU10に取り込まれる。音源16は、周知の波形メモリ読み出し方式により構成され、CPU10から供給されるイベントに応じた楽音データを発生する。サウンドシステム17は、音源16から出力される楽音データをアナログ形式の楽音信号に変換した後に信号増幅してスピーカから放音する。
B.動作
(1)音符位置検出処理の動作
次に、図2〜図6を参照して、CPU13を動作主体とする音符位置検出処理の動作について説明する。図2は、音符位置検出処理の動作を示すフローチャートである。本処理は操作部13のモードスッチ操作に応じて実行される。本処理が実行されると、図2に図示するステップSA1に進み、RAM12のデータエリアから楽譜画像データおよび音符データ(MIDIデータ)をワークエリアに読み込む。
続いて、ステップSA2では、楽譜画像データに画像認識を施して楽譜中の小節線を検出し、その結果に基づき楽譜画像データを小節毎に分割する。次いで、ステップSA3では、検出された小節線情報によって得られる特定小節の表示エリアにおいて、当該エリア内の音符の配置(音符図形配置)を予備検査して音符配置範囲を取得する。
次に、ステップSA4に進むと、音符データ(MIDIデータ)を用いて各音符が配置される位置を推定する。具体的には、楽譜がピアノ2段譜の場合、スケールが2種(CスケールとFスケール)、段位置が上段と下段の2種、音符の半音上下3種(ナチュラル、フラット、シャープ)、音符位置が4種(五線真ん中、五線上下、五線上、五線下)などの位置条件が48種類あり、この全ての組み合わせを配置して各音符の位置を推定する。
そして、ステップSA5では、上記ステップSA4で得られた音符の推定位置が音符配置範囲内であるか否かを判断する。予備検出で得た音符配置範囲外の場合や、MIDIデータ中の音高(ノートナンバ)で判断した配置が五線譜の上中下以外の有り得ない配置であると、判断結果は「NO」になり、上記ステップSA4に処理を戻し、推定対象から除外する。
一方、音符の推定位置が音符配置範囲内であると、上記ステップSA5の判断結果が「YES」になり、ステップSA6に進む。ステップSA6では、推定位置に対し上下方向を五線幅分、左右方向を予備検出の幅とする検出範囲を設定し、その範囲にある音符について3音符種(全音符、二分音符および四分音符)のパターンマッチングを施してそれぞれのマッチング値(一致度)および音符の検出位置を記憶する。図6はパターンマッチングの一例を示す図である。この例から判るように、MIDIデータによって各音符のおおよその配置位置が特定される為、狭い範囲でのマッチングで済むことから高い検出精度となる。
続いて、ステップSA7では、発音時刻と小節幅でマッチング値を補正する。パターンマッチングにより検出された音符は、発音時刻が早いほど楽譜位置は左に、逆に発音時刻が遅いほど楽譜位置は右に配置されるので、その音符の配置予測位置を最大値とする重み付けを行う。勿論、音符の位置は発音の時間と一致するわけではないので、なだらかな補正カーブ(音符位置カーブ)を与える。図5はその一例を示す図である。同じ音符が連続する場合、図形的には同じ検出値となるが、これにMIDIデータの発音時間で補正して最も近い場所を得る。
そして、ステップSA8では、小節内の全ての音符について検出し終えたか否かを判断する。検出し終えていなければ、判断結果は「NO」になり、上述のステップSA4に処理を戻す。以後、小節内の全ての音符について検出し終えるまで上記ステップSA4〜SA8を繰り返す。そして、全ての音符について検出し終えると、上記ステップSA8の判断結果が「YES」となり、図3に図示するステップSA9を実行する。
ステップSA9では、これまでに得た位置候補(検出位置条件、マッチング値および検出位置)について楽典的なフィルタリング、つまり楽譜表記上の規則(取り決め)や音楽理論から外れるなど音楽的に有り得ない位置候補を除外して候補の絞り込みを図る楽典フィルタ処理(後述する)を実行する。
続いて、ステップSA10では、楽典フィルタ処理により絞られた位置候補の組み合わせ合計を全て演算して、最も評価値の高い位置候補を音符の位置として出力する。なお、出力された音符の位置は、RAM12の音符位置保存エリアに保存される。そして、ステップSA11では、全ての小節について処理し終えたかどうかを判断し、処理し終えていなければ、判断結果が「NO」になり、前述のステップSA2(図2参照)に戻る。一方、全ての小節について処理し終えると、判断結果は「YES」となり、本処理を終える。
(2)楽典フィルタ処理の動作
次に、図7〜図8を参照して楽典フィルタ処理の動作について説明する。上述した音符位置検出処理のステップSA9(図3参照)を介して本処理が実行されると、CPU10は図7に図示するステップSB1に進み、位置候補の評価値をスケールごとに累算する。つまり、スケール組み合わせを上段下段ごとにとり、その評価値を合計する。
次いで、ステップSB2では、それぞれの合計値が高い場合が楽譜の上限と下限のスケールであるとして、それ以外の場合の位置候補を削除する。これは小節内でスケールが変化しない楽典を前提としているからである。続いて、ステップSB3では、位置候補同士の距離が五線幅以内の場合をカウントする。ステップSB4では、そのカウント値が2以上の位置候補を削除する。すなわち、カウント値が2以上の場合、2つの音符の位置が重なることを意味し、楽譜として有り得ない近接音符として該当する位置候補を削除する。図8はそうした近接音符の一例である。
そして、ステップSB5では、位置候補が1つしかない音符を探し、続くステップSB6では、単一候補と同じ位置の位置候補を削除する。つまり、ある音符が単一の位置しか持たない場合、他音符が複数の位置候補を持ち且つ同じ位置の候補を削除する。最終的に楽譜上の全ての音符は別の位置になる為、単一配置の音符を優先する。
このように、楽典フィルタ処理では、得られた位置候補(検出位置条件、マッチング値および検出位置)について、楽譜表記上の規則(取り決め)から外れるなど音楽的に有り得ない位置候補を除外して候補の絞り込みを図るようになっている。
以上説明したように、第1実施形態では、楽譜画像から小節線を検出して小節毎に区分し、区分された小節内の音符の配置範囲を取得する。この配置範囲において音符データ(MIDIデータ)を用いて推定される音符の推定位置が配置範囲外なら除外し、音符の推定位置が配置範囲内ならば、推定位置に対応した検出範囲にある音符をパターンマッチングにより検出し、検出したマッチング値および検出位置を位置候補として記憶した後、位置候補のマッチング値を発音時刻と小節幅で補正する。そして、位置候補の内から楽譜表記上の規則(取り決め)から外れるなど音楽的に有り得ない位置候補を除外して候補の絞り込みを図り、絞られた位置候補の中から最も評価値の高い位置候補を音符の位置として出力するので、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出することができる。
[第2実施形態]
次に、第2実施形態について説明する。上述した第1実施形態では、互いに独立して関連付けられていない同じ楽曲の楽譜画像と音符データとに基づいて音符データが表す音に対応した楽譜画像中の音符の位置を検出するようにしたが、第2実施形態では、そのようにして得た楽譜画像中の音符の位置をユーザがタッチ操作で指定した場合に、指定された位置の音符を発音させる。
第2実施形態の構成は、上述した実施形態と同一なので、その説明については省略する。以下では、第2実施形態による演奏処理の動作を説明する。図9は、第2実施形態による演奏処理の動作を示すフローチャートである。本処理は操作部13のモードスイッチ操作に応じて実行される。
本処理が実行されると、CPU10は図8に図示するステップSC1に進み、楽器各部を初期化するイニシャライズを行い、続くステップSC2では、タッチ位置情報を取得する。ここで、タッチ位置情報とは、表示部14に画面表示される楽譜画像中の所望の位置をユーザがタッチパネル15上をタッチ操作して発生する情報を指す。
次いで、ステップSC3では、上記ステップSC2で得たタッチ位置から現在の楽譜表示倍率を加味した位置変換を行い、楽譜画像画像中のビットマップ座標値を算出する。楽譜表示倍率が等倍なら同じ位置、2倍ズーム表示なら表示オフセットとタッチ位置の半分を加算した値がビットマップ座標値になる。そして、ステップSC4に進むと、上記ステップSC3で得られたビットマップ座標値と、RAM12の音符位置保存エリアに保存された各音符の位置との距離を算出する。
続いて、ステップSC5では、算出した距離が五線幅以内であるか否かを判断する。五線幅以内であると、判断結果は「YES」になり、ステップSC6に進み、該当する音符に対応付けられた音符データ(MIDIデータ)に基づき音源16にノートオンを指示して発音させた後、ステップSC9に進む。なお、五線幅以内の一箇所に複数の音符が集まる和音であると、その和音を構成する各音符に対応付けられた音符データ(MIDIデータ)に基づき音源16を複音同時発音させる。
一方、算出した距離が五線幅以内でなければ、上記ステップSC5の判断結果は「NO」になり、ステップSC7に進む。ステップSC7では、発音中の音符であるか否かを判断する。発音中でなければ、判断結果は「NO」になり、ステップSC9に進む。これに対し、発音中の音符であると、判断結果は「YES」になり、ステップSC8に進み、該当する音符に対応付けられた音符データ(MIDIデータ)に基づき音源16にノートオフを指示して消音させた後、ステップSC9に進む。
続いて、ステップSC9では、曲の最後の音符まで距離算出し終えたかどうかを判断し、距離算出し終えていなければ、判断結果は「NO」になり、上述のステップSC4以降の処理を繰り返す。そして、曲の最後の音符まで距離算出し終えると、ステップSC9の判断結果が「YES」になり、上述のステップSC2に処理を戻す。
このように、演奏処理では、画面に表示される楽譜画像をユーザがタッチ操作すると、そのタッチ位置を中心とする半径が五線幅の円形検出範囲を設定し、RAM12の音符位置保存エリアに保存された各音符の位置の内、円形検出範囲に含まれる音符をタッチ操作された音符として発音させ、そしてユーザがタッチを離すと、この発音中の音符が円形検出範囲から外れて消音させる。
なお、この実施形態では、タッチ位置を中心とする半径が五線幅の円形検出範囲を設定したが、これに限らず、例えば図10に図示する一例のように、楕円形の検出範囲を設定する態様としてもよい。楽譜は縦方向に和音が並び、横方向は時刻となっているので、縦長楕円形の検出範囲を設定すると和音を入れ易くする一方、不要な同時音を入れ難くすることが出来る。
また、本実施形態では、タッチ位置からの離間距離だけでタッチ操作された音符を検出するようにしたが、これに限らず、さらに音符の発音時刻(ノートオンタイミング)を加味してタッチ操作された音符を検出する態様とすることも出来る。図11はその一例を示す図である。この図に示すように、タッチ位置から最も近い距離にある音符に対応するMIDIデータ中の発音時刻を基準とし、その時点から時刻的に近い音符も同時発音させる。こうすることでより演奏し易くすることができる。
[変形例]
次に、図12〜図15を参照して第2実施形態の変形例について説明する。上述した第2実施形態では、楽譜画像中のタッチ操作で発音させる音符を指定したが、変形例では楽譜画像中のスライド操作で発音させる音符を指定する。なお、ここで言うスライド操作とは、タッチ位置を順次移動させる操作を指す。
変形例による演奏処理が実行されると、CPU10は図12に図示するステップSD1に進み、楽器各部を初期化するイニシャライズを行い、続くステップSD2では、タッチ位置情報を取得する。ここで、タッチ位置情報とは、表示部14に画面表示される楽譜画像中の所望の位置をユーザがタッチパネル15上をタッチ操作して発生する情報を指す。
次いで、ステップSD3では、上記ステップSD2で得たタッチ位置から現在の楽譜表示倍率を加味した位置変換を行い、楽譜画像画像中のビットマップ座標値を算出する。楽譜表示倍率が等倍なら同じ位置、2倍ズーム表示なら表示オフセットとタッチ位置の半分を加算した値がビットマップ座標値になる。そして、ステップSD4に進むと、上記ステップSD3で得られたビットマップ座標値と、RAM12の音符位置保存エリアに保存された各音符の位置との距離を算出する。
続いて、ステップSD5では、算出した距離が五線幅以内であるか否かを判断する。五線幅以内であると、判断結果は「YES」になり、ステップSD6に進み、該当する音符に対応付けられた音符データ(MIDIデータ)に基づき音源16にノートオンを指示して発音させた後、ステップSD10に進む。なお、五線幅以内の一箇所に複数の音符が集まる和音であると、その和音を構成する各音符に対応付けられた音符データ(MIDIデータ)に基づき音源16を複音同時発音させる。
一方、算出した距離が五線幅以内でなければ、上記ステップSD5の判断結果は「NO」になり、ステップSD7に進む。ステップSD7では、先のタッチ位置から横方向の差が五線幅以内のスライド操作が為されたか否かを判断する。先のタッチ位置から横方向の差が五線幅以内のスライド操作、すなわち縦方向へスライド操作を行ったならば、判断結果は「YES」になり、後述のステップSD10に進む。従って、先のタッチ操作で五線幅以内にある音符を発音させた状態で、縦方向のスライド操作を行うと、その発音を消音させずに持続発音となる。
これに対し、先のタッチ位置から横方向へ五線幅を越える移動量のスライド操作が為されると、上記ステップSD7の判断結果は「NO」になり、ステップSD8に進む。ステップSD8では、発音中の音符であるか否かを判断する。発音中でなければ、判断結果は「NO」になり、ステップSD10に進む。これに対し、発音中の音符であると、判断結果は「YES」になり、ステップSD9に進み、該当する音符に対応付けられた音符データ(MIDIデータ)に基づき音源16にノートオフを指示して消音させた後、ステップSD10に進む。
続いて、ステップSD10では、曲の最後の音符まで距離算出し終えたかどうかを判断し、距離算出し終えていなければ、判断結果は「NO」になり、上述のステップSD4以降の処理を繰り返す。そして、曲の最後の音符まで距離算出し終えると、ステップSD10の判断結果が「YES」になり、上述のステップSD2に処理を戻す。
このように、変形例による演奏処理では、画面に表示される楽譜画像をユーザがタッチ操作すると、そのタッチ位置を中心とする半径が五線幅の円形検出範囲を設定し、RAM12の音符位置保存エリアに保存された各音符の位置の内、円形検出範囲に含まれる音符をタッチ操作された音符として発音させ、そしてユーザがタッチを離すと、この発音中の音符が円形検出範囲から外れて消音させ、さらに、先のタッチ操作で五線幅以内にある音符を発音させた状態で、縦方向のスライド操作を行うと、その発音を消音させずに持続発音させる。
なお、変形例では、縦方向のスライド操作で持続発音させるようにしたが、タッチ操作で自動演奏させることも可能である。楽譜上の音符の位置と音符データの発音時刻とは厳密に対応しないものの、およその目安として利用できる。そこで、小節幅とタッチ操作の位置との比率を小節中の演奏時間長に換算し、換算された演奏時間長に含まれる音符の音符データを自動演奏する。例えば図13に図示する楽譜の一例において、第1小節目のポイントAをタッチ操作したとする。そうすると、第1小節の幅とタッチ操作された位置Aとの比率を第1小節中の演奏時間長に換算し、換算された演奏時間長に含まれる音符のMIDIデータを自動演奏することができる。
前述した第1〜第2実施形態および変形例では、画面に表示される楽譜画像中の音符をタッチパネル操作で指定する形態であったが、これに限定されず、図14に図示する一例のように、楽譜の下に鍵盤画像を表示し、かつ現在指定されている音符に対応する鍵の位置をガイド表示することでピアノ演奏の練習に好適となる。
また、上述した変形例において、例えば図15に図示する一例のように、小節線を越えてスライド操作を行ったことを検知した場合、矢印で示される小節範囲をリピート指定したものとして、当該小節の音符を自動演奏させる。こうすることで、触って音符を発音、辿ってメロディライン発音、離して自動演奏という仕様を切れ目無く操作することが可能になる。
以上、本発明の実施の一形態について説明したが、本発明はそれに限定されるものではなく、本願出願の特許請求の範囲に記載された発明とその均等の範囲に含まれる。以下では、本願出願当初の特許請求の範囲に記載された各発明について付記する。
(付記)
[請求項1]
楽譜画像データと曲を構成する複数の音符データとを記憶する記憶手段と、
前記記憶手段に記憶される楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得手段と、
前記取得手段により取得された配置範囲における音符の位置を、前記記憶手段に記憶される音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値および当該検出された音符位置を位置候補として抽出する抽出手段と、
前記検出手段により検出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別手段と
を具備することを特徴とする音符位置検出装置。
[請求項2]
前記抽出手段は、音符データを用いて推定した位置が、前記取得手段により取得された配置範囲外ならば、その推定した位置を除外する推定位置除外手段を備えることを特徴とする請求項1記載の音符検出装置。
[請求項3]
前記抽出手段により検出された位置候補のマッチング値を発音時刻と小節幅で補正する補正手段を更に備えることを特徴とする請求項1記載の音符位置検出装置。
[請求項4]
前記判別手段は、前記抽出手段により抽出された位置候補の評価値をスケールごとに累算し、累算値の高いスケールを正解として異なるスケールの位置候補を削除することを特徴とする請求項1記載の音符位置検出装置。
[請求項5]
前記判別手段は、前記検出手段により検出された位置候補の中から位置候補同士の距離が五線幅以内の場合をカウントし、そのカウント値が2以上の位置候補を削除することを特徴とする請求項1記載の音符位置検出装置。
[請求項6]
前記判別手段は、位置候補が単一であるものを優先して、その単一の位置候補と同じ位置の位置候補を削除することを特徴とする請求項1記載の音符位置検出装置。
[請求項7]
コンピュータに、予め楽譜画像データと曲を構成する複数の音符データとを記憶させておき、
前記楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得ステップと、
前記取得ステップで取得された配置範囲における音符の位置を、前記音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値および当該検出された音符位置を位置候補として抽出する抽出ステップと、
前記抽出ステップにより抽出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別ステップと
を実行させることを特徴とするプログラム。
[請求項8]
記憶された楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得ステップと、
前記取得ステップで取得された配置範囲における音符の位置を、記憶された曲を構成する複数の音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値および当該検出された音符位置を位置候補として抽出する抽出ステップと、
前記抽出ステップにより抽出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別ステップと
を有することを特徴とする音符位置推定方法。
10 CPU
11 ROM
12 RAM
13 操作部
14 表示部
15 タッチパネル
16 音源
17 サウンドシステム
100 電子楽器

Claims (8)

  1. 楽譜画像データと曲を構成する複数の音符データとを記憶する記憶手段と、
    前記記憶手段に記憶される楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得手段と、
    前記取得手段により取得された配置範囲における音符の位置を、前記記憶手段に記憶される音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値、および当該検出された音符位置を位置候補として抽出する抽出手段と、
    前記抽出手段により抽出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別手段と
    を具備することを特徴とする音符位置検出装置。
  2. 前記抽出手段は、音符データを用いて推定した位置が、前記取得手段により取得された配置範囲外ならば、その推定した位置を除外する推定位置除外手段を備えることを特徴とする請求項1記載の音符検出装置。
  3. 前記抽出手段により検出された位置候補のマッチング値を発音時刻と小節幅で補正する補正手段を更に備えることを特徴とする請求項1記載の音符位置検出装置。
  4. 前記判別手段は、前記検出手段により検出された位置候補の評価値をスケールごとに累算し、累算値の高いスケールを正解として異なるスケールの位置候補を削除することを特徴とする請求項1記載の音符位置検出装置。
  5. 前記判別手段は、前記検出手段により検出された位置候補の中から位置候補同士の距離が五線幅以内の場合をカウントし、そのカウント値が2以上の位置候補を削除することを特徴とする請求項1記載の音符位置検出装置。
  6. 前記判別手段は、位置候補が単一であるものを優先して、その単一の位置候補と同じ位置の位置候補を削除することを特徴とする請求項1記載の音符位置検出装置。
  7. コンピュータに、予め楽譜画像データと曲を構成する複数の音符データとを記憶させておき、
    前記楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得ステップと、
    前記取得ステップで取得された配置範囲における音符の位置を、前記音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値、および当該検出された音符位置を位置候補として抽出する抽出ステップと、
    前記抽出ステップにより抽出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別ステップと
    を実行させることを特徴とするプログラム。
  8. 記憶された楽譜画像データから小節線を検出して小節毎に区分し、区分された各小節の音符の配置範囲を取得する取得ステップと、
    前記取得ステップで取得された配置範囲における音符の位置を、記憶された曲を構成する複数の音符データを用いて推定し、推定された位置にある音符と前記楽譜画像データ上で検出された音符の位置とのマッチング値および当該検出された音符位置を位置候補として抽出する抽出ステップと、
    前記抽出ステップにより抽出された位置候補の中から音楽的に有り得ない位置候補を除外し、残った中で最も一致度の高い位置候補の検出位置を音符の位置と判別する判別ステップと
    を有することを特徴とする音符位置推定方法。
JP2012099643A 2012-04-25 2012-04-25 音符位置検出装置、音符位置推定方法およびプログラム Active JP5598681B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012099643A JP5598681B2 (ja) 2012-04-25 2012-04-25 音符位置検出装置、音符位置推定方法およびプログラム
US13/868,029 US20130284000A1 (en) 2012-04-25 2013-04-22 Music note position detection apparatus, electronic musical instrument, music note position detection method and storage medium
CN201310148279.3A CN103377646B (zh) 2012-04-25 2013-04-25 音符位置检测装置、电子乐器及音符位置推测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012099643A JP5598681B2 (ja) 2012-04-25 2012-04-25 音符位置検出装置、音符位置推定方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2013228508A true JP2013228508A (ja) 2013-11-07
JP5598681B2 JP5598681B2 (ja) 2014-10-01

Family

ID=49462677

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012099643A Active JP5598681B2 (ja) 2012-04-25 2012-04-25 音符位置検出装置、音符位置推定方法およびプログラム

Country Status (3)

Country Link
US (1) US20130284000A1 (ja)
JP (1) JP5598681B2 (ja)
CN (1) CN103377646B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015118640A (ja) * 2013-12-19 2015-06-25 ヤマハ株式会社 楽譜解析装置
JP2019074998A (ja) * 2017-10-18 2019-05-16 ヤマハ株式会社 画像解析方法およびプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105976803B (zh) * 2016-04-25 2019-08-30 南京理工大学 一种结合乐谱的音符切分方法
CN106228961A (zh) * 2016-07-21 2016-12-14 赵洪云 演奏评价方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6231895A (ja) * 1985-08-02 1987-02-10 カシオ計算機株式会社 音楽装置
JPH06103416A (ja) * 1992-08-03 1994-04-15 Yamaha Corp 楽譜認識装置
JPH0736455A (ja) * 1993-07-22 1995-02-07 Nec Corp 音楽イベントインデックス作成装置
JP2001265326A (ja) * 2000-03-22 2001-09-28 Yamaha Corp 演奏位置検出方法および楽譜表示装置
JP2001265328A (ja) * 2000-03-22 2001-09-28 Yamaha Corp 演奏データ及び楽譜データの処理装置、方法及び記録媒体

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5913259A (en) * 1997-09-23 1999-06-15 Carnegie Mellon University System and method for stochastic score following
US7027983B2 (en) * 2001-12-31 2006-04-11 Nellymoser, Inc. System and method for generating an identification signal for electronic devices
US9177540B2 (en) * 2009-06-01 2015-11-03 Music Mastermind, Inc. System and method for conforming an audio input to a musical key
TWI386912B (zh) * 2009-06-12 2013-02-21 Univ Nat Taiwan Science Tech 即時辨識樂譜的方法與系統
US8889976B2 (en) * 2009-08-14 2014-11-18 Honda Motor Co., Ltd. Musical score position estimating device, musical score position estimating method, and musical score position estimating robot
JP2012215630A (ja) * 2011-03-31 2012-11-08 Kawai Musical Instr Mfg Co Ltd 楽譜演奏装置及び楽譜演奏プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6231895A (ja) * 1985-08-02 1987-02-10 カシオ計算機株式会社 音楽装置
JPH06103416A (ja) * 1992-08-03 1994-04-15 Yamaha Corp 楽譜認識装置
JPH0736455A (ja) * 1993-07-22 1995-02-07 Nec Corp 音楽イベントインデックス作成装置
JP2001265326A (ja) * 2000-03-22 2001-09-28 Yamaha Corp 演奏位置検出方法および楽譜表示装置
JP2001265328A (ja) * 2000-03-22 2001-09-28 Yamaha Corp 演奏データ及び楽譜データの処理装置、方法及び記録媒体

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015118640A (ja) * 2013-12-19 2015-06-25 ヤマハ株式会社 楽譜解析装置
JP2019074998A (ja) * 2017-10-18 2019-05-16 ヤマハ株式会社 画像解析方法およびプログラム
US11398100B2 (en) * 2017-10-18 2022-07-26 Yamaha Corporation Image analysis method and image analysis device for identifying musical information

Also Published As

Publication number Publication date
JP5598681B2 (ja) 2014-10-01
US20130284000A1 (en) 2013-10-31
CN103377646A (zh) 2013-10-30
CN103377646B (zh) 2015-12-23

Similar Documents

Publication Publication Date Title
JP5598681B2 (ja) 音符位置検出装置、音符位置推定方法およびプログラム
JP2013068808A (ja) 演奏評価装置およびプログラム
JP2007256617A (ja) 楽曲練習装置および楽曲練習システム
KR101795760B1 (ko) 전자 악보의 레벨을 분류하는 장치 및 방법
WO2019049293A1 (ja) コード情報抽出装置、コード情報抽出方法およびコード情報抽出プログラム
JP2005249844A (ja) 演奏指示装置および演奏指示プログラム
JP5287617B2 (ja) 音響処理装置およびプログラム
JP6817551B2 (ja) 楽音発生装置、楽音発生方法、プログラムおよび電子楽器
JP6566380B2 (ja) 楽音発生装置、楽音発生方法、プログラムおよび電子楽器
JP6268674B2 (ja) 楽音発生装置、電子楽器、楽音発生方法およびプログラム
JPH0720855A (ja) 音楽情報入力方法及び音楽情報入力装置
JP6168117B2 (ja) 楽譜情報生成装置、楽譜情報生成方法及びプログラム
JP5391939B2 (ja) 音響処理装置およびプログラム
JP5287616B2 (ja) 音響処理装置およびプログラム
JP6252826B2 (ja) 演奏練習装置、楽譜表示装置、電子楽器、演奏練習方法、楽譜表示方法およびプログラム
JP4217978B2 (ja) コード判定装置およびコード判定処理プログラム
JP2008020622A (ja) オーサリングシステムおよびプログラム
KR100612927B1 (ko) 음정의 정확도 검출 기능을 가지는 노래 연습기 및 그 방법
JP6372082B2 (ja) 楽音発生指示装置及び楽音発生指示方法
JP4547719B2 (ja) 楽譜表示装置および楽譜表示プログラム
JP4529175B2 (ja) 運指候補表示装置および運指候補表示処理プログラム
JP5742303B2 (ja) 楽音生成制御装置および楽音生成制御プログラム
JP2012185340A (ja) 楽譜情報生成装置および楽音情報生成プログラム
TW201209802A (en) The representation, input method and search method of melody
JP2007316666A (ja) 楽譜表示装置および楽譜表示プログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140402

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140529

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140716

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140729

R150 Certificate of patent or registration of utility model

Ref document number: 5598681

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150