JP2003308067A - ディジタル楽譜の音符とその楽譜のリアリゼーションとの間のリンクを生成する方法 - Google Patents

ディジタル楽譜の音符とその楽譜のリアリゼーションとの間のリンクを生成する方法

Info

Publication number
JP2003308067A
JP2003308067A JP2003082227A JP2003082227A JP2003308067A JP 2003308067 A JP2003308067 A JP 2003308067A JP 2003082227 A JP2003082227 A JP 2003082227A JP 2003082227 A JP2003082227 A JP 2003082227A JP 2003308067 A JP2003308067 A JP 2003308067A
Authority
JP
Japan
Prior art keywords
realization
score
time intervals
time
link
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003082227A
Other languages
English (en)
Other versions
JP4225812B2 (ja
Inventor
Werner Kriechbaum
ヴァーナー・クライヒバウム
Gerhard Stenzel
ゲルハルト・ステンツェル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Publication of JP2003308067A publication Critical patent/JP2003308067A/ja
Application granted granted Critical
Publication of JP4225812B2 publication Critical patent/JP4225812B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2220/00Input/output interfacing specifically adapted for electrophonic musical tools or instruments
    • G10H2220/005Non-interactive screen display of musical or status data
    • G10H2220/015Musical staff, tablature or score displays, e.g. for score reading during a performance.
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2240/00Data organisation or data communication aspects, specifically adapted for electrophonic musical tools or instruments
    • G10H2240/011Files or data streams containing coded musical information, e.g. for transmission
    • G10H2240/046File format, i.e. specific or non-standard musical file format used in or adapted for electrophonic musical instruments, e.g. in wavetables
    • G10H2240/056MIDI or other note-oriented file format

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Auxiliary Devices For Music (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

(57)【要約】 【課題】 ディジタル楽譜の音符とその楽譜のリアリゼ
ーションの間のリンクを生成する方法を提供すること。 【解決手段】 本発明は、ディジタル楽譜の音符とその
楽譜のリアリゼーションの間のリンクを生成する方法に
関し、連続する時間間隔において開始する楽譜の音符の
数を決定することによって、オンセット曲線を表す第1
のデータを生成するステップと、前記オンセット曲線を
フィルタにかけるステップであって、フィルタにかけら
れた前記オンセット曲線が第1の時間間隔の第1の系列
を表し、前記第1の時間間隔のそれぞれは有意なオンセ
ットを有する、前記オンセット曲線をフィルタにかける
ステップと、前記リアリゼーションについて第2の時間
間隔の第2の系列を生成するステップであって、各第2
の時間間隔は前記リアリゼーションの有意な動的変化を
有する、前記リアリゼーションについて第2の時間間隔
の第2の系列を生成するステップと、前記リンクを生成
するために、前記第1および第2の系列をマッピングす
るステップとを含む。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、音楽のディジタル
表現の分野、および利用者がその音楽の選択されたリア
リゼーションを入力することを可能にする技術に関す
る。
【0002】
【従来の技術】今日のオーディオ・データのほとんど
は、専門家レベルにおいても消費者レベルにおいても、
ディジタル・フォーマットで配布され、記憶されてい
る。これによって、オーディオ・ファイルの伝送および
オーディオ・ファイルの修正など、録音済みオーディオ
材料の一般的な取り扱いが大幅に改善されている。
【0003】オーディオ・データ・ファイル間をナビゲ
ートするための技術も開発されている。例えば、コンパ
クト・ディスク(CD)のナビゲーション手段として、
トラック数および時間が使用されている。プログラム・
セグメント間をナビゲートするための、またそれ以外に
オーディオ・ファイルを処理するための、様々な高度技
術が、従来技術から知られている。
【0004】米国特許第6,199,076号は、動的
プログラム選択コントローラを含むオーディオ・プログ
ラム・プレイヤを示している。これは、ホストから受け
取ったプログラム・セグメントを再生するための加入者
位置にある再生ユニットと、プログラム・セグメント間
でインタラクティブにナビゲートするためのメカニズム
を含む。
【0005】米国特許第5,393,926号は、仮想
音楽システムである。これには、利用者が演奏すると、
それに応答して複数の信号を生成するマルチエレメント
・アクチュエータが含まれている。このシステムはま
た、制御信号に応答してオーディオ・トーンを生成する
オーディオ・シンセサイザを備えている。マルチエレメ
ント・アクチュエータのために楽譜を記憶するメモリが
あり、記憶された楽譜は、一続きの主音、および関連す
る一続きの和声音配列を含む。一続きの和声音配列のそ
れぞれは、主音の異なる1つに対応し、和声音を含まな
いか、あるいは1つまたは複数の和声音を含む。この楽
器はまた、マルチエレメント・アクチュエータから複数
の信号を受け取り、それらから第1の制御信号のセット
を生成するディジタル・プロセッサも含む。ディジタル
・プロセッサは、記憶されている楽譜中の一続きの主音
の中から、複数の信号のうち第1の信号に対応する主音
を識別するようにプログラムされている。ディジタル・
プロセッサはまた、複数の信号の残りのセットを、選択
された主音に関連する和声音があるならばどのような和
声音にもマップするようにプログラムされている。さら
に、ディジタル・プロセッサは、識別した主音、および
複数の信号のうちの信号がマップされた前記和声音か
ら、第1の制御信号のセットを生成するようにプログラ
ムされている。この第1の制御信号セットは、シンセサ
イザに、識別した主音およびマップされた和声音を表す
サウンドを生成させる。
【0006】米国特許第5,390,138号は、オー
ディオ・オブジェクトを様々なマルチメディア・オブジ
ェクトに接続することによって、記憶装置およびディス
プレイを備えたコンピュータを用いた、マルチメディア
・プレゼンテーションのオブジェクト指向シミュレーシ
ョンを可能にするためのシステムである。少なくとも1
つの接続オブジェクトおよび少なくとも1つのオーディ
オ・オブジェクトを含む、複数のマルチメディア・オブ
ジェクトがディスプレイ上に作成される。少なくとも1
つのオーディオ・オブジェクトを含む、マルチメディア
・オブジェクトが表示される。マルチメディア・オブジ
ェクトおよびオーディオ・オブジェクトは、マルチメデ
ィア・プレゼンテーションを生成する。
【0007】米国特許第5,388,264号は、MI
DI(楽器ディジタル・インターフェース)オブジェク
トを様々なマルチメディア・オブジェクトに接続するこ
とによって、記憶装置およびディスプレイを備えたコン
ピュータを用いた、マルチメディア・プレゼンテーショ
ンのオブジェクト指向シミュレーションを可能にするた
めのシステムである。記憶装置中の少なくとも1つの接
続オブジェクトおよび少なくとも1つのMIDIオブジ
ェクトを含む、複数のマルチメディア・オブジェクトが
ディスプレイ上に作成される。マルチメディア・オブジ
ェクトとMIDIオブジェクトが接続され、それらの間
で情報が送られて、マルチメディア・プレゼンテーショ
ンが生成される。
【0008】米国特許第5,317,732号は、デー
タ処理システム中で実行されるプロセスであって、第1
のメモリから第2のメモリに再配置すべき、複数のマル
チメディア・プレゼンテーションのうちの1つを選択す
る入力を受け取るステップ、選択されたマルチメディア
・プレゼンテーションに対応する複数のリソースを認識
するために選択されたマルチメディア・プレゼンテーシ
ョンのリンクされているデータ構造を走査するステッ
プ、および識別した複数のリソースに対応する選択され
たマルチメディア・プレゼンテーション内の名前および
位置のリストを生成するステップを含む。このプロセス
はまた、生成したリストの上の名前を変えるステップ、
選択されたマルチメディア・プレゼンテーション中の識
別した複数のリソースの名前を生成したリスト上の新し
い名前に変更するステップ、および選択されたマルチメ
ディア・プレゼンテーションと、生成したリスト上で識
別したリソースを第2のメモリに移動するステップを含
む。
【0009】米国特許第5,262,940号は、ポー
タブル・オーディオ/オーディオ・ビジュアル媒体追跡
デバイスである。
【0010】米国特許第5,247,126号は、画像
再生装置、画像情報記録媒体、および伴奏装置である。
【0011】米国特許第5,208,421号は、MI
DIファイルのオーディオ編集のための方法および装置
である。この発明を利用することによって、マッチする
ノート・オンまたはノート・オフ・メッセージをファイ
ルまたはファイル・セクション中に自動的に挿入して、
そのような編集によって生じた不一致を修正することに
より、ソースMIDIファイル、コピーまたは除去され
たセクション、またはターゲット・ファイルの完全性を
確実にすることができる。さらに、プログラム・ステー
タス・メッセージが、ソース・ファイル、コピーまたは
除去されたセクション、またはターゲット・ファイル中
に自動的に挿入されることによって、ディジタル・オー
ディオ・データを編集することにより得ることができる
結果と一致する結果が生み出される。利用者が複雑なM
IDIシーケンサを学ぶ必要なく、MIDIファイルを
選択的に編集することができるように、タイミング情報
が選択的に追加または維持される。
【0012】米国特許第5,153,829号は、情報
処理装置である。この発明は、入力される楽譜、キーボ
ード、および楽音時間情報を、画面上に表示するための
ユニットを有する。また、キーボードおよび楽音時間情
報が、表示ユニット上にそれぞれに表示される位置を指
定するためのユニットもある。さらに、この発明は、キ
ーボードおよび楽音時間情報表示が表示ユニット上に表
示される位置を指定ユニットが指定することによって生
成された音楽情報を記憶するためのユニットを含む。さ
らに、表示ユニットの画面上で楽譜、キーボード、およ
び楽音時間情報の表示を制御するためのユニットがあ
る。このユニットはまた、楽音のパターン、または表示
ユニット上の楽譜の残りの部分の表示を、それぞれ、指
定ユニットによって指定されたキーボードおよび楽音時
間情報の位置に従って、制御するためのものでもある。
最後に、記憶ユニット中に記憶されている音楽情報を読
み込むことによって、楽音を生成するためのユニットが
ある。
【0013】米国特許第5,142,961号は、アコ
ースティック楽器の特性を忠実に再生する、システム制
御による楽器上で、音楽を記憶、編曲、操作、および再
生するための方法である。このシステムは、音楽源、中
央処理装置(CPU)、および、任意の数のアコーステ
ィックまたはアコースティック・ハイブリッドの楽器と
いう形の、CPU制御による複数の楽器トランスデュー
サを含む。一実施形態では、パフォーマンス情報が、音
楽源、MIDIコントローラからCPUに送られ、CP
U中で編集され、電子信号に変換され、トランスデュー
サ・ドライバによって楽器トランスデューサに送られ
る。別の実施形態では、ディジタルまたはサウンド・テ
ープ媒体中に記憶されている個々のパフォーマンスが、
楽器トランスデューサを通して再生され、または、記
憶、編集またはCPUにおけるパフォーマンスのための
ピッチ/周波数検出デバイスによって、MIDIデータ
に変換される。さらに別の実施形態では、パフォーマン
ス情報がピッチ/周波数検出デバイスによって電子記録
媒体またはライブ・パフォーマンスから抽出され、CP
U中で編集され、電子信号に変換され、任意の数の楽器
トランスデューサに送られる。このデバイスはまた、ア
コースティック楽器によくある遅延の問題も解消する。
【0014】米国特許第5,083,491号は、ソレ
ノイド作動のプレイヤ・ピアノ・システム上で再生する
ために、MIDIフォーマットで録音された音楽演奏の
中に含まれている表現効果をソレノイド作動の音楽生成
器上で再現するための方法および装置である。検出され
た、MIDI録音中に含まれる打音速度情報は、復号さ
れ、制御側マイクロプロセッサ中に記憶されている打音
マップと相互に関連付けられる。打音マップは、所望の
音楽表現効果に対応するデータを含む。固定された幅お
よび振幅の時間識別パルスが、打音マップ中のデータに
従って作動ソレノイドに向けられ、次には作動ソレノイ
ドがピアノ線を打つ。その後、均一の振幅および周波数
のパルスが作動ソレノイドに向けられ、音符の終わりま
でその打音を維持する。打音マップは、打音が持続して
いる間ずっと、ソレノイドの位置を動的に制御して、ソ
レノイドの動作およびピアノの鍵盤の動きの非線形特性
を補正し、それによって、オリジナルの音楽パフォーマ
ンスの本物通りの再生を提供する。
【0015】米国特許第5,046,004号は、音楽
を再生し、その音楽の歌詞を表示するための、コンピュ
ータおよびキーボードを用いたシステムである。音楽を
再生し、歌詞を表示するためのデータは、バイナリコー
ド化されたディジタル信号で構成されている。このよう
な信号は、公衆通信回線を介してダウンロードされる。
あるいは、複数の曲や歌に対応するデータが前もって装
置に記憶されていて、その記憶されているデータが、コ
ンピュータの中央処理装置によって選択的に処理され
る。インストルメンタル音楽データには、歌詞データの
処理を促進するためのトリガ信号が存在し、それによっ
て、音楽の再生および歌詞の表示が互いにリンクされ
る。このようにして再生された音楽は、バックグラウン
ド・ミュージックとして、または、利用者がそのような
音楽の再生と同調して表示される歌詞を見ながら、その
伴奏に合わせて歌うことができるようにするために利用
される。
【0016】米国特許第4,744,281号は、互い
に別々に再生される、少なくとも2つの結合されたパー
トで構成された、1曲が録音されているメモリ・ディス
クを用いるアンサンブル再生動作モードの操作を備えた
自動音楽プレイヤ・システムであり、前記パートは少な
くとも2つのデータ・サブブロックの形で録音されてい
る。前記自動音楽プレイヤ・システムは、機械的または
電子的に起動されると機械的にサウンドを生成する第1
のサウンド・ジェネレータと、電子的に起動されると電
子的にサウンドを生成する少なくとも1つの第2のサウ
ンド・ジェネレータと、第1および第2のサウンド・ジ
ェネレータに接続されたコントロール・ユニットとを含
む。ディスクから読み取られるデータの2つまたはそれ
以上のサブブロックのうち1つは別のものとは区別さ
れ、データ・サブブロックのその区別された1つは第1
のサウンド・ジェネレータに伝送され、別のデータ・サ
ブブロックは第2のサウンド・ジェネレータに伝送され
る。さらに、第2のサウンド・ジェネレータへのデータ
の伝送は、継続的に、第1のサウンド・ジェネレータへ
のデータの伝送より所定の時間だけ遅らされ、そのた
め、2つのサウンド・ジェネレータは、同時に、かつ互
いに呼応してサウンドを生成することが可能になる。
【0017】オーディオ・データ間をナビゲートするこ
とは、面倒かつ著しく正確さに欠けるという点が、従来
技術の共通する欠点である。
【0018】
【発明が解決しようとする課題】したがって、本発明の
一態様は、ディジタル楽譜の音符とその楽譜のリアリゼ
ーションの間のリンクを生成するための改良された方
法、および対応するコンピュータ・プログラム製品を提
供することである。さらに、本発明は、改良されたナビ
ゲーション機能を備えた電子オーディオ・デバイスを提
供する。
【0019】
【課題を解決するための手段】本発明は、1音楽の表現
と、その音楽の録音されているリアリゼーションの間の
リンクを作成することを可能にする。これによって、デ
ィジタル楽譜のある音符を選択することによって、その
選択した音符から、リアリゼーションの再生を自動的に
開始することができる。
【0020】本発明の好ましい実施形態によれば、ディ
ジタル楽譜が、コンピュータのモニタ上で視覚化され
る。利用者は、グラフィカル・ユーザ・インターフェー
スを使って、そのディジタル楽譜のある音符を選択する
ことができる。例えば、これは、コンピュータ・マウス
を使って、音符の上を「クリックする」ことによって行
うことができる。このようにして、その音符に関連付け
られたリンクが選択される。このリンクは、利用者が選
択した音符に対応する、その音楽の録音リアリゼーショ
ンのある位置を示す。さらに、音符を選択することによ
って、その選択した音符に関連付けられているリンクが
示す位置から、リアリゼーションの再生を開始する信号
が、自動的に生成される。
【0021】本発明のさらなる好ましい実施形態によれ
ば、ディジタル楽譜を分析して、その音楽中の顕著なオ
ーディオ・イベントを決定する。これは、楽譜のすべて
の音符をその時間単位の整数倍数として表現することを
可能にする時間単位を選択することによってなされる。
このようにして、時間軸が論理時間間隔に分割される。
【0022】時間間隔それぞれにおける、楽譜のオンセ
ットの数を決定する。これによって、長い時間にわたる
オンセットの数が得られる。このオンセット曲線をフィ
ルタにかける。オンセット曲線をフィルタにかける一方
法は、オンセット曲線に閾値を適用することである。こ
れは、時間間隔のオンセットの合計のうち、事前定義し
た閾値を超えないものを、オンセット曲線から取り除く
ことを意味する。このようにして、顕著ではないオーデ
ィオ・イベントはフィルタによって除去される。
【0023】フィルタにかけたオンセット曲線は、閾値
以上のオンセット合計数を有する時間間隔系列を決定す
る。この時間間隔系列を、音楽の録音リアリゼーション
中の同じオーディオ・イベントを表す、対応する時間間
隔系列と位置合わせする。
【0024】本発明の好ましい一実施形態によれば、録
音リアリゼーションについての時間間隔系列を、そのリ
アリゼーションの強度をある閾値と比較することによっ
て決定する。強度が閾値以下に落ちると、対応する時間
間隔がその時間間隔系列に選択される。
【0025】本発明のさらなる好ましい実施形態によれ
ば、表現およびリアリゼーションの時間間隔系列のマッ
ピングを、その2つ系列の間のハウスドルフ距離を最小
にすることによって行う。
【0026】フェリックス・ハウスドルフ(Felix Haus
dorff)(1868〜1942)は、距離空間のサブセ
ット間の距離関数を考案した。定義によれば、2つのセ
ットは、一方のセットのいずれかの点がもう一方のセッ
トのある点から距離dの範囲内にある場合、互いからハ
ウスドルフ距離dの範囲内にある。
【0027】2つの点のセットを、A={a
1,...,am}、およびB={b1,...,b
n}と仮定すると、ハウスドルフ距離は以下のように定
義される。 H(A,B)=max(h(A,B),h(B,A)) (1) ここで、
【数1】
【0028】関数h(A,B)をAからBに向かうハウ
スドルフ「距離」と呼ぶ(この関数は対称ではなく、し
たがって真の距離ではない)。それは、Bの任意の点か
ら最も遠い点a∈Aを識別し、aから、B中の最もaに
近い点までの距離を測定する。したがって、ハウスドル
フ距離、H(A,B)は、Bの任意の点から最も遠いA
の点、またAの任意の点から最も遠いBの点までの距離
を反映するので、2つのセット間のずれの程度を測定す
る。直感的にわかるように、ハウスドルフ距離がdの場
合、Aのすべての点はBのある点から距離dの範囲内に
なければならず、またBのすべての点はAのある点から
距離dの範囲内になければならない。
【0029】楽譜の分析およびリアリゼーションの分析
によって得られた2つの時間間隔系列を、その2つの時
間間隔のセットの間のハウスドルフ距離が最小になるま
で、互いに対して移動させる。このようにして、2つの
時間系列の時間間隔のペアが決定される。したがって、
各ペアについて、特定の時間間隔に属する音符がリアリ
ゼーションのある時点上にマップされて、音符とリアリ
ゼーションの録音の対応する位置との間にリンクが形成
される。
【0030】マッピング操作を実施するための別の方法
は、2つの時間間隔系列を相互相関関数が最大値になる
まで互いに対して移動させる方法である。2つの系列が
最も一致する位置を見つけるためのその他の数学的方法
を使用することができる。
【0031】
【発明の実施の形態】図1は、ディジタル楽譜の音符と
その楽譜のリアリゼーションの間のリンクを作成するた
めの方法の概略図である。ステップ1で、ディジタル楽
譜を入力する。ステップ2で、ディジタル楽譜をフィル
タにかけて、その音楽の有意なオンセットを決定する。
これは、すべての声部の音符オンセットの回数を合計
し、その結果得られた時系列をクリップして、録音中に
マスキングされる可能性がある有意ではない音符のオン
セットを除外することによって行われることができる。
このようにして、ディジタル楽譜を有意な音符オンセッ
トを有する時間間隔系列に変換する。
【0032】一方、ステップ3で、その楽譜によって表
される音楽のリアリゼーションのアナログまたはディジ
タルの録音を入力する。ステップ4で、その録音を変化
検出器によって分析する。変化検出器の目的は、録音内
のオーディオ信号が有意な変化する時間間隔を識別する
ことである。
【0033】一実施形態では、変化検出器が、オーディ
オ信号の時間領域内で動作する。好ましい一実施形態で
は、変化検出器が、録音されているオーディオ信号の総
合強度に基づいている。信号が事前定義の閾値レベルを
超えると、対応する信号ピークがオンセットであるとし
て定義される。このようにして、有意なオンセットを有
する時間間隔系列が作成される。
【0034】本発明の別の実施形態では、変化検出器が
周波数領域で動作する。これについては、図5に関して
詳細に説明する。
【0035】ステップ5では、ステップ2および4で決
定された時間間隔系列を、互いに対し位置合わせし、録
音されているオーディオ信号とディジタル楽譜の中の対
応するオンセットを決定する。ステップ6で、その2つ
の時間間隔系列中の対応するオンセット・イベントのペ
アを、リンクによって相互に関係付ける。好ましくは、
それらのリンクを別々のリンク・ファイル中に記憶す
る。
【0036】図2は、ディジタル楽譜の例(ジョゼフ・
ハイドン、交響曲Hob.I−1)を示す。このディジ
タル楽譜を、MIDIファイルまたは同様のディジタル
楽譜フォーマットの形で記憶することができる。利用者
がコンピュータ・マウス上をクリックすることによって
そのディジタル楽譜の個々の音符を選択できるように、
ディジタル楽譜が、グラフィカル・ユーザ・インターフ
ェースを備えたコンピュータ画面上に表示される。
【0037】ディジタル楽譜の下に、離散タイム・スケ
ールを有する時間軸7がある。時間軸7は、いくつかの
時間間隔に分けられている。好ましくは、時間軸7のス
ケールを、楽譜のすべての音符がこのような時間間隔の
整数倍数として表現され得るように選択する。
【0038】この離散時間軸をミリ秒の時間軸に変換す
るために、楽譜の時間間隔の合計を楽譜のリアリゼーシ
ョンの継続時間と等しくすることによって、この間隔に
倍率をかける。この好ましいケースでは、前述の時間間
隔が時点に変換される。ここで考慮している例では、こ
の時間間隔が16分音符である。
【0039】図2の例で示すように、この時間間隔の各
倍数について、その時に開始する音符の数が数えられ、
累積されて、オンセット曲線を生成する。時間t1にお
いて、この時に開始する音符の合計数は、n1=8であ
る。引き続く時間間隔t2では、次の時間間隔t3と同
様、音符オンセット合計数は、n2=2である。
【0040】このようにして、ディジタル楽譜全体を走
査して、時間軸7の時間間隔それぞれにおいて開始する
楽譜の音符の数を求める。これによって、図2の図に描
かれている点によって表されたオンセット曲線が生成さ
れる。
【0041】図3は、オンセット曲線のさらなる処理を
示す。合計オンセット値nは、閾値8と比較される。閾
値8よりも下の合計オンセット値nはすべて廃棄され
る。曲線の残っている点が、有意なオンセットの系列9
を構成するいくつかの時間間隔を決定する。
【0042】図4は、対応する流れ図を示す。
【0043】ステップ10で、ディジタル楽譜が入力さ
れる。ステップ11で、楽譜のすべての音符を時間単位
の整数倍数として表現することができるように、時間軸
に対して適切な時間単位が自動的に選択される。このよ
うにして、時間軸は、いくつかの時間間隔に分けられ
る。
【0044】ステップ12および13で、各時間間隔の
オンセットをすべての音声部の所与の時間間隔内のオン
セットを合計することによって求める。好ましくは、合
計プロセスのためのオンセットにそれぞれの動的値で重
みを付けて、それらの音符がフォルテで演奏されるよう
にする。
【0045】ステップ14で、フィルタ関数を適用する
ことにより、録音中にマスキングされそうなディジタル
楽譜中の有意ではないオンセット・イベントをフィルタ
により除去する。
【0046】ステップ15で、フィルタにかけたオンセ
ット曲線を、ポイント・プロセス、すなわち、楽譜内の
有意なオーディオ・イベントを表す時間間隔系列に変換
する。
【0047】図5は、周波数領域中の変化検出器(図1
のステップ4参照)の一実施形態を示す。
【0048】ステップ16で、そのディジタル楽譜のリ
アリゼーションが入力される。ステップ17では、時間
周波数分析が実施される。好ましくは、これは、短時間
高速フーリエ変換(FFT)によって行われる。このよ
うにして、時間軸(図2の時間軸7を参照)の時間間隔
のそれぞれについて、周波数スペクトルが得られる。
【0049】ステップ18で、時間周波数分析によって
得られた三次元データの「リッジ」または「クレスト・
ライン」が識別される。このような「リッジ」を識別す
る1つの方法として、従来技術(米国特許第5,46
3,698号)や時間周波数分布のクレイジ・クライマ
・アルゴリズム(crazy climber algorithms to the ti
me-frequency distribution)[Rene Carmona他、Pract
ical Time-Frequency Analysis、アカデミック・プレス
社、ニューヨーク、1988]から知られるように、時
間周波数分析によって提供されるデータに対して三次元
分水界変換(three dimensional watershed transfor
m)を実施する方法が挙げられる。
【0050】ステップ19で、各リッジの開始点が識別
される。各開始点は、時間間隔の1つに属する。このよ
うにして、時間間隔系列が決定される。これを、リアリ
ゼーションのオンセット曲線について説明したように、
フィルタにかけることができる。
【0051】ステップ20で、上記に説明したように、
リアリゼーションおよび楽譜の間隔の時系列が相互に関
連付けられる。ステップ21で、楽譜の音符からその音
楽の録音リアリゼーション内の位置へポインタを使っ
て、リンク・ファイルが作成される。
【0052】図6は、電子デバイス22のブロック図を
示す。電子デバイスは、マルチメディア機能、CDまた
はDVDプレイヤ、あるいは別のオーディオ・デバイス
を備えたパーソナル・コンピュータであってよい。デバ
イス22はプロセッサ23を備え、リアリゼーション2
4、表現25、およびリンク・ファイル26を記憶する
ための記憶手段を有する。
【0053】さらに、電子デバイス22は、グラフィッ
ク・ユーザ・インターフェース27、およびオーディオ
出力のためのスピーカ28を備えている。プロセッサ2
3は、表現25を、グラフィカル・ユーザ・インターフ
ェース27上に表示される楽譜の形でレンダする役割を
果たす。さらに、プロセッサ23は、楽譜のリアリゼー
ション24を再生する役割を果たす。
【0054】操作中、利用者はグラフィカル・ユーザ・
インターフェース27を介して、楽譜の音符を選択する
ことができる。プロセッサ23は、応答して、リンク・
ファイル26にアクセスし、ユーザが選択した音符に関
連付けられたリンクを読み込む。このリンクは、リンク
によって識別された位置からリアリゼーション24の再
生を開始することを可能にする、リアリゼーション24
へのアクセス・ポイントを提供する。再生は、スピーカ
28から出力される。
【0055】まとめとして、本発明の構成に関して以下
の事項を開示する。
【0056】(1)ディジタル楽譜の音符と前記楽譜の
リアリゼーションとの間のリンクを生成する方法であっ
て、連続する時間間隔で始まる楽譜の音符の数を決定す
ることによって、オンセット曲線を表す第1のデータを
生成するステップと、前記オンセット曲線をフィルタに
かけるステップであって、フィルタにかけられた前記オ
ンセット曲線が第1の時間間隔の第1の系列を表し、前
記第1の時間間隔のそれぞれは有意な数のオンセットを
有する、前記オンセット曲線をフィルタにかけるステッ
プと、前記リアリゼーションについて第2の時間間隔の
第2の系列を生成するステップであって、各第2の時間
間隔は前記リアリゼーションの有意な動的変化を有す
る、前記リアリゼーションについて第2の時間間隔の第
2の系列を生成するステップと、前記リンクを生成する
ために、前記第1および第2の系列をマッピングするス
テップとを含む、方法。 (2)前記ディジタル楽譜の音符のすべてのオンセット
が、離散時間間隔の整数倍で表され得るように、離散時
間間隔を有する離散時間軸を選択するステップをさらに
含む、上記(1)に記載の方法。 (3)前記オンセット曲線をフィルタにかけるステップ
が、前記第1のデータを閾値と比較するステップを含
む、上記(1)または(2)に記載の方法。 (4)前記第2の系列が、前記リアリゼーションの強度
がその中において前記閾値よりも上に高まる第2の時間
間隔を決定することによって生成される、上記(1)、
(2)または(3)に記載の方法。 (5)前記第2の時間間隔の第2の系列の前記決定が、
前記リアリゼーションの時間周波数分析を実施するステ
ップと、時間周波数領域におけるリッジを識別するステ
ップと、前記リッジのそれぞれについて開始点を識別す
るステップと、前記開始点のそれぞれについて第2の時
間間隔を決定するステップとを含む、上記(1)ないし
(4)のいずれか一項に記載の方法。 (6)前記マッピングするステップが、前記第1および
第2の系列のハウスドルフ距離を最小にすることによっ
て実施される、上記(1)ないし(5)のいずれか一項
に記載の方法。 (7)前記マッピングするステップが、前記第1および
第2の系列の相互相関係数を最大にすることによって実
施される、上記(1)ないし(5)のいずれか一項に記
載の方法。 (8)前記第1のデータが、各音符の終点を表す、上記
(5)ないし(7)のいずれか一項に記載の方法。 (9)各リッジの終点が開始点として使用される、上記
(5)ないし(8)のいずれか一項に記載の方法。 (10)上記(1)ないし(9)のいずれか一項に従っ
た方法を実施するためのコンピュータ・プログラム製
品。 (11)ディジタル楽譜のリアリゼーション(24)お
よび表現(25)と、前記ディジタル楽譜の表現の音符
と前記リアリゼーションとの間のリンクを含むリンク・
ファイル(26)とを処理する手段(23)を含む電子
デバイスであって、前記リンクが、上記(1)ないし
(8)のいずれか一項に記載の方法に従って生成される
電子デバイス。 (12)利用者の音符またはリンクあるいはその両方の
選択を入力する手段をさらに含む、上記(11)に記載
の電子デバイス。 (13)前記リアリゼーションの再生を、前記利用者の
選択に対応する第2の時間間隔で開始する手段をさらに
含む、上記(11)または(12)に記載の電子デバイ
ス。
【図面の簡単な説明】
【図1】本発明の方法の好ましい実施形態を示す図であ
る。
【図2】ディジタル楽譜のオンセット曲線がどのように
決定されるかを一例として示す図である。
【図3】オンセット曲線の閾値処理、および対応する時
間間隔系列の決定を示す図である。
【図4】ディジタル楽譜の表現について時間間隔系列を
決定するための好ましい実施形態を示す図である。
【図5】楽譜のリアリゼーションについて時系列を決定
するための好ましい実施形態を示す図である。
【図6】電子デバイスの好ましい実施形態のブロック図
である。
【符号の説明】
7 時間軸 8 閾値 9 系列 22 電子デバイス 23 プロセッサ 24 リアリゼーション 25 表現 26 リンク・ファイル 27 ユーザ・インターフェース 28 スピーカ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ヴァーナー・クライヒバウム ドイツ ディー−72119 アマーバッハ・ ブライテンホルツ バイ・デル・リンデ 2 (72)発明者 ゲルハルト・ステンツェル ドイツ ディー−71083 ヘルレンベルク ホイベルクシュトラーセ 18 Fターム(参考) 5D082 AA03 AA26 5D378 MM21 MM47 MM53 MM72

Claims (13)

    【特許請求の範囲】
  1. 【請求項1】ディジタル楽譜の音符と前記楽譜のリアリ
    ゼーションとの間のリンクを生成する方法であって、 連続する時間間隔で始まる楽譜の音符の数を決定するこ
    とによって、オンセット曲線を表す第1のデータを生成
    するステップと、 前記オンセット曲線をフィルタにかけるステップであっ
    て、フィルタにかけられた前記オンセット曲線が第1の
    時間間隔の第1の系列を表し、前記第1の時間間隔のそ
    れぞれは有意な数のオンセットを有する、前記オンセッ
    ト曲線をフィルタにかけるステップと、 前記リアリゼーションについて第2の時間間隔の第2の
    系列を生成するステップであって、各第2の時間間隔は
    前記リアリゼーションの有意な動的変化を有する、前記
    リアリゼーションについて第2の時間間隔の第2の系列
    を生成するステップと、 前記リンクを生成するために、前記第1および第2の系
    列をマッピングするステップとを含む、方法。
  2. 【請求項2】前記ディジタル楽譜の音符のすべてのオン
    セットが、離散時間間隔の整数倍で表され得るように、
    離散時間間隔を有する離散時間軸を選択するステップを
    さらに含む、請求項1に記載の方法。
  3. 【請求項3】前記オンセット曲線をフィルタにかけるス
    テップが、前記第1のデータを閾値と比較するステップ
    を含む、請求項1または2に記載の方法。
  4. 【請求項4】前記第2の系列が、前記リアリゼーション
    の強度がその中において前記閾値よりも上に高まる第2
    の時間間隔を決定することによって生成される、請求項
    1、2または3に記載の方法。
  5. 【請求項5】前記第2の時間間隔の第2の系列の前記決
    定が、 前記リアリゼーションの時間周波数分析を実施するステ
    ップと、 時間周波数領域におけるリッジを識別するステップと、 前記リッジのそれぞれについて開始点を識別するステッ
    プと、 前記開始点のそれぞれについて第2の時間間隔を決定す
    るステップとを含む、請求項1ないし4のいずれか一項
    に記載の方法。
  6. 【請求項6】前記マッピングするステップが、前記第1
    および第2の系列のハウスドルフ距離を最小にすること
    によって実施される、請求項1ないし5のいずれか一項
    に記載の方法。
  7. 【請求項7】前記マッピングするステップが、前記第1
    および第2の系列の相互相関係数を最大にすることによ
    って実施される、請求項1ないし5のいずれか一項に記
    載の方法。
  8. 【請求項8】前記第1のデータが、各音符の終点を表
    す、請求項5ないし7のいずれか一項に記載の方法。
  9. 【請求項9】各リッジの終点が開始点として使用され
    る、請求項5ないし8のいずれか一項に記載の方法。
  10. 【請求項10】請求項1ないし9のいずれか一項に従っ
    た方法を実施するためのコンピュータ・プログラム製
    品。
  11. 【請求項11】ディジタル楽譜のリアリゼーション(2
    4)および表現(25)と、前記ディジタル楽譜の表現
    の音符と前記リアリゼーションとの間のリンクを含むリ
    ンク・ファイル(26)とを処理する手段(23)を含
    む電子デバイスであって、前記リンクが、請求項1ない
    し8のいずれか一項に記載の方法に従って生成される電
    子デバイス。
  12. 【請求項12】利用者の音符またはリンクあるいはその
    両方の選択を入力する手段をさらに含む、請求項11に
    記載の電子デバイス。
  13. 【請求項13】前記リアリゼーションの再生を、前記利
    用者の選択に対応する第2の時間間隔で開始する手段を
    さらに含む、請求項11または12に記載の電子デバイ
    ス。
JP2003082227A 2002-04-09 2003-03-25 ディジタル楽譜の音符とその楽譜のリアリゼーションとの間のリンクを生成する方法 Expired - Fee Related JP4225812B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP02007897.8 2002-04-09
EP02007897 2002-04-09

Publications (2)

Publication Number Publication Date
JP2003308067A true JP2003308067A (ja) 2003-10-31
JP4225812B2 JP4225812B2 (ja) 2009-02-18

Family

ID=28459459

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003082227A Expired - Fee Related JP4225812B2 (ja) 2002-04-09 2003-03-25 ディジタル楽譜の音符とその楽譜のリアリゼーションとの間のリンクを生成する方法

Country Status (2)

Country Link
US (1) US6768046B2 (ja)
JP (1) JP4225812B2 (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4797523B2 (ja) * 2005-09-12 2011-10-19 ヤマハ株式会社 合奏システム
JP4692189B2 (ja) * 2005-09-28 2011-06-01 ヤマハ株式会社 合奏システム
JP4752425B2 (ja) * 2005-09-28 2011-08-17 ヤマハ株式会社 合奏システム
US7667125B2 (en) 2007-02-01 2010-02-23 Museami, Inc. Music transcription
JP2010518459A (ja) 2007-02-14 2010-05-27 ミューズアミ, インコーポレイテッド 配布オーディオファイル編集用ウェブポータル
WO2009103023A2 (en) * 2008-02-13 2009-08-20 Museami, Inc. Music score deconstruction
EP2661748A2 (en) 2011-01-06 2013-11-13 Hank Risan Synthetic simulation of a media recording
JP5477410B2 (ja) * 2012-03-21 2014-04-23 ヤマハ株式会社 音楽コンテンツ表示装置及びプログラム
JP6801225B2 (ja) * 2016-05-18 2020-12-16 ヤマハ株式会社 自動演奏システムおよび自動演奏方法
US10460712B1 (en) * 2018-12-10 2019-10-29 Avid Technology, Inc. Synchronizing playback of a digital musical score with an audio recording
US10748515B2 (en) 2018-12-21 2020-08-18 Electronic Arts Inc. Enhanced real-time audio generation via cloud-based virtualized orchestra
US10790919B1 (en) 2019-03-26 2020-09-29 Electronic Arts Inc. Personalized real-time audio generation based on user physiological response
US10799795B1 (en) 2019-03-26 2020-10-13 Electronic Arts Inc. Real-time audio generation for electronic games based on personalized music preferences
US10657934B1 (en) * 2019-03-27 2020-05-19 Electronic Arts Inc. Enhancements for musical composition applications
US10643593B1 (en) 2019-06-04 2020-05-05 Electronic Arts Inc. Prediction-based communication latency elimination in a distributed virtualized orchestra
US11017751B2 (en) * 2019-10-15 2021-05-25 Avid Technology, Inc. Synchronizing playback of a digital musical score with an audio recording

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6141191A (ja) * 1984-08-01 1986-02-27 ローランド株式会社 同期自動演奏装置
JPH0962262A (ja) * 1995-08-28 1997-03-07 Casio Comput Co Ltd メロディ変換装置及びその方法
JPH09114456A (ja) * 1995-10-17 1997-05-02 Yamaha Corp 自動演奏装置
JPH1031490A (ja) * 1996-07-18 1998-02-03 Roland Corp 電子楽器の音素材処理装置
JP2000242267A (ja) * 1999-02-22 2000-09-08 Kawai Musical Instr Mfg Co Ltd 音楽学習支援装置及び音楽学習支援プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2000347659A (ja) * 1999-03-26 2000-12-15 Nippon Telegr & Teleph Corp <Ntt> 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した記録媒体

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0239917A3 (en) * 1986-03-29 1989-03-29 Yamaha Corporation Automatic sound player system having acoustic and electronic sound sources
US5153829A (en) * 1987-11-11 1992-10-06 Canon Kabushiki Kaisha Multifunction musical information processing apparatus
AU633828B2 (en) * 1988-12-05 1993-02-11 Ricos Co., Ltd. Apparatus for reproducing music and displaying words
US5142961A (en) * 1989-11-07 1992-09-01 Fred Paroutaud Method and apparatus for stimulation of acoustic musical instruments
US5262940A (en) * 1990-08-23 1993-11-16 Lester Sussman Portable audio/audio-visual media tracking device
US5208421A (en) * 1990-11-01 1993-05-04 International Business Machines Corporation Method and apparatus for audio editing of midi files
JP3241372B2 (ja) * 1990-11-27 2001-12-25 パイオニア株式会社 カラオケ演奏方法
FR2674349B1 (fr) * 1991-03-20 1993-07-02 Armines Procede de traitement d'images par files d'attente hierarchisees.
US5317732A (en) * 1991-04-26 1994-05-31 Commodore Electronics Limited System for relocating a multimedia presentation on a different platform by extracting a resource map in order to remap and relocate resources
US5083491A (en) * 1991-05-31 1992-01-28 Burgett, Inc. Method and apparatus for re-creating expression effects on solenoid actuated music producing instruments
US5405153A (en) * 1993-03-12 1995-04-11 Hauck; Lane T. Musical electronic game
US5393926A (en) * 1993-06-07 1995-02-28 Ahead, Inc. Virtual music system
US5388264A (en) * 1993-09-13 1995-02-07 Taligent, Inc. Object oriented framework system for routing, editing, and synchronizing MIDI multimedia information using graphically represented connection object
US5390138A (en) * 1993-09-13 1995-02-14 Taligent, Inc. Object-oriented audio system
US5663517A (en) * 1995-09-01 1997-09-02 International Business Machines Corporation Interactive system for compositional morphing of music in real-time
US6199076B1 (en) * 1996-10-02 2001-03-06 James Logan Audio program player including a dynamic program selection controller
AUPP547898A0 (en) * 1998-08-26 1998-09-17 Canon Kabushiki Kaisha System and method for automatic music generation
US6372973B1 (en) * 1999-05-18 2002-04-16 Schneidor Medical Technologies, Inc, Musical instruments that generate notes according to sounds and manually selected scales

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6141191A (ja) * 1984-08-01 1986-02-27 ローランド株式会社 同期自動演奏装置
JPH0962262A (ja) * 1995-08-28 1997-03-07 Casio Comput Co Ltd メロディ変換装置及びその方法
JPH09114456A (ja) * 1995-10-17 1997-05-02 Yamaha Corp 自動演奏装置
JPH1031490A (ja) * 1996-07-18 1998-02-03 Roland Corp 電子楽器の音素材処理装置
JP2000242267A (ja) * 1999-02-22 2000-09-08 Kawai Musical Instr Mfg Co Ltd 音楽学習支援装置及び音楽学習支援プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2000347659A (ja) * 1999-03-26 2000-12-15 Nippon Telegr & Teleph Corp <Ntt> 音楽検索装置,音楽検索方法および音楽検索プログラムを記録した記録媒体

Also Published As

Publication number Publication date
US20030188626A1 (en) 2003-10-09
US6768046B2 (en) 2004-07-27
JP4225812B2 (ja) 2009-02-18

Similar Documents

Publication Publication Date Title
US5621182A (en) Karaoke apparatus converting singing voice into model voice
US9508330B2 (en) System and method for generating a rhythmic accompaniment for a musical performance
JP4463421B2 (ja) 自動音楽生成装置及び方法
US8415549B2 (en) Time compression/expansion of selected audio segments in an audio file
KR100270434B1 (ko) 생음성의 음역을 검출하여 하모니음성을 조절하는 가라오케 장치
JP3675287B2 (ja) 演奏データ作成装置
US7563975B2 (en) Music production system
JP5982980B2 (ja) 楽音発生パターンを示すクエリーを用いて演奏データの検索を行う装置、方法および記憶媒体
US9263018B2 (en) System and method for modifying musical data
JP4225812B2 (ja) ディジタル楽譜の音符とその楽譜のリアリゼーションとの間のリンクを生成する方法
US9251773B2 (en) System and method for determining an accent pattern for a musical performance
US5939654A (en) Harmony generating apparatus and method of use for karaoke
JP3239672B2 (ja) 自動演奏装置
JPH07295560A (ja) Midiデータ編集装置
US7470856B2 (en) Method and apparatus for reproducing MIDI music based on synchronization information
JP3829780B2 (ja) 奏法決定装置及びプログラム
JP3750533B2 (ja) 波形データ録音装置および録音波形データ再生装置
JP3623557B2 (ja) 自動作曲システムおよび自動作曲方法
WO2009038539A1 (en) Apparatus and method for transforming an input sound signal
JP2002372981A (ja) 音声変換機能付カラオケ装置
JP4537490B2 (ja) オーディオ再生装置およびオーディオ早送り再生方法
JP7425558B2 (ja) コード検出装置及びコード検出プログラム
JP2007233078A (ja) 評価装置、制御方法及びプログラム
JP2007093795A (ja) 楽音データ生成方法及び装置
JP2005173631A (ja) 演奏データ作成装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050322

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20050518

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20050523

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050916

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050916

RD12 Notification of acceptance of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7432

Effective date: 20050916

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050920

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20051110

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20060104

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060104

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060223

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20060324

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080711

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080711

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20081021

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081021

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20081118

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20081118

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081125

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111205

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111205

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121205

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121205

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131205

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees