JP2000099092A - 音響信号の符号化装置および符号データの編集装置 - Google Patents

音響信号の符号化装置および符号データの編集装置

Info

Publication number
JP2000099092A
JP2000099092A JP10283452A JP28345298A JP2000099092A JP 2000099092 A JP2000099092 A JP 2000099092A JP 10283452 A JP10283452 A JP 10283452A JP 28345298 A JP28345298 A JP 28345298A JP 2000099092 A JP2000099092 A JP 2000099092A
Authority
JP
Japan
Prior art keywords
code
data
audio signal
unit section
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10283452A
Other languages
English (en)
Other versions
JP4152502B2 (ja
Inventor
Toshio Motegi
敏雄 茂出木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dai Nippon Printing Co Ltd
Original Assignee
Dai Nippon Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dai Nippon Printing Co Ltd filed Critical Dai Nippon Printing Co Ltd
Priority to JP28345298A priority Critical patent/JP4152502B2/ja
Publication of JP2000099092A publication Critical patent/JP2000099092A/ja
Application granted granted Critical
Publication of JP4152502B2 publication Critical patent/JP4152502B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Electrophonic Musical Instruments (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

(57)【要約】 【課題】 アナログ音響信号を、楽譜表示と音源再生と
の双方に適したMIDI符号に変換する。 【解決手段】 音響データ入力手段10により、原音波
形をデジタルデータとして入力する。パラメータ設定手
段30内には、表示用パラメータと再生用パラメータと
を用意しておき、符号化処理手段20は、これらのパラ
メータを用いて、時間的密度の低い表示用符号列と時間
的密度の高い再生用符号列とを生成し、これを符号列出
力手段40によって、各MIDIトラックに分けて記録
媒体50上に出力する。表示再生装置60は、表示用符
号列を用いて楽譜表示を行い、再生用符号列を用いて音
源再生を行う。符号編集手段70により、表示用符号列
に対する編集が行われると、再生用符号列に対しても同
等の編集が自動的に行われ、整合性が維持される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は音響信号の符号化装
置および符号データの編集装置に関し、時系列の強度信
号として与えられる音響信号を符号化し、これを編集す
る技術に関する。特に、本発明は任意の音響信号をMI
DI形式の符号データに変換する処理に適しており、ラ
ジオ・テレビなどの放送メディア、CS映像・音声配信
・インターネット配信などの通信メディア、CD・MD
・カセット・ビデオ・LD・CD−ROM・ゲームカセ
ットなどで提供されるパッケージメディアなどを介して
提供する各種オーディオコンテンツの制作分野への利用
が予想される。
【0002】
【従来の技術】音響信号を符号化する技術として、PC
M(Pulse Code Modulation )の手法は最も普及してい
る手法であり、現在、オーディオCDやDATなどの記
録方式として広く利用されている。このPCMの手法の
基本原理は、アナログ音響信号を所定のサンプリング周
波数でサンプリングし、各サンプリング時の信号強度を
量子化してデジタルデータとして表現する点にあり、サ
ンプリング周波数や量子化ビット数を高くすればするほ
ど、原音を忠実に再生することが可能になる。ただ、サ
ンプリング周波数や量子化ビット数を高くすればするほ
ど、必要な情報量も増えることになる。そこで、できる
だけ情報量を低減するための手法として、信号の変化差
分のみを符号化するADPCM(Adaptive Differentia
l Pulse Code Modulation )の手法も用いられている。
【0003】一方、電子楽器による楽器音を符号化しよ
うという発想から生まれたMIDI(Musical Instrume
nt Digital Interface)規格も、パーソナルコンピュー
タの普及とともに盛んに利用されるようになってきてい
る。このMIDI規格による符号データ(以下、MID
Iデータという)は、基本的には、楽器のどの鍵盤キー
を、どの程度の強さで弾いたか、という楽器演奏の操作
を記述したデータであり、このMIDIデータ自身に
は、実際の音の波形は含まれていない。そのため、実際
の音を再生する場合には、楽器音の波形を記憶したMI
DI音源が別途必要になる。しかしながら、上述したP
CMの手法で音を記録する場合に比べて、情報量が極め
て少なくてすむという特徴を有し、その符号化効率の高
さが注目を集めている。このMIDI規格による符号化
および復号化の技術は、現在、パーソナルコンピュータ
を用いて楽器演奏、楽器練習、作曲などを行うソフトウ
エアに広く採り入れられており、カラオケ、ゲームの効
果音といった分野でも広く利用されている。
【0004】上述したように、PCMの手法により音響
信号を符号化する場合、十分な音質を確保しようとすれ
ば情報量が膨大になり、データ処理の負担が重くならざ
るを得ない。したがって、通常は、ある程度の情報量に
抑えるため、ある程度の音質に妥協せざるを得ない。も
ちろん、MIDI規格による符号化の手法を採れば、非
常に少ない情報量で十分な音質をもった音の再生が可能
であるが、上述したように、MIDI規格そのものが、
もともと楽器演奏の操作を符号化するためのものである
ため、広く一般音響への適用を行うことはできない。別
言すれば、MIDIデータを作成するためには、実際に
楽器を演奏するか、あるいは、楽譜の情報を用意する必
要がある。
【0005】このように、従来用いられているPCMの
手法にしても、MIDIの手法にしても、それぞれ音響
信号の符号化方法としては一長一短があり、一般の音響
信号について、少ない情報量で十分な音質を確保するこ
とはできない。ところが、一般の音響信号についても効
率的な符号化を行いたいという要望は、益々強くなって
きている。そこで、特開平10−247099号公報や
特願平9−273949号明細書には、任意の音響信号
を効率的に符号化するための新規な符号化方法が提案さ
れている。これらの符号化方法を用いれば、任意の音響
信号に基いてMIDIデータを作成することができ、所
定の音源を用いてこれを再生することができる。
【0006】
【発明が解決しようとする課題】上述した新規な符号化
方法を利用すれば、任意の音響信号を符号化することが
可能であるが、得られた符号列は必ずしも広範な用途に
適したものにはならない。たとえば、もとの音響信号を
できるだけ忠実に再生するという音源再生用途に利用す
るためには、できるだけ時間的密度の高い符号列を得る
ようにし、単位時間あたりの符号数を多くとる必要があ
る。特に、楽器演奏音におけるビブラートやトリラーと
いった音程が激しく変化する部分を忠実に再現するため
には、もとの音響信号をできるだけ細分化して符号に置
き換える必要がある。また、音量の小さな信号について
も無視することなく忠実に符号化する必要がある。この
ため、全体的に非常に長い符号列が得られることにな
る。
【0007】ところが、このような音源再生用に適した
符号列は、楽譜表示という閲覧を目的とした用途には不
適当である。細分化された符号をそのまま音符として楽
譜上に羅列すると、非常に多数の音符が五線譜上にぎっ
しりと詰まった状態になり、視認性は極めて低下せざる
を得ない。実際、楽譜上でビブラートを表現する場合、
細かな音符の羅列による表現は行われておらず、通常の
音符の上に「vibrato」なるコメント文を付加するのが
一般的である。また、音量の小さな信号については、こ
れを敢えて符号化せずに無視した方が、楽譜表示という
用途に用いる場合には適している。このように、楽譜表
示用の符号列は、できるだけ簡素化されている方が好ま
しく、その時間的密度は低い方が好ましい。
【0008】結局、音源再生用に作成した符号列は楽譜
表示用には不適当になり、逆に、楽譜表示用に作成した
符号列は音源再生用には不適当になる。しかしながら、
現実的には、楽器音などの音響信号に対しては、できる
だけ忠実に再生を行いたいという要求とともに、楽譜と
しても確認したいという要求がなされるため、広範な用
途に利用可能な符号化手法が望まれている。また、符号
化された符号データに対しては、必要に応じて編集が行
えると便利である。
【0009】そこで本発明は、広範な用途に利用可能な
符号化が可能な音響信号の符号化装置を提供することを
目的とし、また、符号化された符号データに対して効率
的な編集を行うことが可能な符号データの編集装置を提
供することを目的とする。
【0010】
【課題を解決するための手段】(1) 本発明の第1の態
様は、時系列の強度信号として与えられる音響信号を符
号化する音響信号の符号化装置において、符号化対象と
なる音響信号をデジタルの音響データとして入力する音
響データ入力手段と、音響データを符号列に変換する符
号化処理を行う符号化処理手段と、符号化処理に用いる
パラメータを設定するパラメータ設定手段と、符号化処
理によって得られた符号列を出力する符号列出力手段
と、を設け、パラメータ設定手段が、互いに時間的密度
が異なる符号化が行われるように複数通りのパラメータ
を設定できるようにし、符号化処理手段が、同一の音響
データに対して複数通りのパラメータを用いることによ
り、互いに時間的密度が異なる複数通りの符号列を生成
できるようにし、符号列出力手段が、同一の音響データ
について生成された複数通りの符号列を1組のデータと
して出力することができるようにしたものである。
【0011】(2) 本発明の第2の態様は、上述の第1
の態様に係る音響信号の符号化装置において、符号化処
理手段が、音響データの時間軸上に複数の単位区間を設
定し、個々の単位区間に所属する音響データを1つの符
号に置換することにより符号化処理を行うようにしたも
のである。
【0012】(3) 本発明の第3の態様は、上述の第2
の態様に係る音響信号の符号化装置において、符号化処
理手段が、1つの単位区間に所属する音響データの周波
数分布が所定の許容範囲内に入るように個々の単位区間
を設定する機能を有し、パラメータ設定手段が、許容範
囲を定めるパラメータを複数通り設定する機能を有する
ようにしたものである。
【0013】(4) 本発明の第4の態様は、上述の第2
の態様に係る音響信号の符号化装置において、符号化処
理手段が、1つの単位区間に所属する音響データの強度
分布が所定の許容範囲内に入るように個々の単位区間を
設定する機能を有し、パラメータ設定手段が、許容範囲
を定めるパラメータを複数通り設定する機能を有するよ
うにしたものである。
【0014】(5) 本発明の第5の態様は、上述の第2
の態様に係る音響信号の符号化装置において、符号化処
理手段が、強度が所定の許容値未満の音響データを除外
して個々の単位区間を設定する機能を有し、パラメータ
設定手段が、この許容値を定めるパラメータを複数通り
設定する機能を有するようにしたものである。
【0015】(6) 本発明の第6の態様は、上述の第2
の態様に係る音響信号の符号化装置において、符号化処
理手段が、個々の単位区間の区間長が所定の許容値以上
となるように個々の単位区間を設定する機能を有し、パ
ラメータ設定手段が、この許容値を定めるパラメータを
複数通り設定する機能を有するようにしたものである。
【0016】(7) 本発明の第7の態様は、上述の第1
〜第6の態様に係る音響信号の符号化装置において、符
号化処理手段が、各単位区間内の音響データの周波数に
基いてノートナンバーを定め、各単位区間内の音響デー
タの強度に基いてベロシティーを定め、各単位区間の長
さに基いてデルタタイムを定め、1つの単位区間の音響
データを、ノートナンバー、ベロシティー、デルタタイ
ムで表現されるMIDI形式の符号に変換する機能を有
し、符号列出力手段が、同一の音響データについて生成
された複数通りの符号列を、それぞれ異なるトラックに
収録し、1組のMIDIデータとして出力するようにし
たものである。
【0017】(8) 本発明の第8の態様は、上述の第7
の態様に係る音響信号の符号化装置において、パラメー
タ設定手段が、楽譜表示用の符号列を生成するのに適し
た表示用パラメータと、音源再生用の符号列を生成する
のに適した再生用パラメータと、を設定する機能を有
し、符号列出力手段が、表示用パラメータを用いて生成
された符号列を、1つまたは複数の楽譜表示用トラック
に収録し、再生用パラメータを用いて生成された符号列
を、1つまたは複数の音源再生用トラックに収録して出
力するようにしたものである。
【0018】(9) 本発明の第9の態様は、上述の第8
の態様に係る音響信号の符号化装置において、各トラッ
クごとに、音の再生を行うか否かを示す制御符号を付加
するようにしたものである。
【0019】(10) 本発明の第10の態様は、上述の第
8の態様に係る音響信号の符号化装置において、符号列
出力手段が、楽譜表示用トラックに収録された符号列と
音源再生用トラックに収録された符号列とを同一の時間
軸上で比較し、音源再生用トラックに収録された符号列
によってのみ表現されている音楽的特徴を認識し、この
音楽的特徴を示す符号を、楽譜表示用トラックに収録さ
れた符号列の対応箇所に付加する処理を行うようにした
ものである。
【0020】(11) 本発明の第11の態様は、同一の音
響データに対して、互いに時間的密度が異なる符号化を
施すことにより生成された複数の符号列から構成される
符号データについて、所定の編集を施すための符号デー
タの編集装置において、複数の符号列のうちの1つを編
集対象符号列、残りの符号列を非編集対象符号列として
特定する機能と、オペレータの指示に基いて、編集対象
符号列の編集箇所に対して所定の編集を施す機能と、時
間軸上において編集箇所に対応する非編集対象符号列上
の箇所を、対応箇所として求め、この対応箇所に対し
て、編集箇所に対して行われた編集と同等の編集を施す
自動編集機能と、を設けるようにしたものである。
【0021】(12) 本発明の第12の態様は、上述の第
11の態様に係る符号データの編集装置において、編集
対象符号列の編集箇所内の符号に対して、削除、移動、
複写、音程の変更、テンポの変更、の中の少なくとも1
つの編集処理を行う機能を設け、非編集対象符号列上の
対応箇所に対して、同等の編集処理が行われるように構
成したものである。
【0022】(13) 本発明の第13の態様は、上述の第
1〜第12の態様に係る音響信号の符号化装置または符
号データの編集装置としてコンピュータを機能させるた
めのプログラムを、コンピュータ読取り可能な記録媒体
に記録するようにしたものである。
【0023】(14) 本発明の第14の態様は、上述の第
1〜第10の態様に係る音響信号の符号化装置によって
符号化された複数通りの符号列のデータを、コンピュー
タ読取り可能な記録媒体に記録するようにしたものであ
る。
【0024】
【発明の実施の形態】以下、本発明を図示する実施形態
に基づいて説明する。
【0025】§1. 本発明に係る音響信号の符号化方
法の基本原理 はじめに、本発明に係る音響信号の符号化方法の基本原
理を図1を参照しながら説明する。なお、この基本原理
を用いた符号化方法の詳細は、特願平9−67467号
明細書に開示されている。いま、図1の上段に示すよう
に、時系列の強度信号としてアナログ音響信号が与えら
れたものとしよう。図示の例では、横軸に時間軸t、縦
軸に信号強度Aをとってこの音響信号を示している。本
発明では、まずこのアナログ音響信号を、デジタルの音
響データとして取り込む処理を行う。これは、従来の一
般的なPCMの手法を用い、所定のサンプリング周波数
でこのアナログ音響信号をサンプリングし、信号強度A
を所定の量子化ビット数を用いてデジタルデータに変換
する処理を行えばよい。ここでは、説明の便宜上、PC
Mの手法でデジタル化した音響データの波形も、図1の
上段のアナログ音響信号と同一の波形で示すことにす
る。
【0026】次に、このデジタル音響データの時間軸t
上に複数の単位区間を設定する。図示の例では、6つの
単位区間U1〜U6が設定されている。第i番目の単位
区間Uiは、時間軸t上の始端siおよび終端eiの座
標値によって、その時間軸t上での位置と長さとが示さ
れる。たとえば、単位区間U1は、始端s1〜終端e1
までの(e1−s1)なる長さをもつ区間である。この
単位区間の定義のしかたによって、最終的に得られる符
号列は異なってくる。これについては、後に詳述する。
【0027】こうして、複数の単位区間が設定された
ら、個々の単位区間内の音響データに基づいて、個々の
単位区間を代表する所定の代表周波数および代表強度を
定義する。ここでは、第i番目の単位区間Uiについ
て、代表周波数Fiおよび代表強度Aiが定義された状
態が示されている。たとえば、第1番目の単位区間U1
については、代表周波数F1および代表強度A1が定義
されている。代表周波数F1は、始端s1〜終端e1ま
での区間に含まれている音響データの周波数成分の代表
値であり、代表強度Aiは、同じく始端s1〜終端e1
までの区間に含まれている音響データの信号強度の代表
値である。単位区間U1内の音響データに含まれる周波
数成分は、通常、単一ではなく、信号強度も変動するの
が一般的である。本発明では、1つの単位区間につい
て、単一の代表周波数と単一の代表強度を定義し、これ
ら代表値を用いて符号化を行うことになる。
【0028】すなわち、個々の単位区間について、それ
ぞれ代表周波数および代表強度が定義されたら、時間軸
t上での個々の単位区間の始端位置および終端位置を示
す情報と、定義された代表周波数および代表強度を示す
情報と、により符号データを生成し、個々の単位区間の
音響データを個々の符号データによって表現するのであ
る。単一の周波数をもち、単一の信号強度をもった音響
信号が、所定の期間だけ持続する、という事象を符号化
する手法として、MIDI規格に基づく符号化を利用す
ることができる。MIDI規格による符号データ(MI
DIデータ)は、いわば音符によって音を表現したデー
タということができ、図1では、下段に示す音符によっ
て、最終的に得られる符号データの概念を示している。
【0029】結局、各単位区間内の音響データは、代表
周波数F1に相当する音程情報(MIDI規格における
ノートナンバー)と、代表強度A1に相当する強度情報
(MIDI規格におけるベロシティー)と、単位区間の
長さ(e1−s1)に相当する長さ情報(MIDI規格
におけるデルタタイム)と、をもった符号データに変換
されることになる。このようにして得られる符号データ
の情報量は、もとの音響信号のもつ情報量に比べて、著
しく小さくなり、飛躍的な符号化効率が得られることに
なる。これまで、MIDIデータを生成する手法として
は、演奏者が実際に楽器を演奏するときの操作をそのま
ま取り込んで符号化するか、あるいは、楽譜上の音符を
データとして入力するしかなかったが、上述した本発明
に係る手法を用いれば、実際のアナログ音響信号からM
IDIデータを直接生成することが可能になる。
【0030】なお、このような方法で生成された符号デ
ータを再生するためには、再生時に音源を用意する必要
がある。本発明に係る手法によって最終的に得られる符
号データには、もとの音響信号の波形データそのものは
含まれていないため、何らかの音響波形のデータをもっ
た音源が必要になるためである。たとえば、MIDIデ
ータを再生する場合には、MIDI音源が必要になる。
もっとも、MIDI規格が普及した現在では、種々のM
IDI音源が入手可能であり、実用上は大きな問題は生
じない。ただ、もとの音響信号に忠実な再生音を得るた
めには、もとの音響信号に含まれていた音響波形に近似
した波形データをもったMIDI音源を用意するのが好
ましい。適当なMIDI音源を用いた再生を行うことが
できれば、むしろもとの音響信号よりも高い音質で、臨
場感あふれる再生音を得ることも可能になる。
【0031】本発明に係る手法を利用して、効率的で再
現性の高い符号化を行うためには、単位区間の設定方法
に工夫を凝らす必要がある。本発明の基本原理は、上述
したように、もとの音響データの時間軸上に複数の単位
区間を設定し、各単位区間ごとに、所定の周波数および
所定の強度を示す符号データに変換するという点にあ
る。したがって、最終的に得られる符号データは、単位
区間の設定方法に大きく依存することになる。最も単純
な単位区間の設定方法は、時間軸上で、たとえば10m
sごとというように、等間隔に単位区間を一義的に設定
する方法である。しかしながら、この方法では、符号化
対象となるもとの音響データにかかわらず、常に一定の
方法で単位区間の設定が行われることになり、必ずしも
効率的で再現性の高い符号化は期待できない。したがっ
て、実用上は、もとの音響データの波形を解析し、個々
の音響データに適した単位区間の設定を行うようにする
のが好ましい。
【0032】効率的な単位区間の設定を行う1つのアプ
ローチは、音響データの中で周波数帯域がある程度近似
した区間を1つのまとまった単位区間として抽出すると
いう方法である。単位区間内の周波数成分は代表周波数
によって置き換えられてしまうので、この代表周波数と
あまりにかけ離れた周波数成分が含まれていると、再生
時の再現性が低減する。したがって、ある程度近似した
周波数が持続する区間を1つの単位区間として抽出する
ことは、再現性のよい効率的な符号化を行う上で重要で
ある。このアプローチを採る場合、具体的には、もとの
音響データの周波数の変化点を認識し、この変化点を境
界とする単位区間の設定を行うようにすればよい。
【0033】効率的な単位区間の設定を行うもう1つの
アプローチは、音響データの中で信号強度がある程度近
似した区間を1つのまとまった単位区間として抽出する
という方法である。単位区間内の信号強度は代表強度に
よって置き換えられてしまうので、この代表強度とあま
りにかけ離れた信号強度が含まれていると、再生時の再
現性が低減する。したがって、ある程度近似した信号強
度が持続する区間を1つの単位区間として抽出すること
は、再現性のよい効率的な符号化を行う上で重要であ
る。このアプローチを採る場合、具体的には、もとの音
響データの信号強度の変化点を認識し、この変化点を境
界とする単位区間の設定を行うようにすればよい。
【0034】§2. 本発明に係る符号化方法の具体的
な手順例 図2は、本発明による符号化の具体的な処理手順の一例
を示す流れ図である。この手順は、入力段階S10、変
極点定義段階S20、区間設定段階S30、符号化段階
S40の4つの大きな段階から構成されており、前掲の
特願平9−67467号明細書においても開示されてい
る手順である。入力段階S10は、符号化対象となる音
響信号を、デジタルの音響データとして取り込む段階で
ある。変極点定義段階S20は、後の区間設定段階S3
0の準備段階ともいうべき段階であり、取り込んだ音響
データの波形について変極点(ローカルピーク)を求め
る段階である。また、区間設定段階S30は、この変極
点に基づいて、音響データの時間軸上に複数の単位区間
を設定する段階であり、符号化段階S40は、個々の単
位区間の音響データを個々の符号データに変換する段階
である。符号データへの変換原理は、既に§1で述べた
とおりである。すなわち、個々の単位区間内の音響デー
タに基づいて、個々の単位区間を代表する所定の代表周
波数および代表強度を定義し、時間軸上での個々の単位
区間の始端位置および終端位置を示す情報と、代表周波
数および代表強度を示す情報と、によって符号データが
生成される。以下、これらの各段階において行われる処
理を順に説明する。
【0035】<<< 2.1 入力段階 >>>入力段
階S10では、サンプリング処理S11と直流成分除去
処理S12とが実行される。サンプリング処理S11
は、符号化の対象となるアナログ音響信号を、デジタル
の音響データとして取り込む処理であり、従来の一般的
なPCMの手法を用いてサンプリングを行う処理であ
る。この実施形態では、サンプリング周波数:44.1
kHz、量子化ビット数:16ビットという条件でサン
プリングを行い、デジタルの音響データを用意してい
る。
【0036】続く、直流成分除去処理S12は、入力し
た音響データに含まれている直流成分を除去するデジタ
ル処理である。たとえば、図3に示す音響データは、振
幅の中心レベルが、信号強度を示すデータレンジの中心
レベル(具体的なデジタル値としては、たとえば、16
ビットでサンプリングを行い、0〜65535のデータ
レンジが設定されている場合には32768なる値。以
下、説明の便宜上、図3のグラフに示すように、データ
レンジの中心レベルに0をとり、サンプリングされた個
々の信号強度の値を正または負で表現する)よりもDだ
け高い位置にきている。別言すれば、この音響データに
は、値Dに相当する直流成分が含まれていることにな
る。サンプリング処理の対象になったアナログ音響信号
に直流成分が含まれていると、デジタル音響データにも
この直流成分が残ることになる。そこで、直流成分除去
処理S12によって、この直流成分Dを除去する処理を
行い、振幅の中心レベルとデータレンジの中心レベルと
を一致させる。具体的には、サンプリングされた個々の
信号強度の平均が0になるように、直流成分Dを差し引
く演算を行えばよい。これにより、正および負の両極性
デジタル値を信号強度としてもった音響データが用意で
きる。
【0037】<<< 2.2 変極点定義段階 >>>
変極点定義段階S20では、変極点探索処理S21と同
極性変極点の間引処理S22とが実行される。変極点探
索処理S21は、取り込んだ音響データの波形について
変極点を求める処理である。図4は、図3に示す音響デ
ータの一部を時間軸に関して拡大して示したグラフであ
る。このグラフでは、矢印P1〜P6の先端位置の点が
変極点(極大もしくは極小の点)に相当し、各変極点は
いわゆるローカルピークに相当する点となる。このよう
な変極点を探索する方法としては、たとえば、サンプリ
ングされたデジタル値を時間軸に沿って順に注目してゆ
き、増加から減少に転じた位置、あるいは減少から増加
に転じた位置を認識すればよい。ここでは、この変極点
を図示のような矢印で示すことにする。
【0038】各変極点は、サンプリングされた1つのデ
ジタルデータに対応する点であり、所定の信号強度の情
報(矢印の長さに相当)をもつとともに、時間軸t上で
の位置の情報をもつことになる。図5は、図4に矢印で
示す変極点P1〜P6のみを抜き出して示した図であ
る。以下の説明では、この図5に示すように、第i番目
の変極点Piのもつ信号強度(絶対値)を矢印の長さa
iとして示し、時間軸t上での変極点Piの位置をti
として示すことにする。結局、変極点探索処理S21
は、図3に示すような音響データに基づいて、図5に示
すような各変極点に関する情報を求める処理ということ
になる。
【0039】ところで、図5に示す各変極点P1〜P6
は、交互に極性が反転する性質を有する。すなわち、図
5の例では、奇数番目の変極点P1,P3,P5は上向
きの矢印で示され、偶数番目の変極点P2,P4,P6
は下向きの矢印で示されている。これは、もとの音響デ
ータ波形の振幅が正負交互に現れる振動波形としての本
来の姿をしているためである。しかしながら、実際に
は、このような本来の振動波形が必ずしも得られるとは
限らず、たとえば、図6に示すように、多少乱れた波形
が得られる場合もある。この図6に示すような音響デー
タに対して変極点探索処理S21を実行すると、個々の
変極点P1〜P7のすべてが検出されてしまうため、図
7に示すように、変極点を示す矢印の向きは交互に反転
するものにはならない。しかしながら、単一の代表周波
数を定義する上では、向きが交互に反転した矢印列が得
られるのが好ましい。
【0040】同極性変極点の間引処理S22は、図7に
示すように、同極性のデジタル値をもった変極点(同じ
向きの矢印)が複数連続した場合に、絶対値が最大のデ
ジタル値をもった変極点(最も長い矢印)のみを残し、
残りを間引きしてしまう処理である。図7に示す例の場
合、上向きの3本の矢印P1〜P3のうち、最も長いP
2のみが残され、下向きの3本の矢印P4〜P6のう
ち、最も長いP4のみが残され、結局、間引処理S22
により、図8に示すように、3つの変極点P2,P4,
P7のみが残されることになる。この図8に示す変極点
は、図6に示す音響データの波形の本来の姿に対応した
ものになる。
【0041】<<< 2.3 区間設定段階 >>>既
に述べたように、本発明に係る符号化方法において、効
率的で再現性の高い符号化を行うためには、単位区間の
設定方法に工夫を凝らす必要があり、単位区間をどのよ
うに定義するかによって、最終的に得られる符号列が左
右されることになる。その意味で、図2に示す各段階の
うち、区間設定段階S30は、実用上非常に重要な段階
である。上述した変極点定義段階S20は、この区間設
定段階S30の準備段階になっており、単位区間の設定
は、個々の変極点の情報を利用して行われる。すなわ
ち、この区間設定段階S30では、変極点に基づいて音
響データの周波数もしくは信号強度の変化点を認識し、
この変化点を境界とする単位区間を設定する、という基
本的な考え方に沿って処理が進められる。
【0042】図5に示すように、矢印で示されている個
々の変極点P1〜P6には、それぞれ信号強度a1〜a
6が定義されている。しかしながら、個々の変極点P1
〜P6それ自身には、周波数に関する情報は定義されて
いない。区間設定段階S30において最初に行われる瞬
間周波数定義処理S31は、個々の変極点それぞれに、
所定の瞬間周波数を定義する処理である。本来、周波数
というものは、時間軸上の所定の区間内の波について定
義される物理量であり、時間軸上のある1点について定
義されるべきものではない。ただ、ここでは便宜上、個
々の変極点について、疑似的に瞬間周波数なるものを定
義することにする。この瞬間周波数は、個々の変極点そ
れぞれに定義された疑似的な周波数であり、信号のある
瞬間における基本周波数を意味するものである。
【0043】いま、図9に示すように、多数の変極点の
うち、第n番目〜第(n+2)番目の変極点P(n),
P(n+1),P(n+2)に着目する。これら各変極
点には、それぞれ信号値a(n),a(n+1),a
(n+2)が定義されており、また、時間軸上での位置
t(n),t(n+1),t(n+2)が定義されてい
る。ここで、これら各変極点が、音響データ波形のロー
カルピーク位置に相当する点であることを考慮すれば、
図示のように、変極点P(n)とP(n+2)との間の
時間軸上での距離φは、もとの波形の1周期に対応する
ことがわかる。そこで、たとえば、第n番目の変極点P
(n)の瞬間周波数f(n)なるものを、f(n)=1
/φと定義すれば、個々の変極点について、それぞれ瞬
間周波数を定義することができる。時間軸上での位置t
(n),t(n+1),t(n+2)が、「秒」の単位
で表現されていれば、 φ=(t(n+2)−t(n)) であるから、 f(n)=1/(t(n+2)−t(n)) として定義できる。
【0044】なお、実際のデジタルデータ処理の手順を
考慮すると、個々の変極点の位置は、「秒」の単位では
なく、サンプル番号x(サンプリング処理S11におけ
る何番目のサンプリング時に得られたデータであるかを
示す番号)によって表されることになるが、このサンプ
ル番号xと実時間「秒」とは、サンプリング周波数fs
によって一義的に対応づけられる。たとえば、第m番目
のサンプルx(m)と第(m+1)番目のサンプルx
(m+1)との間の実時間軸上での間隔は、1/fsに
なる。
【0045】さて、このようにして個々の変極点に定義
された瞬間周波数は、物理的には、その変極点付近のロ
ーカルな周波数を示す量ということになる。隣接する別
な変極点との距離が短ければ、その付近のローカルな周
波数は高く、隣接する別な変極点との距離が長ければ、
その付近のローカルな周波数は低いということになる。
もっとも、上述の例では、後続する2つ目の変極点との
間の距離に基づいて瞬間周波数を定義しているが、瞬間
周波数の定義方法としては、この他どのような方法を採
ってもかまわない。たとえば、第n番目の変極点の瞬間
周波数f(n)を、先行する第(n−2)番目の変極点
との間の距離を用いて、 f(n)=1/(t(n)−t(n−2)) と定義することもできる。また、前述したように、後続
する2つ目の変極点との間の距離に基づいて、瞬間周波
数f(n)を、 f(n)=1/(t(n+2)−t(n)) なる式で定義した場合であっても、最後の2つの変極点
については、後続する2つ目の変極点が存在しないの
で、先行する変極点を利用して、 f(n)=1/(t(n)−t(n−2)) なる式で定義すればよい。
【0046】あるいは、後続する次の変極点との間の距
離に基づいて、第n番目の変極点の瞬間周波数f(n)
を、 f(n)=(1/2)・1/(t(n+1)−t
(n)) なる式で定義することもできるし、後続する3つ目の変
極点との間の距離に基づいて、 f(n)=(3/2)・1/(t(n+3)−t
(n)) なる式で定義することもできる。結局、一般式を用いて
示せば、第n番目の変極点についての瞬間周波数f
(n)は、k個離れた変極点(kが正の場合は後続する
変極点、負の場合は先行する変極点)との間の時間軸上
での距離に基づいて、 f(n)=(k/2)・1/(t(n+k)−t
(n)) なる式で定義することができる。kの値は、予め適当な
値に設定しておけばよい。変極点の時間軸上での間隔が
比較的小さい場合には、kの値をある程度大きく設定し
た方が、誤差の少ない瞬間周波数を定義することができ
る。ただし、kの値をあまり大きく設定しすぎると、ロ
ーカルな周波数としての意味が失われてしまうことにな
り好ましくない。
【0047】こうして、瞬間周波数定義処理S31が完
了すると、個々の変極点P(n)には、信号強度a
(n)と、瞬間周波数f(n)と、時間軸上での位置t
(n)とが定義されることになる。
【0048】さて、§1では、効率的で再現性の高い符
号化を行うためには、1つの単位区間に含まれる変極点
の周波数が所定の近似範囲内になるように単位区間を設
定するという第1のアプローチと、1つの単位区間に含
まれる変極点の信号強度が所定の近似範囲内になるよう
に単位区間を設定するという第2のアプローチとがある
ことを述べた。ここでは、この2つのアプローチを用い
た単位区間の設定手法を、具体例に即して説明しよう。
【0049】いま、図10に示すように、9つの変極点
P1〜P9のそれぞれについて、信号強度a1〜a9と
瞬間周波数f1〜f9とが定義されている場合を考え
る。この場合、第1のアプローチに従えば、個々の瞬間
周波数f1〜f9に着目し、互いに近似した瞬間周波数
をもつ空間的に連続した変極点の一群を1つの単位区間
とする処理を行えばよい。たとえば、瞬間周波数f1〜
f5がほぼ同じ値(第1の基準値)をとり、瞬間周波数
f6〜f9がほぼ同じ値(第2の基準値)をとってお
り、第1の基準値と第2の基準値との差が所定の許容範
囲を越えていた場合、図10に示すように、第1の基準
値の近似範囲に含まれる瞬間周波数f1〜f5をもつ変
極点P1〜P5を含む区間を単位区間U1とし、第2の
基準値の近似範囲に含まれる瞬間周波数f6〜f9をも
つ変極点P6〜P9を含む区間を単位区間U2として設
定すればよい。本発明による手法では、1つの単位区間
については、単一の代表周波数が与えられることになる
が、このように、瞬間周波数が互いに近似範囲内にある
複数の変極点が存在する区間を1つの単位区間として設
定すれば、代表周波数と個々の瞬間周波数との差が所定
の許容範囲内に抑えられることになり、大きな問題は生
じない。
【0050】続いて、瞬間周波数が近似する変極点を1
グループにまとめて、1つの単位区間を定義するための
具体的な手法の一例を以下に示す。たとえば、図10に
示すように、9つの変極点P1〜P9が与えられた場
合、まず変極点P1とP2について、瞬間周波数を比較
し、両者の差が所定の許容範囲ff内にあるか否かを調
べる。もし、 |f1−f2|<ff であれば、変極点P1,P2を第1の単位区間U1に含
ませる。そして、今度は、変極点P3を、この第1の単
位区間U1に含ませてよいか否かを調べる。これは、こ
の第1の単位区間U1についての平均瞬間周波数(f1
+f2)/2と、f3との比較を行い、 |(f1+f2)/2−f3|<ff であれば、変極点P3を第1の単位区間U1に含ませれ
ばよい。更に、変極点P4に関しては、 |(f1+f2+f3)/3−f4|<ff であれば、これを第1の単位区間U1に含ませることが
でき、変極点P5に関しては、 |(f1+f2+f3+f4)/4−f5|<ff であれば、これを第1の単位区間U1に含ませることが
できる。ここで、もし、変極点P6について、 |(f1+f2+f3+f4+f5)/5−f6|>f
f なる結果が得られたしまった場合、すなわち、瞬間周波
数f6と、第1の単位区間U1の平均瞬間周波数との差
が、所定の許容範囲ffを越えてしまった場合、変極点
P5とP6との間に不連続位置が検出されたことにな
り、変極点P6を第1の単位区間U1に含ませることは
できない。そこで、変極点P5をもって第1の単位区間
U1の終端とし、変極点P6は別な第2の単位区間U2
の始端とする。そして、変極点P6とP7について、瞬
間周波数を比較し、両者の差が所定の許容範囲ff内に
あるか否かを調べ、もし、 |f6−f7|<ff であれば、変極点P6,P7を第2の単位区間U2に含
ませる。そして、今度は、変極点P8に関して、 |(f6+f7)/2−f8|<ff であれば、これを第2の単位区間U2に含ませ、変極点
P9に関して、 |(f6+f7+f8)/3−f9|<ff であれば、これを第2の単位区間U2に含ませる。
【0051】このような手法で、不連続位置の検出を順
次行ってゆき、各単位区間を順次設定してゆけば、上述
した第1のアプローチに沿った区間設定が可能になる。
もちろん、上述した具体的な手法は、一例として示した
ものであり、この他にも種々の手法を採ることができ
る。たとえば、平均値と比較する代わりに、常に隣接す
る変極点の瞬間周波数を比較し、差が許容範囲ffを越
えた場合に不連続位置と認識する簡略化した手法を採っ
てもかまわない。すなわち、f1とf2との差、f2と
f3との差、f3とf4との差、…というように、個々
の差を検討してゆき、差が許容範囲ffを越えた場合に
は、そこを不連続位置として認識すればよい。
【0052】以上、第1のアプローチについて述べた
が、第2のアプローチに基づく単位区間の設定も同様に
行うことができる。この場合は、個々の変極点の信号強
度a1〜a9に着目し、所定の許容範囲aaとの比較を
行うようにすればよい。もちろん、第1のアプローチと
第2のアプローチとの双方を組み合わせて、単位区間の
設定を行ってもよい。この場合は、個々の変極点の瞬間
周波数f1〜f9と信号強度a1〜a9との双方に着目
し、両者がともに所定の許容範囲ffおよびaa内に入
っていれば、同一の単位区間に含ませるというような厳
しい条件を課してもよいし、いずれか一方が許容範囲内
に入っていれば、同一の単位区間に含ませるというよう
な緩い条件を課してもよい。
【0053】なお、この区間設定段階S30において
は、上述した各アプローチに基づいて単位区間の設定を
行う前に、絶対値が所定の許容レベル未満となる信号強
度をもつ変極点を除外する処理を行っておくのが好まし
い。たとえば、図11に示す例のように所定の許容レベ
ルLLを設定すると、変極点P4の信号強度a4と変極
点P9の信号強度a9は、その絶対値がこの許容レベル
LL未満になる。このような場合、変極点P4,P9を
除外する処理を行うのである。このような除外処理を行
う第1の意義は、もとの音響信号に含まれていたノイズ
成分を除去することにある。通常、音響信号を電気的に
取り込む過程では、種々のノイズ成分が混入することが
多く、このようなノイズ成分までも含めて符号化が行わ
れると好ましくない。
【0054】もっとも、許容レベルLLをある程度以上
に設定すると、ノイズ成分以外のものも除外されること
になるが、このようにノイズ成分以外の信号を除外する
ことも、場合によっては、十分に意味のある処理にな
る。すなわち、この除外処理を行う第2の意義は、もと
の音響信号に含まれていた情報のうち、興味の対象外と
なる情報を除外することにある。たとえば、図1の上段
に示す音響信号は、人間の心音を示す信号であるが、こ
の音響信号のうち、疾患の診断などに有効な情報は、振
幅の大きな部分(各単位区間U1〜U6の部分)に含ま
れており、それ以外の部分の情報はあまり役にたたな
い。そこで、所定の許容レベルLLを設定し、無用な情
報部分を除外する処理を行うと、より効率的な符号化が
可能になる。また、後述するように、楽譜表示に利用す
るための符号化を行う場合には、できるだけ符号列を簡
素化し、全体の符号長を短くする方が、判読性が向上す
るために好ましい。したがって、楽譜表示に利用される
符号列を生成する場合には、許容レベルLLをある程度
高く設定し、強度が許容レベルLL未満の信号成分を無
視するとよい。
【0055】なお、許容レベル未満の変極点を除外する
処理を行った場合は、除外された変極点の位置で分割さ
れるように単位区間定義を行うようにするのが好まし
い。たとえば、図11に示す例の場合、除外された変極
点P4,P9の位置(一点鎖線で示す)で分割された単
位区間U1,U2が定義されている。このような単位区
間定義を行えば、図1の上段に示す音響信号のように、
信号強度が許容レベル以上の区間(単位区間U1〜U6
の各区間)と、許容レベル未満の区間(単位区間U1〜
U6以外の区間)とが交互に出現するような音響信号の
場合、非常に的確な単位区間の定義が可能になる。
【0056】これまで、区間設定段階S30で行われる
効果的な区間設定手法の要点を述べてきたが、ここで
は、より具体的な手順を述べることにする。図2の流れ
図に示されているように、この区間設定段階S30は、
4つの処理S31〜S34によって構成されている。瞬
間周波数定義処理S31は、既に述べたように、各変極
点について、それぞれ近傍の変極点との間の時間軸上で
の距離に基づいて所定の瞬間周波数を定義する処理であ
る。ここでは、図12に示すように、変極点P1〜P1
7のそれぞれについて、瞬間周波数f1〜f17が定義
された例を考える。
【0057】続く、レベルによるスライス処理S32
は、絶対値が所定の許容レベル未満となる信号強度をも
つ変極点を除外し、除外された変極点の位置で分割され
るような区間を定義する処理である。ここでは、図12
に示すような変極点P1〜P17に対して、図13に示
すような許容レベルLLを設定した場合を考える。この
場合、変極点P1,P2,P11,P16,P17が、
許容レベル未満の変極点として除外されることになる。
図14では、このようにして除外された変極点を破線の
矢印で示す。この「レベルによるスライス処理S32」
では、更に、除外された変極点の位置で分割されるよう
な区間K1,K2が定義される。ここでは、1つでも除
外された変極点が存在する場合には、その位置の左右に
異なる区間を設定するようにしており、結果的に、変極
点P3〜P10までの区間K1と、変極点P12〜P1
5までの区間K2とが設定されることになる。なお、こ
こで定義された区間K1,K2は、暫定的な区間であ
り、必ずしも最終的な単位区間になるとは限らない。
【0058】次の不連続部分割処理S33は、時間軸上
において、変極点の瞬間周波数もしくは信号強度の値が
不連続となる不連続位置を探し、処理S32で定義され
た個々の区間を、更にこの不連続位置で分割することに
より、新たな区間を定義する処理である。たとえば、上
述の例の場合、図15に示すような暫定区間K1,K2
が定義されているが、ここで、もし暫定区間K1内の変
極点P6とP7との間に不連続が生じていた場合は、こ
の不連続位置で暫定区間K1を分割し、図16に示すよ
うに、新たに暫定区間K1−1とK1−2とが定義さ
れ、結局、3つの暫定区間K1−1,K1−2,K2が
形成されることになる。不連続位置の具体的な探索手法
は既に述べたとおりである。たとえば、図15の例の場
合、 |(f3+f4+f5+f6)/4−f7|>ff の場合に、変極点P6とP7との間に瞬間周波数の不連
続が生じていると認識されることになる。同様に、変極
点P6とP7との間の信号強度の不連続は、 |(a3+a4+a5+a6)/4−a7|>aa の場合に認識される。
【0059】不連続部分割処理S33で、実際に区間分
割を行うための条件としては、 瞬間周波数の不連続が生じた場合にのみ区間の分割を
行う、 信号強度の不連続が生じた場合にのみ区間の分割を行
う、 瞬間周波数の不連続か信号強度の不連続かの少なくと
も一方が生じた場合に区間の分割を行う、 瞬間周波数の不連続と信号強度の不連続との両方が生
じた場合にのみ区間の分割を行う、 など、種々の条件を設定することが可能である。あるい
は、不連続の度合いを考慮して、上述の〜を組み合
わせるような複合条件を設定することもできる。
【0060】こうして、不連続部分割処理S33によっ
て得られた区間(上述の例の場合、3つの暫定区間K1
−1,K1−2,K2)を、最終的な単位区間として設
定することもできるが、ここでは更に、区間統合処理S
34を行っている。この区間統合処理S34は、不連続
部分割処理S33によって得られた区間のうち、一方の
区間内の変極点の瞬間周波数もしくは信号強度の平均
と、他方の区間内の変極点の瞬間周波数もしくは信号強
度の平均との差が、所定の許容範囲内であるような2つ
の隣接区間が存在する場合に、この隣接区間を1つの区
間に統合する処理である。たとえば、上述の例の場合、
図17に示すように、区間K1−2と区間K2とを平均
瞬間周波数で比較した結果、 |(f7+f8+f9+f10)/4−(f12+f1
3+f14+f15)/4|<ff のように、平均の差が所定の許容範囲ff以内であった
場合には、区間K1−2と区間K2とは統合されること
になる。もちろん、平均信号強度の差が許容範囲aa以
内であった場合に統合を行うようにしてもよいし、平均
瞬間周波数の差が許容範囲ff内という条件と平均信号
強度の差が許容範囲aa以内という条件とのいずれか一
方が満足された場合に統合を行うようにしてもよいし、
両条件がともに満足された場合に統合を行うようにして
もよい。また、このような種々の条件が満足されていて
も、両区間の間の間隔が時間軸上で所定の距離以上離れ
ていた場合(たとえば、多数の変極点が除外されたため
に、かなりの空白区間が生じているような場合)は、統
合処理を行わないような加重条件を課すことも可能であ
る。
【0061】かくして、この区間統合処理S34を行っ
た後に得られた区間が、単位区間として設定されること
になる。上述の例では、図18に示すように、単位区間
U1(図17の暫定区間K1−1)と、単位区間U2
(図17で統合された暫定区間K1−2およびK2)と
が設定される。ここに示す実施態様では、こうして得ら
れた単位区間の始端と終端を、その区間に含まれる最初
の変極点の時間軸上の位置を始端とし、その区間に含ま
れる最後の変極点の時間軸上の位置を終端とする、とい
う定義で定めることにする。したがって、図18に示す
例では、単位区間U1は時間軸上の位置t3〜t6まで
の区間であり、単位区間U2は時間軸上の位置t7〜t
15までの区間となる。
【0062】なお、実用上は、更に、単位区間の区間長
に関して所定の許容値を定めておき、区間長がこの許容
値に満たない単位区間については、これを削除するか、
あるいは、可能であれば(たとえば、代表周波数や代表
強度が、隣接する単位区間のものにある程度近似してい
れば)隣接する単位区間に吸収合併させる処理を行うよ
うにするのが好ましい。このような処理を行えば、最終
的には、区間長が所定の許容値以上の単位区間のみが残
ることになる。
【0063】<<< 2.4 符号化段階 >>>次
に、図2の流れ図に示されている符号化段階S40につ
いて説明する。ここに示す実施形態では、この符号化段
階S40は、符号データ生成処理S41と、符号データ
修正処理S42とによって構成されている。符号データ
生成処理S41は、区間設定段階S30において設定さ
れた個々の単位区間内の音響データに基づいて、個々の
単位区間を代表する所定の代表周波数および代表強度を
定義し、時間軸上での個々の単位区間の始端位置および
終端位置を示す情報と、代表周波数および代表強度を示
す情報とを含む符号データを生成する処理であり、この
処理により、個々の単位区間の音響データは個々の符号
データによって表現されることになる。一方、符号デー
タ修正処理S42は、生成された符号データを、復号化
に用いる再生音源装置の特性に適合させるために修正す
る処理であり、本明細書では具体的な処理内容の説明は
省略する。詳細については、特願平9−67467号明
細書を参照されたい。
【0064】符号データ生成処理S41における符号デ
ータ生成の具体的手法は、非常に単純である。すなわ
ち、個々の単位区間内に含まれる変極点の瞬間周波数に
基づいて代表周波数を定義し、個々の単位区間内に含ま
れる変極点のもつ信号強度に基づいて代表強度を定義す
ればよい。これを図18の例で具体的に示そう。この図
18に示す例では、変極点P3〜P6を含む単位区間U
1と、変極点P7〜P15(ただし、P11は除外され
ている)を含む単位区間U2とが設定されている。ここ
に示す実施形態では、単位区間U1(始端t3,終端t
6)については、図19上段に示すように、代表周波数
F1および代表強度A1が、 F1=(f3+f4+f5+f6)/4 A1=(a3+a4+a5+a6)/4 なる式で演算され、単位区間U2(始端t7,終端t1
5)については、図19下段に示すように、代表周波数
F2および代表強度A2が、 F2=(f7+f8+f9+f10+f12+f13+
f14+f15)/8 A2=(a7+a8+a9+a10+a12+a13+
a14+a15)/8 なる式で演算される。別言すれば、代表周波数および代
表強度は、単位区間内に含まれる変極点の瞬間周波数お
よび信号強度の単純平均値となっている。もっとも、代
表値としては、このような単純平均値だけでなく、重み
を考慮した加重平均値をとってもかまわない。たとえ
ば、信号強度に基づいて個々の変極点に重みづけをし、
この重みづけを考慮した瞬間周波数の加重平均値を代表
周波数としてもよい。
【0065】こうして個々の単位区間に、それぞれ代表
周波数および代表強度が定義されれば、時間軸上での個
々の単位区間の始端位置と終端位置は既に得られている
ので、個々の単位区間に対応する符号データの生成が可
能になる。たとえば、図18に示す例の場合、図20に
示すように、5つの区間E0,U1,E1,U2,E2
を定義するための符号データを生成することができる。
ここで、区間U1,U2は、前段階で設定された単位区
間であり、区間E0,E1,E2は、各単位区間の間に
相当する空白区間である。各単位区間U1,U2には、
それぞれ代表周波数F1,F2と代表強度A1,A2が
定義されているが、空白区間E0,E1,E2は、単に
始端および終端のみが定義されている区間である。
【0066】図21は、図20に示す個々の区間に対応
する符号データの構成例を示す図表である。この例で
は、1行に示された符号データは、区間名(実際には、
不要)と、区間の始端位置および終端位置と、代表周波
数および代表強度と、によって構成されている。一方、
図22は、図20に示す個々の区間に対応する符号デー
タの別な構成例を示す図表である。図21に示す例で
は、各単位区間の始端位置および終端位置を直接符号デ
ータとして表現していたが、図22に示す例では、各単
位区間の始端位置および終端位置を示す情報として、区
間長L1〜L4(図20参照)を用いている。なお、図
21に示す構成例のように、単位区間の始端位置および
終端位置を直接符号データとして用いる場合には、実際
には、空白区間E0,E1,…についての符号データは
不要である(図21に示す単位区間U1,U2の符号デ
ータのみから、図20の構成が再現できる)。
【0067】本発明に係る音響信号の符号化方法によっ
て、最終的に得られる符号データは、この図21あるい
は図22に示すような符号データである。もっとも、符
号データとしては、各単位区間の時間軸上での始端位置
および終端位置を示す情報と、代表周波数および代表強
度を示す情報とが含まれていれば、どのような構成のデ
ータを用いてもかまわない。最終的に得られる符号デー
タに、上述の情報さえ含まれていれば、所定の音源を用
いて音響の再生(復号化)が可能になる。たとえば、図
20に示す例の場合、時刻0〜t3の期間は沈黙を守
り、時刻t3〜t6の期間に周波数F1に相当する音を
強度A1で鳴らし、時刻t6〜t7の期間は沈黙を守
り、時刻t7〜t15の期間に周波数F2に相当する音
を強度A2で鳴らせば、もとの音響信号の再生が行われ
ることになる。
【0068】§3. MIDI形式の符号データを用い
る実施形態 上述したように、本発明に係る音響信号の符号化方法で
は、最終的に、個々の単位区間についての始端位置およ
び終端位置を示す情報と、代表周波数および代表強度を
示す情報とが含まれた符号データであれば、どのような
形式の符号データを用いてもかまわない。しかしなが
ら、実用上は、そのような符号データとして、MIDI
形式の符号データを採用するのが最も好ましい。ここで
は、MIDI形式の符号データを採用した具体的な実施
形態を示す。
【0069】図23は、一般的なMIDI形式の符号デ
ータの構成を示す図である。図示のとおり、このMID
I形式では、「ノートオン」データもしくは「ノートオ
フ」データが、「デルタタイム」データを介在させなが
ら存在する。「デルタタイム」データは、1〜4バイト
のデータで構成され、所定の時間間隔を示すデータであ
る。一方、「ノートオン」データは、全部で3バイトか
ら構成されるデータであり、1バイト目は常にノートオ
ン符号「90 H」に固定されており( Hは16進数を示
す)、2バイト目にノートナンバーNを示すコードが、
3バイト目にベロシティーVを示すコードが、それぞれ
配置される。ノートナンバーNは、音階(一般の音楽で
いう全音7音階の音階ではなく、ここでは半音12音階
の音階をさす)の番号を示す数値であり、このノートナ
ンバーNが定まると、たとえば、ピアノの特定の鍵盤キ
ーが指定されることになる(C−2の音階がノートナン
バーN=0に対応づけられ、以下、N=127までの1
28通りの音階が対応づけられる。ピアノの鍵盤中央の
ラの音(A3音)は、ノートナンバーN=69にな
る)。ベロシティーVは、音の強さを示すパラメータで
あり(もともとは、ピアノの鍵盤などを弾く速度を意味
する)、V=0〜127までの128段階の強さが定義
される。
【0070】同様に、「ノートオフ」データも、全部で
3バイトから構成されるデータであり、1バイト目は常
にノートオフ符号「80 H」に固定されており、2バイ
ト目にノートナンバーNを示すコードが、3バイト目に
ベロシティーVを示すコードが、それぞれ配置される。
「ノートオン」データと「ノートオフ」データとは対に
なって用いられる。たとえば、「90 H,69,80」
なる3バイトの「ノートオン」データは、ノートナンバ
ーN=69に対応する鍵盤中央のラのキーを押し下げる
操作を意味し、以後、同じノートナンバーN=69を指
定した「ノートオフ」データが与えられるまで、そのキ
ーを押し下げた状態が維持される(実際には、ピアノな
どのMIDI音源の波形を用いた場合、有限の時間内
に、ラの音の波形は減衰してしまう)。ノートナンバー
N=69を指定した「ノートオフ」データは、たとえ
ば、「80 H,69,50」のような3バイトのデータ
として与えられる。「ノートオフ」データにおけるベロ
シティーVの値は、たとえばピアノの場合、鍵盤キーか
ら指を離す速度を示すパラメータになる。
【0071】なお、上述の説明では、ノートオン符号
「90 H」およびノートオフ符号「80 H」は固定であ
ると述べたが、これらの符号の下位4ビットは必ずしも
0に固定されているわけではなく、チャネル番号0〜1
5のいずれかを特定するコードとして利用することがで
き、チャネルごとにそれぞれ別々の楽器の音色について
のオン・オフを指定することができる。
【0072】このように、MIDIデータは、もともと
楽器演奏の操作に関する情報(別言すれば、楽譜の情
報)を記述する目的で利用されている符号データである
が、本発明に係る音響信号の符号化方法への利用にも適
している。すなわち、各単位区間についての代表周波数
Fに基づいてノートナンバーNを定め、代表強度Aに基
づいてベロシティーVを定め、単位区間の長さLに基づ
いてデルタタイムTを定めるようにすれば、1つの単位
区間の音響データを、ノートナンバー、ベロシティー、
デルタタイムで表現されるMIDI形式の符号データに
変換することが可能になる。このようなMIDIデータ
への具体的な変換方法を図24に示す。
【0073】まず、MIDIデータのデルタタイムT
は、単位区間の区間長L(単位:秒)を用いて、 T=L・768 なる簡単な式で定義できる。ここで、数値「768」
は、四分音符を基準にして、その長さ分解能(たとえ
ば、長さ分解能を1/2に設定すれば八分音符まで、1
/8に設定すれば三十二分音符まで表現可能:一般の音
楽では1/16程度の設定が使われる)を、MIDI規
格での最小値である1/384に設定し、メトロノーム
指定を四分音符=120(毎分120音符)にした場合
のMIDIデータによる表現形式における時間分解能を
示す固有の数値である。
【0074】また、MIDIデータのノートナンバーN
は、1オクターブ上がると、周波数が2倍になる対数尺
度の音階では、単位区間の代表周波数F(単位:Hz)
を用いて、 N=(12/log102)・(log10(F/44
0)+69 なる式で定義できる。ここで、右辺第2項の数値「6
9」は、ピアノ鍵盤中央のラの音(A3音)のノートナ
ンバー(基準となるノートナンバー)を示しており、右
辺第1項の数値「440」は、このラの音の周波数(4
40Hz)を示しており、右辺第1項の数値「12」
は、半音を1音階として数えた場合の1オクターブの音
階数を示している。
【0075】更に、MIDIデータのベロシティーV
は、単位区間の代表強度Aと、その最大値Amax とを用
いて、 V=(A/Amax )・127 なる式で、V=0〜127の範囲の値を定義することが
できる。なお、通常の楽器の場合、「ノートオン」デー
タにおけるベロシティーVと、「ノートオフ」データに
おけるベロシティーVとは、上述したように、それぞれ
異なる意味をもつが、この実施形態では、「ノートオ
フ」データにおけるベロシティーVとして、「ノートオ
ン」データにおけるベロシティーVと同一の値をそのま
ま用いるようにしている。
【0076】前章の§2では、図20に示すような2つ
の単位区間U1,U2内の音響データに対して、図21
あるいは図22に示すような符号データが生成される例
を示したが、SMF形式のMIDIデータを用いた場
合、単位区間U1,U2内の音響データは、図25の図
表に示すような各データ列で表現されることになる。こ
こで、ノートナンバーN1,N2は、代表周波数F1,
F2を用いて上述の式により得られた値であり、ベロシ
ティーV1,V2は、代表強度A1,A2を用いて上述
の式により得られた値である。
【0077】§4. パラメータ設定を変えて複数の符
号列を生成する方法 以上、本発明に係る音響信号の符号化方法の一例を具体
的に説明したが、この方法により実際に得られる符号デ
ータは、パラメータの設定によって大きく変わることに
なる。たとえば、§2で述べた具体的な手法の場合、図
15に示す式における周波数の許容範囲ffあるいは強
度の許容範囲aaが、このパラメータに相当するものに
なり、これらの設定を変えると、単位区間の設定が異な
ることになり、最終的に得られる符号列も異なってく
る。具体的には、周波数の許容範囲ffを広く設定すれ
ばするほど、あるいは強度の許容範囲aaを広く設定す
ればするほど、単位区間の区間長が長くなり、生成され
る符号の時間的密度は低くなる(単位時間あたりの音響
信号を符号化する際に必要な符号の数が少なくてす
む)。一方、図11に示す例では、所定の許容レベルL
L以下の強度をもった信号を除外する処理が行われてい
るが、この許容レベルLLの値も、得られる符号データ
の内容を左右するパラメータとなり、許容レベルLLの
設定を変えると、異なる符号データが生成されることに
なる。具体的には、許容レベルLLの値を高く設定すれ
ばするほど、もとの音響信号の情報のうちの除外される
部分が多くなる。また、図18に示すように、単位区間
U1,U2が定まった後、これらの単位区間の区間長が
所定の許容値に達しているか否かの判断がなされ、区間
長がこの許容値に達しない単位区間は削除されるか、あ
るいは、隣接する単位区間に吸収合併されることになる
が、このときの区間長の許容値も、得られる符号データ
の内容を左右するパラメータとなる。
【0078】このように、同一の音響信号に対して本発
明による符号化を行ったとしても、用いるパラメータの
設定により、最終的に得られる符号列はそれぞれ異なっ
てくる。本発明の要点は、このような点に着目し、より
広範な用途に利用可能な符号化が行われるようにした点
にある。すなわち、互いに時間的密度が異なる符号化が
行われるような複数通りのパラメータを予め設定してお
き、同一の音響信号に対して、この複数通りのパラメー
タを用いた符号化を行うことにより、複数通りの符号列
を生成するのである。そして、この互いに時間的密度が
異なる複数通りの符号列を1組のデータとして出力して
おけば、利用する際には、その用途に応じた符号列を選
択的に利用することが可能になる。
【0079】たとえば、図26には、同一の音響信号に
基いて作成された2つの楽譜が示されている。ここで、
図26(a) に示す楽譜は、符号の時間的密度が小さくな
るようなパラメータを用いて生成された音符から構成さ
れているのに対し、図26(b) に示す楽譜は、符号の時
間的密度が大きくなるようなパラメータを用いて生成さ
れた音符から構成されている。いずれの楽譜も、2小節
分の時間に相当する演奏内容を示しているものの、前者
の音符密度は後者の音符密度よりも低くなっている。具
体的には、図26(a) に示されている単一の音符Na1
〜Na3は、図26(b) では、それぞれ複数の音符群N
b1〜Nb3によって示されている。
【0080】一般に、楽譜表示に利用する場合には、図
26(a) に示すように時間的密度の低い符号列を用いる
のが好ましい。図26(b) に示す符号列を楽譜表示に用
いると、図示のとおり音符密度が高くなり、判読性が低
下することになるためである。逆に、音源を用いて再生
を行う場合には、図26(b) に示すように時間的密度の
高い符号列を用いるのが好ましい。たとえば、図26
(a) では、単一の音符Na1による単調な音色しか表現
されていないが、図26(b) では、これに対応する部分
が4つの音符からなる音符群Nb1によって表現されて
おり、音程の変動が再現されることになる。楽器演奏に
おけるビブラートやトリラーといった音程の細かな変動
部分を忠実に音符として表現するためには、このように
時間的密度の高い符号列を用いた方がよい。
【0081】通常、楽譜上でビブラートやトリラーなど
を表現するには、音符自身を用いて表現を行う代わり
に、音符の上のコメント文を用いた表現形式が採られて
おり、楽譜上に表示する情報としては、このようなコメ
ント文だけで十分である。図26(a) に示す例では、五
線符上に「vibrato 」なるコメント文が記載されてお
り、音符Na1から音符Na3に至る部分までビブラー
トがかかることが示されている(「米印」はビブラート
の終了を示す)。
【0082】本発明に係る符号化装置において、楽譜表
示用のパラメータ(比較的時間的密度の低い符号列が得
られるパラメータ)と、音源再生用のパラメータ(比較
的時間的密度の高い符号列が得られるパラメータ)と、
を用意しておき、同一の音響信号に対して、この2通り
のパラメータを用いた符号化を行えば、図26(a) ,
(b) に示すような2通りの符号列を生成することができ
る。このように2通りの符号列を生成しておけば、楽譜
表示として利用する場合には図26(a) に示す符号列を
用い、音源再生として利用する場合には図26(b) に示
す符号列を用いる、というように、用途に適した符号列
を選択して利用することができるようになる。
【0083】§2で述べた手法によると、音響データの
時間軸上に複数の単位区間が設定され、個々の単位区間
に所属する音響データが1つの符号に置換されることに
なる。したがって、符号化の時間的密度は、この単位区
間の設定に関与するパラメータによって左右されること
になる。本願発明者は、特に、次の4つのパラメータの
設定を変えると、楽譜表示用の符号列と音源再生用の符
号列とを得るのに効果的であることを見出だした。
【0084】(1) 第1のパラメータは、1つの単位区
間に所属する音響データの周波数分布の許容範囲を示す
パラメータである。このパラメータは、別言すれば、音
響データの一部分を1つの符号に置き換えて表現する際
に、この音響データの一部分内の音程の上下の許容範囲
を示すパラメータということができる。たとえば、図1
に示す例の場合、単位区間U1内の音響データは、代表
周波数F1を有し、代表強度A1を有する1つの符号デ
ータに置き換えられることになるが、これは、単位区間
U1内の音響データ内には代表周波数F1を基準として
所定の許容範囲内の瞬間周波数をもった変極点のみが含
まれていたためである。もし、この許容範囲をより小さ
く設定したとすれば、単位区間U1内には、許容範囲を
越える瞬間周波数をもった変極点が含まれることにな
り、単一の符号データで表現することはできなくなって
しまう。逆に、この許容範囲をより大きく設定したとす
れば、単位区間U1と単位区間U2とを統合して、両区
間の音響データを単一の符号データに置き換えることが
できるようになる。
【0085】結局、楽譜表示のために時間的密度の低い
符号化を行う場合には、この周波数分布の許容範囲を大
きく設定すればよく、音源再生のために時間的密度の高
い符号化を行う場合には、この周波数分布の許容範囲を
小さく設定すればよい。具体的には、§2で述べた実施
形態の場合、図15に示す式における周波数の許容範囲
ffが、この周波数分布の許容範囲を示すパラメータと
なり、この許容範囲ffの値を2通り用意しておくこと
により、楽譜表示用の符号列と音源再生用の符号列とを
得ることができる。たとえば、図26(a) に示す音符N
a1は単一の音符でまとめられているのに対し、図26
(b) に示す音符群Nb1が4つの音符に分けられている
のは、後者の周波数分布の許容範囲が、前者の周波数分
布の許容範囲に比べて小さく設定されていたため、1つ
の音符(1つの単位区間)で表現することができなかっ
たためである。
【0086】(2) 第2のパラメータは、1つの単位区
間に所属する音響データの強度分布の許容範囲を示すパ
ラメータである。このパラメータは、別言すれば、音響
データの一部分を1つの符号に置き換えて表現する際
に、この音響データの一部分内の信号強度の変動の許容
範囲を示すパラメータということができる。たとえば、
図1に示す例の場合、単位区間U1内の音響データは、
代表周波数F1を有し、代表強度A1を有する1つの符
号データに置き換えられることになるが、これは、単位
区間U1内の音響データ内には代表強度A1を基準とし
て所定の許容範囲内の信号強度をもった変極点のみが含
まれていたためである。もし、この許容範囲をより小さ
く設定したとすれば、単位区間U1内には、許容範囲を
越える信号強度をもった変極点が含まれることになり、
単一の符号データで表現することはできなくなってしま
う。逆に、この許容範囲をより大きく設定したとすれ
ば、単位区間U1と単位区間U2とを統合して、両区間
の音響データを単一の符号データに置き換えることがで
きるようになる。
【0087】結局、楽譜表示のために時間的密度の低い
符号化を行う場合には、この強度分布の許容範囲を大き
く設定すればよく、音源再生のために時間的密度の高い
符号化を行う場合には、この強度分布の許容範囲を小さ
く設定すればよい。具体的には、§2で述べた実施形態
の場合、図15に示す式における強度の許容範囲aa
が、この強度分布の許容範囲を示すパラメータとなり、
この許容範囲aaの値を2通り用意しておくことによ
り、楽譜表示用の符号列と音源再生用の符号列とを得る
ことができる。
【0088】(3) 第3のパラメータは、単位区間を設
定する際に考慮する信号強度の許容値を示すパラメータ
である。このパラメータは、別言すれば、音響データの
一部分を1つの符号に置き換えて表現する際に、この音
響データの一部分内の信号として取り扱われる信号強度
の最小値を示すパラメータということができる。単位区
間を設定する際には、この許容値未満の音響データは除
外されることになる。楽譜表示のために時間的密度の低
い符号化を行う場合には、この信号強度の許容値を大き
く設定すればよく、音源再生のために時間的密度の高い
符号化を行う場合には、この信号強度の許容値を小さく
設定すればよい。具体的には、§2で述べた実施形態の
場合、図11に示す許容レベルLLが、この信号強度の
許容値を示すパラメータとなり、この許容レベルLLに
満たない信号強度をもつ情報(たとえば、変極点P4,
P9の情報)は除外されることになる。
【0089】(4) 第4のパラメータは、最終的な個々
の単位区間の区間長の許容値を示すパラメータである。
このパラメータは、別言すれば、音響データの一部分を
1つの符号に置き換えて表現する際に、当該音響データ
の一部分の時間的長さの最小値を示すパラメータという
ことができる。§2で述べたように、個々の単位区間の
最終的な区間長は、所定の許容値以上となるように調節
される。すなわち、許容値に満たない単位区間が存在し
た場合は、当該単位区間は削除されるか、隣接する単位
区間に吸収合併されることになる。楽譜表示のために時
間的密度の低い符号化を行う場合には、この区間長の許
容値を大きく設定すればよい。より多数の単位区間が削
除や吸収合併の対象となるため、全体的な符号密度は減
少することになる。一方、音源再生のために時間的密度
の高い符号化を行う場合には、この区間長の許容値を小
さく設定すればよい。区間長が短い細かな単位区間も残
存し、それぞれが符号に変換されるようになるため、全
体的な符号密度は増大し、細かい音も再生可能になる。
【0090】§5. 異なるトラックへの出力 上述したように、本発明では、同一の音響信号に対して
複数通りのパラメータを用いて符号化を行うことによ
り、複数通りの符号列が1組のデータとして出力される
ことになるが、これらの符号列をMIDIデータとして
出力する場合には、それぞれを異なるトラックに出力す
るのが好ましい。MIDI規格では、同一の時間軸をも
った複数のトラックにMIDIデータを分散して収録さ
せることができ、しかも再生時には、任意のトラックの
MIDIデータを選択して再生することができる。そこ
で、たとえば、第1のトラックには、時間的密度の低い
楽譜表示用のMIDIデータを収録し、第2のトラック
には、時間的密度の高い音源再生用のMIDIデータを
収録する、というように、トラックごとに分けて各MI
DIデータを収録しておけば、楽譜表示を行う際には第
1トラックのMIDIデータを利用し、音源再生を行う
際には第2トラックのMIDIデータを利用する、とい
うことが可能になる。
【0091】図27は、同一の音響信号に基いて、符号
化のパラメータを変えることにより、楽譜表示用MID
Iデータと音源再生用MIDIデータとを生成し、前者
をトラック0に収録し、後者をトラック1〜4に分けて
収録して1組のMIDIデータを構成した例を示す図で
ある。楽譜表示用MIDIデータは、音符の時間的密度
が低いため、1つのトラックに収録しやすいが、音源再
生用MIDIデータは、音符の時間的密度が高いため、
ここでは4つのトラックに分けて収録している。
【0092】図28および図29は、符号化の対象とな
る音響データとして、実際の鳥の鳴き声を用い、楽譜表
示用MIDIデータと音源再生用MIDIデータとを作
成した例を示す図である。図28に示す原音波形と図2
9に示す原音波形とは同一の波形であり、鳥の鳴き声を
録音することにより得られた波形である。図28のトラ
ック0の欄には、この原音波形に対して、楽譜表示用パ
ラメータを用いた符号化を行うことによって得られた楽
譜表示用MIDIデータが所定のフォーマットで表示さ
れており、図29のトラック1〜トラック4の各欄に
は、この原音波形に対して、音源再生用パラメータを用
いた符号化を行うことによって得られた音源再生用MI
DIデータが所定のフォーマットで表示されている。こ
のMIDIデータ表示用フォーマットは、MIDIデー
タを音符に準じた符号で表現するためのものであり、黒
く塗りつぶされた個々の矩形が1つの音符を示す図形と
なっている。この矩形の上辺の上下方向の位置は、この
音符の音程(ドレミファ)を示しており、この矩形の左
辺の左右方向の位置は音の時間的な位置を示しており、
この矩形の横幅は音の長さを示しており、この矩形の縦
幅は音の強さを示している(このようなフォーマット
は、特願平9−67468号明細書に開示されてい
る)。
【0093】図28のトラック0に示された楽譜表示用
MIDIデータの符号密度に比べると、図29のトラッ
ク1〜4に示された音源再生用MIDIデータの符号密
度は、かなり高いことがわかる。全く同じ鳥の鳴き声を
符号化したにもかかわらず、用いるパラメータによっ
て、これだけの差が生じることになる。図30に示す楽
譜は、図28および図29に示すMIDIデータを音符
で表示した例を示すものである。トラック0に示された
楽譜表示用MIDIデータの音符は、一般的な楽譜とし
て表示するのに適した形態になっているが、トラック1
〜4に示された音源再生用MIDIデータの音符は、4
つのトラックに分けて収容されているにもかかわらず、
音符数がかなり多く、楽譜を表示する用途には不適当で
ある。しかしながら、MIDI音源を用いて実際に再生
を行ってみると、トラック1〜4に示された音源再生用
MIDIデータを用いて再生を行った場合は、鳥の鳴き
声という原音波形に近い再生音が得られるのに対し、ト
ラック0に示された楽譜表示用MIDIデータを用いて
再生を行った場合は、細かな音の情報が再現されず、原
音を再生するという用途には不適当である。
【0094】結局、楽譜表示を行う場合には、トラック
0に収録された楽譜表示用MIDIデータを用い、音源
再生を行う場合には、トラック1〜4に収録された音源
再生用MIDIデータを用いる、というように、選択的
な利用を行うことにより、個々の用途に適した利用が可
能になる。なお、ここでは、楽譜表示用MIDIデータ
と音源再生用MIDIデータとの2通りの符号データを
生成した例を示したが、本発明は、このような2通りの
符号データの作成に限定されるものではなく、用途に応
じて、3通り以上の符号データを作成することももちろ
ん可能である。
【0095】また、MIDI規格によると、個々のトラ
ックには、音符を示すデータの他にも、種々の制御符号
を付加することが可能である。したがって、各トラック
ごとに、音の再生を行うか否かを示す制御符号を付加し
ておくと便利である。たとえば、上述の例の場合、トラ
ック0については音の再生を行わない旨の制御符号(い
わゆるサイレント符号)を付加し、トラック1〜4につ
いては音の再生を行う旨の制御符号を付加しておけば、
音源再生時には、トラック1〜4に収録された音源再生
用MIDIデータのみが再生されることになる。
【0096】なお、前述したように、ビブラートやトリ
ラーといった音程の細かな揺れは、楽譜上ではコメント
文として表示されることが多い。たとえば、図26(a)
に示す例では、音符Na1〜Na3に対して「Vibrato
」なるコメント文が記載されている。本発明に係る符
号化を実施する場合、このようなコメント文を自動的に
生成させることも可能である。すなわち、楽譜表示用ト
ラックに収録された符号列と音源再生用トラックに収録
された符号列とを同一の時間軸上で比較し、音源再生用
トラックに収録された符号列によってのみ表現されてい
る音楽的特徴を認識し、この音楽的特徴を示す符号を、
楽譜表示用トラックに収録された符号列の対応箇所に付
加する処理を行うようにすればよい。たとえば、上述の
例では、図26(a) の符号列と図26(b) の符号列とを
同一の時間軸上で比較すると、音符Na1と音符群Nb
1とを対応づけることができ、音符群Nb1によってビ
ブラートという音楽的特徴が表現されていることを認識
することができる。このような認識を行うためには、た
とえば、音程差が2半音以内の音符が4つ以上並んでお
り、音程が高低高低と交互に上下するような配列になっ
ている場合にはビブラートと認識する、といった判定基
準を予め定めておけばよい。このような基準によれば、
図26(b) の音符群Nb1〜Nb3には、いずれもビブ
ラートという音楽的特徴が表現されていることが認識で
きるため、これに対応する図26(a) の音符Na1〜N
a3を表示する際に、「Vibrato 」なるコメント文を併
せて表示するような処理を行えばよい。あるいは、MI
DI規格によれば、個々の音符に対して修飾符号を付加
することが可能なので、「Vibrato 」を示す修飾符号を
音符Na1〜Na3に付加するようにしてもよい。
【0097】§6. 本発明に係る音響信号の符号化装
置および符号データの編集装置の構成 最後に、これまで述べてきた符号化方法を実施するため
の音響信号の符号化装置の構成およびこの符号化装置で
作成された符号データの編集装置の構成について述べ
る。図31は、このような符号化装置と編集装置とを兼
ね備えた装置の基本構成を示すブロック図である。この
装置は、時系列の強度信号として与えられる音響信号
(原音波形)を符号化して出力するとともに、出力され
た符号データに対して編集を施す機能を有している。
【0098】音響データ入力手段10は、符号化対象と
なる音響信号(原音波形)をデジタルの音響データとし
て入力する機能を有し、具体的には、A/Dコンバータ
を備えた音響信号入力回路などによって構成される。符
号化処理手段20は、こうして入力した音響データを、
符号列に変換する符号化処理を行う機能を有する。ここ
で行われる符号化処理は、既に§2において述べたとお
りである。パラメータ設定手段30は、この符号化処理
手段20において行われる符号化処理に用いるパラメー
タを設定する機能を有し、この実施例では、表示用パラ
メータと再生用パラメータとの2通りのパラメータが設
定される。もちろん、3通り以上のパラメータを設定す
ることも可能であり、互いに時間的密度が異なる符号化
が行われるような複数通りのパラメータを設定すること
ができれば、どのようなパラメータ設定を行ってもかま
わない。符号化処理手段20は、音響データ入力手段1
0から入力された同一の音響データに対して、この複数
通りのパラメータを用いることにより、互いに時間的密
度が異なる複数通りの符号列を生成する処理を行うこと
になる。図では、符号化処理手段20により、表示用符
号列と再生用符号列との2通りの符号列が生成された例
が示されている。
【0099】符号列出力手段40は、こうして生成され
た複数通りの符号列を、1組のデータとして出力する機
能を有する。図示の例では、記録装置(あるいは記録媒
体)50に対して、表示用符号列と再生用符号列との2
通りの符号列が出力された状態が示されている。上述し
たように、MIDIデータとして出力する場合であれ
ば、これらの符号列を複数のトラックに分けて出力する
のが好ましい。表示再生手段60は、こうして出力され
た符号データを用いて、楽譜表示と音源再生とを行う手
段であり、表示用符号列に基いて楽譜の表示を行うとと
もに、再生用符号列を用いて音源再生を行う機能を有し
ている。
【0100】符号編集手段70は、記録装置(あるいは
記録媒体)50に出力された符号データに対して編集を
施す装置である。MIDIデータを取り扱う一般的な装
置においても、MIDIデータに対する編集が行われる
が、符号編集手段70は、本発明に係る方法で生成され
た符号データに対する編集を行うための特別な機能を有
している。すなわち、記録装置(あるいは記録媒体)5
0に出力された2通りの符号列は、同一の音響データに
対して、互いに時間的密度が異なる符号化を施すことに
より生成された符号列であり、図示の例の場合、表示用
符号列と再生用符号列とによって構成されている。ここ
で、表示用符号列と再生用符号列とは、時間軸を同一に
した互いに整合性をもったデータである。したがって、
一方の符号列に対して編集を施した場合、他方の符号列
に対しても同様の編集を施しておかないと、両者間の整
合性が失われてしまうことになる。符号編集手段70
は、このような整合性を保つために、一方の符号列に対
して編集を施すと、もう一方の符号列に対しても同等の
編集を自動的に施す機能を有している。
【0101】すなわち、符号編集手段70には、まず、
複数の符号列のうちの1つを編集対象符号列、残りの符
号列を非編集対象符号列として特定する機能が備わって
おり、オペレータの指示に基いて、編集対象符号列の編
集箇所に対して所定の編集を施すことが可能である。そ
して、このように、編集対象符号列に対して所定の編集
を施した場合、時間軸上においてこの編集箇所に対応す
る非編集対象符号列上の箇所を、対応箇所として求め、
この対応箇所に対して、編集箇所に対して行われた編集
と同等の編集を施す自動編集機能を備えている。
【0102】たとえば、図32に示すように、表示用M
IDIトラック0に収録された表示用符号列を編集対象
符号列として選択し、図にハッチングを施して示す部分
を編集箇所として何らかの編集を施したとする。具体的
には、この編集箇所内の符号に対して、削除、移動、複
写、音程の変更、テンポの変更などの編集が行われたも
のとしよう。この場合、非編集対象符号列となる再生用
MIDIトラック1〜4に収録された再生用符号列につ
いて、時間軸上において編集箇所に対応する箇所が対応
箇所として求められる。図示の例の場合、トラック1〜
4にハッチングを施して示す部分が対応箇所として求め
られる。そして、この対応箇所に対して、編集箇所に対
して行った編集と同等の編集が行われることになる。も
ちろん、編集箇所内の符号と各対応箇所内の符号とは同
一ではないが、少なくとも時間軸を基準として、個々の
符号間の対応関係を認識することができるため、上述し
た削除、移動、複写、音程の変更、テンポの変更などの
編集については、同等の編集を施すことが可能である。
【0103】以上、図31に示すブロック図に基いて、
本発明に係る音響信号の符号化装置および符号データの
編集装置の構成を述べたが、これらの装置は、実際には
コンピュータおよびその周辺機器からなるハードウエア
に、所定のプログラムをインストールすることにより構
成することができ、そのようなプログラムは、コンピュ
ータ読取り可能な記録媒体に記録して配布することがで
きる。したがって、図31に示す各構成ブロックのう
ち、音響データ入力手段10、符号化処理手段20、パ
ラメータ設定手段30、符号列出力手段40、表示再生
手段60、符号編集手段70は、いずれもコンピュー
タ、キーボード、マウス、ディスプレイ、プリンタなど
のハードウエアによって構成することができ、記録装置
(記録媒体)50は、このコンピュータに用いられるメ
モリやハードディスクなどの記憶装置や、フロッピディ
スク、MOディスク、CD−ROMなどの記録媒体によ
って構成することができる。また、本発明によって作成
された複数通りの符号列のデータは、コンピュータ読取
り可能な記録媒体50に収録して配布することが可能で
ある。
【0104】以上、本発明を図示する実施形態に基いて
説明したが、本発明はこれらの実施形態に限定されるも
のではなく、この他にも種々の態様で実施可能である。
たとえば、上述した§2では、原音波形のピーク位置に
基いて単位区間を設定し、代表周波数と代表強度とを定
める方法を述べたが、単位区間の設定方法や、代表周波
数および代表強度を定める方法としては、他の方法を用
いてもよい。たとえば、原音波形の細かな部分ごとにフ
ーリエ変換を用いて代表周波数および代表強度を定める
ようなことも可能である。
【0105】
【発明の効果】以上のとおり本発明に係る音響信号の符
号化装置によれば、広範な用途に利用可能な符号データ
を得ることができるようになり、また、本発明に係る符
号データの編集装置によれば、そのような符号データに
対する効率的な編集が可能になる。
【図面の簡単な説明】
【図1】本発明に係る音響信号の符号化方法の基本原理
を示す図である。
【図2】本発明に係る音響信号の符号化方法の実用的な
手順を示す流れ図である。
【図3】入力した音響データに含まれている直流成分を
除去するデジタル処理を示すグラフである。
【図4】図3に示す音響データの一部を時間軸に関して
拡大して示したグラフである。
【図5】図4に矢印で示す変極点P1〜P6のみを抜き
出した示した図である。
【図6】多少乱れた音響データの波形を示すグラフであ
る。
【図7】図6に矢印で示す変極点P1〜P7のみを抜き
出した示した図である。
【図8】図7に示す変極点P1〜P7の一部を間引処理
した状態を示す図である。
【図9】個々の変極点について、瞬間周波数を定義する
方法を示す図である。
【図10】個々の変極点に関する情報に基づいて、単位
区間を設定する具体的手法を示す図である。
【図11】所定の許容レベルLLに基づくスライス処理
を示す図である。
【図12】単位区間設定の対象となる多数の変極点を矢
印で示した図である。
【図13】図12に示す変極点に対して、所定の許容レ
ベルLLに基づくスライス処理を行う状態を示す図であ
る。
【図14】図13に示すスライス処理によって変極点を
除外し、暫定区間K1,K2を設定した状態を示す図で
ある。
【図15】図14に示す暫定区間K1についての不連続
位置を探索する処理を示す図である。
【図16】図15で探索された不連続位置に基づいて、
暫定区間K1を分割し、新たな暫定区間K1−1とK1
−2とを定義した状態を示す図である。
【図17】図16に示す暫定区間K1−2,K2につい
ての統合処理を示す図である。
【図18】図17に示す統合処理によって、最終的に設
定された単位区間U1,U2を示す図である。
【図19】各単位区間についての代表周波数および代表
強度を求める手法を示す図である。
【図20】5つの区間E0,U1,E1,U2,E2を
定義するための符号データを示す図である。
【図21】図20に示す単位区間U1,U2内の音響デ
ータを符号化して得られる符号データの一例を示す図表
である。
【図22】図20に示す単位区間U1,U2内の音響デ
ータを符号化して得られる符号データの別な一例を示す
図表である。
【図23】一般的なSMF形式の符号データの構成を示
す図である。
【図24】各単位区間内の音響データについてのMID
Iデータへの具体的な変換方法を示す図である。
【図25】図20に示す単位区間U1,U2内の音響デ
ータを、SMF形式のMIDIデータを用いて符号化し
た状態を示す図表である。
【図26】複数のパラメータを用いて作成された2通り
のMIDIデータの例を示す図である。
【図27】複数のパラメータを用いて作成された2通り
のMIDIデータを、複数のトラックに収録した例を示
す図である。
【図28】鳥の鳴き声を原音波形として、楽譜表示用パ
ラメータを用いて生成されたMIDIデータを示す図で
ある。
【図29】図28に示す原音波形と同一の原音波形につ
いて、音源再生用パラメータを用いて生成されたMID
Iデータを示す図である。
【図30】図28および図29に示すMIDIデータを
音符で表現した例を示す図である。
【図31】本発明に係る音響信号の符号化装置および音
符データの編集装置の構成例を示すブロック図である。
【図32】本発明に係る符号データの編集装置に特有の
編集機能を説明する図である。
【符号の説明】
10…音響データ入力手段 20…符号化処理手段 30…パラメータ設定手段 40…符号列出力手段 50…記録装置(記録媒体) 60…表示再生手段 70…符号編集手段 A,A1,A2…代表強度 a1〜a9…変極点の信号強度 aa…許容範囲 D…直流成分 E0,E1,E2…空白区間 e1〜e6…終端位置 F,F1,F2…代表周波数 f1〜f17…変極点の瞬間周波数 ff…許容範囲 fs…サンプリング周波数 K1,K1−1,K1−2,K2…暫定区間 L,L1〜L4…区間長 LL…許容レベル N…ノートナンバー Na1〜Na5…音符 Nb1〜Nb3…音符群 P1〜P17…変極点 s1〜s6…始端位置 T…デルタタイム t1〜t17…時間軸上の位置 U1〜U6…単位区間 V…ベロシティー x…サンプル番号 φ…周期

Claims (14)

    【特許請求の範囲】
  1. 【請求項1】 時系列の強度信号として与えられる音響
    信号を符号化する装置であって、 符号化対象となる音響信号をデジタルの音響データとし
    て入力する音響データ入力手段と、 前記音響データを符号列に変換する符号化処理を行う符
    号化処理手段と、 前記符号化処理に用いるパラメータを設定するパラメー
    タ設定手段と、 前記符号化処理によって得られた符号列を出力する符号
    列出力手段と、 を備え、前記パラメータ設定手段は、互いに時間的密度
    が異なる符号化が行われるように複数通りのパラメータ
    を設定する機能を有し、前記符号化処理手段は、同一の
    音響データに対して前記複数通りのパラメータを用いる
    ことにより、互いに時間的密度が異なる複数通りの符号
    列を生成し、前記符号列出力手段は、同一の音響データ
    について生成された複数通りの符号列を1組のデータと
    して出力することを特徴とする音響信号の符号化装置。
  2. 【請求項2】 請求項1に記載の音響信号の符号化装置
    において、 符号化処理手段が、音響データの時間軸上に複数の単位
    区間を設定し、個々の単位区間に所属する音響データを
    1つの符号に置換することにより符号化処理を行うこと
    を特徴とする音響信号の符号化装置。
  3. 【請求項3】 請求項2に記載の音響信号の符号化装置
    において、 符号化処理手段が、1つの単位区間に所属する音響デー
    タの周波数分布が所定の許容範囲内に入るように個々の
    単位区間を設定する機能を有し、 パラメータ設定手段が、前記許容範囲を定めるパラメー
    タを複数通り設定する機能を有することを特徴とする音
    響信号の符号化装置。
  4. 【請求項4】 請求項2に記載の音響信号の符号化装置
    において、 符号化処理手段が、1つの単位区間に所属する音響デー
    タの強度分布が所定の許容範囲内に入るように個々の単
    位区間を設定する機能を有し、 パラメータ設定手段が、前記許容範囲を定めるパラメー
    タを複数通り設定する機能を有することを特徴とする音
    響信号の符号化装置。
  5. 【請求項5】 請求項2に記載の音響信号の符号化装置
    において、 符号化処理手段が、強度が所定の許容値未満の音響デー
    タを除外して個々の単位区間を設定する機能を有し、 パラメータ設定手段が、前記許容値を定めるパラメータ
    を複数通り設定する機能を有することを特徴とする音響
    信号の符号化装置。
  6. 【請求項6】 請求項2に記載の音響信号の符号化装置
    において、 符号化処理手段が、個々の単位区間の区間長が所定の許
    容値以上となるように個々の単位区間を設定する機能を
    有し、 パラメータ設定手段が、前記許容値を定めるパラメータ
    を複数通り設定する機能を有することを特徴とする音響
    信号の符号化装置。
  7. 【請求項7】 請求項1〜6のいずれかに記載の音響信
    号の符号化装置において、 符号化処理手段が、各単位区間内の音響データの周波数
    に基いてノートナンバーを定め、各単位区間内の音響デ
    ータの強度に基いてベロシティーを定め、各単位区間の
    長さに基いてデルタタイムを定め、1つの単位区間の音
    響データを、ノートナンバー、ベロシティー、デルタタ
    イムで表現されるMIDI形式の符号に変換する機能を
    有し、 符号列出力手段が、同一の音響データについて生成され
    た複数通りの符号列を、それぞれ異なるトラックに収録
    し、1組のMIDIデータとして出力することを特徴と
    する音響信号の符号化装置。
  8. 【請求項8】 請求項7に記載の音響信号の符号化装置
    において、 パラメータ設定手段が、楽譜表示用の符号列を生成する
    のに適した表示用パラメータと、音源再生用の符号列を
    生成するのに適した再生用パラメータと、を設定する機
    能を有し、 符号列出力手段が、前記表示用パラメータを用いて生成
    された符号列を、1つまたは複数の楽譜表示用トラック
    に収録し、前記再生用パラメータを用いて生成された符
    号列を、1つまたは複数の音源再生用トラックに収録し
    て出力することを特徴とする音響信号の符号化装置。
  9. 【請求項9】 請求項8に記載の音響信号の符号化装置
    において、 各トラックごとに、音の再生を行うか否かを示す制御符
    号を付加することを特徴とする音響信号の符号化装置。
  10. 【請求項10】 請求項8に記載の音響信号の符号化装
    置において、 符号列出力手段が、楽譜表示用トラックに収録された符
    号列と音源再生用トラックに収録された符号列とを同一
    の時間軸上で比較し、音源再生用トラックに収録された
    符号列によってのみ表現されている音楽的特徴を認識
    し、この音楽的特徴を示す符号を、楽譜表示用トラック
    に収録された符号列の対応箇所に付加する処理を行うこ
    とを特徴とする音響信号の符号化装置。
  11. 【請求項11】 同一の音響データに対して、互いに時
    間的密度が異なる符号化を施すことにより生成された複
    数の符号列から構成される符号データについて、所定の
    編集を施すための符号データの編集装置であって、 複数の符号列のうちの1つを編集対象符号列、残りの符
    号列を非編集対象符号列として特定する機能と、 オペレータの指示に基いて、前記編集対象符号列の編集
    箇所に対して所定の編集を施す機能と、 時間軸上において前記編集箇所に対応する前記非編集対
    象符号列上の箇所を、対応箇所として求め、この対応箇
    所に対して、前記編集箇所に対して行われた編集と同等
    の編集を施す自動編集機能と、 を備えることを特徴とする符号データの編集装置。
  12. 【請求項12】 請求項11に記載の符号データの編集
    装置において、 編集対象符号列の編集箇所内の符号に対して、削除、移
    動、複写、音程の変更、テンポの変更、の中の少なくと
    も1つの編集処理を行う機能を有し、非編集対象符号列
    上の対応箇所に対して、同等の編集処理が行われるよう
    に構成したことを特徴とする符号データの編集装置。
  13. 【請求項13】 請求項1〜12のいずれかに記載の音
    響信号の符号化装置または符号データの編集装置として
    コンピュータを機能させるためのプログラムを記録した
    コンピュータ読取り可能な記録媒体。
  14. 【請求項14】 請求項1〜10のいずれかに記載の音
    響信号の符号化装置によって符号化された複数通りの符
    号列のデータを記録したコンピュータ読取り可能な記録
    媒体。
JP28345298A 1998-09-18 1998-09-18 音響信号の符号化装置および符号データの編集装置 Expired - Fee Related JP4152502B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28345298A JP4152502B2 (ja) 1998-09-18 1998-09-18 音響信号の符号化装置および符号データの編集装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28345298A JP4152502B2 (ja) 1998-09-18 1998-09-18 音響信号の符号化装置および符号データの編集装置

Publications (2)

Publication Number Publication Date
JP2000099092A true JP2000099092A (ja) 2000-04-07
JP4152502B2 JP4152502B2 (ja) 2008-09-17

Family

ID=17665738

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28345298A Expired - Fee Related JP4152502B2 (ja) 1998-09-18 1998-09-18 音響信号の符号化装置および符号データの編集装置

Country Status (1)

Country Link
JP (1) JP4152502B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002153434A (ja) * 2000-11-17 2002-05-28 Dainippon Printing Co Ltd 時系列信号解析装置
JP2016136251A (ja) * 2015-01-20 2016-07-28 ハーマン インターナショナル インダストリーズ インコーポレイテッド 音楽コンテンツ及びリアルタイム音楽伴奏の自動採譜
CN111030412A (zh) * 2019-12-04 2020-04-17 瑞声科技(新加坡)有限公司 一种振动波形的设计方法及振动马达

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002153434A (ja) * 2000-11-17 2002-05-28 Dainippon Printing Co Ltd 時系列信号解析装置
JP2016136251A (ja) * 2015-01-20 2016-07-28 ハーマン インターナショナル インダストリーズ インコーポレイテッド 音楽コンテンツ及びリアルタイム音楽伴奏の自動採譜
CN111030412A (zh) * 2019-12-04 2020-04-17 瑞声科技(新加坡)有限公司 一种振动波形的设计方法及振动马达

Also Published As

Publication number Publication date
JP4152502B2 (ja) 2008-09-17

Similar Documents

Publication Publication Date Title
US8093484B2 (en) Methods, systems and computer program products for regenerating audio performances
US20040144238A1 (en) Music searching apparatus and method
WO2004051622A1 (ja) 楽曲データ作成装置及び方法
US20090205481A1 (en) Systems and methods for providing multi-region instrument support in an audio player
JPH10247099A (ja) 音声信号の符号化方法および音声の記録再生装置
JP3795201B2 (ja) 音響信号の符号化方法およびコンピュータ読み取り可能な記録媒体
US8030568B2 (en) Systems and methods for improving the similarity of the output volume between audio players
JP4152502B2 (ja) 音響信号の符号化装置および符号データの編集装置
JPH1173200A (ja) 音響信号の符号化方法およびコンピュータ読み取り可能な記録媒体
US8759657B2 (en) Systems and methods for providing variable root note support in an audio player
JP2001005450A (ja) 音響信号の符号化方法
JP2000099009A (ja) 音響信号の符号化方法
RU2314502C2 (ru) Устройство и способ для обработки звука звонка
JP4268322B2 (ja) 再生用符号化データ作成方法
JP4473979B2 (ja) 音響信号の符号化方法および復号化方法ならびに当該方法を実行するプログラムを記録した記録媒体
JPH1173199A (ja) 音響信号の符号化方法およびコンピュータ読み取り可能な記録媒体
JP4220108B2 (ja) 音響信号符号化システム
JP2000099093A (ja) 音響信号の符号化方法
JP2003216147A (ja) 音響信号の符号化方法
JP3744247B2 (ja) 波形圧縮方法及び波形生成方法
JP2002215142A (ja) 音響信号の符号化方法
JP6424907B2 (ja) 演奏情報検索方法を実現するためのプログラム、当該演奏情報検索方法および演奏情報検索装置
JP4156252B2 (ja) 音響信号の符号化方法
JP3788096B2 (ja) 波形圧縮方法及び波形生成方法
JP3935745B2 (ja) 音響信号の符号化方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080403

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080604

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080701

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080702

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110711

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120711

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120711

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130711

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees