JP2010152381A - Device, method, and program for acoustic signal analysis - Google Patents

Device, method, and program for acoustic signal analysis Download PDF

Info

Publication number
JP2010152381A
JP2010152381A JP2010023988A JP2010023988A JP2010152381A JP 2010152381 A JP2010152381 A JP 2010152381A JP 2010023988 A JP2010023988 A JP 2010023988A JP 2010023988 A JP2010023988 A JP 2010023988A JP 2010152381 A JP2010152381 A JP 2010152381A
Authority
JP
Japan
Prior art keywords
frequency
component
acoustic signal
stable
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010023988A
Other languages
Japanese (ja)
Other versions
JP4930608B2 (en
Inventor
Ichiro Shishido
一郎 宍戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2010023988A priority Critical patent/JP4930608B2/en
Publication of JP2010152381A publication Critical patent/JP2010152381A/en
Application granted granted Critical
Publication of JP4930608B2 publication Critical patent/JP4930608B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Auxiliary Devices For Music (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a device, a method, and a program for acoustic signal analysis that precisely generate a feature quantity representing the depth of a sound exerting a large influence on an atmosphere of a musical piece. <P>SOLUTION: A frequency analysis section 12 divides an acoustic signal into a plurality of frequency bands to generate matrix data consisting of component strengths of the respective bands as elements in a prescribed time cycle. A stable component detection section 13 detects elements larger than a prescribed value as effective elements from the matrix data and detects, as stable components, regions in each of which the prescribed number of or more effective elements are present within a time corresponding to a plurality of time cycles, in the matrix data. A feature quantity generation section 14 generates a feature quantity representing the depth of a sound in a prescribed section by using the sum total of intensities of or the number of stable components in the prescribed section. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、楽曲の記録された音響信号から楽曲の特徴を抽出する音響信号分析装置、音
響信号分析方法及び音響信号分析プログラムに関する。
The present invention relates to an acoustic signal analysis device, an acoustic signal analysis method, and an acoustic signal analysis program that extract a feature of a song from an acoustic signal recorded with the song.

近年、音声圧縮技術の進展や大容量記憶装置の普及を背景にして、デジタル化された楽
曲データをコンピュータ等に記憶格納することが広く行われるようになっている。
In recent years, with the progress of audio compression technology and the widespread use of mass storage devices, digitized music data is widely stored in computers and the like.

このような状況下において従来、特許文献1及び2に示されたように、音響信号から曲
調情報を生成し、曲調情報に同期させて照明装置、空調装置、玩具等を制御する装置が提
案されている。また、特許文献3に示されたように、楽曲の音響信号を分析して曲の雰囲
気やジャンルを判定し楽曲検索を行う装置も提案されている。
Under such circumstances, conventionally, as shown in Patent Documents 1 and 2, a device that generates music tone information from an acoustic signal and controls a lighting device, an air conditioner, a toy, etc. in synchronization with the music tone information has been proposed. ing. In addition, as disclosed in Patent Document 3, an apparatus for analyzing music signals of music to determine the atmosphere and genre of the music to search for music has been proposed.

特開2004−163767号公報JP 2004-163767 A 特開2003−228387号公報JP2003-228387A 特開2004−185432号公報JP 2004-185432 A

楽曲や楽器の音色を表現する時に、「分厚い音」、「薄っぺらな音」というような表現
が頻繁に用いられることからも分かるように、音の厚みは楽曲の雰囲気を決める重要なフ
ァクターである。しかしながら、上記特許文献1乃至3においては、音響信号から音圧、
ビート和音などの情報を抽出しているものの、音の厚みを直接反映する特徴量を精度良く
抽出してはいなかった。
When expressing the tone of a song or instrument, the thickness of the sound is an important factor that determines the atmosphere of the song, as can be seen from the frequent use of expressions such as “thick sound” and “slim sound”. . However, in Patent Documents 1 to 3, the sound pressure from the acoustic signal,
Although information such as beat chords was extracted, features that directly reflected the thickness of the sound were not accurately extracted.

特許文献1においては、音響信号からCメジャー、Cマイナー等の和音(コード名)を
検出している他に、基音と倍音の強度比を計算している。基音と倍音の強度比を音の厚み
を表す1つの特徴量として利用することは可能と考えられるが、複数の楽器が混在した一
般的な楽曲の音響信号の周波数スペクトルは非常に複雑であり、このような音響信号から
基音と倍音を十分な精度で分離する技術は現状では確立されているとは言えない。
In Patent Document 1, in addition to detecting chords (code names) such as C major and C minor from an acoustic signal, the intensity ratio of a fundamental tone and a harmonic is calculated. Although it is considered possible to use the intensity ratio between the fundamental tone and the harmonic overtone as one feature value representing the thickness of the sound, the frequency spectrum of the acoustic signal of a general music composed of a plurality of musical instruments is very complex, A technique for separating the fundamental tone and the harmonic overtone from such an acoustic signal with sufficient accuracy cannot be said to be established at present.

すなわち、特許文献1で述べられている基音と倍音の強度比は、音の厚みを表現する特
徴量としては、実用上必ずしも適していなかった。
In other words, the intensity ratio between the fundamental tone and the harmonic overtone described in Patent Document 1 is not necessarily suitable for practical use as a feature value representing the thickness of the sound.

また、楽曲の中で打楽器等が発音している部分においては、幅広い周波数帯域の強度が
上がり、見かけ上の倍音強度が非常に大きくなるが、聴感的にはこのような場所での音の
厚みはあまり感じられない。打楽器等が発音しているタイミングの前後では周波数スペク
トルが大きく変動するため、音響信号の中から周波数スペクトルが一定時間以上安定して
いる場所を探すことにより、このような打楽器の影響を低減することが可能であるが、特
許文献1乃至3では、周波数スペクトルの時間的な安定性を判定する手段、方法を有して
いなかった。
Also, in the part where percussion instruments etc. are pronounced in the music, the intensity of a wide frequency band is increased, and the apparent harmonic intensity is very large. I don't feel much. Since the frequency spectrum fluctuates greatly before and after the timing at which percussion instruments produce sound, the influence of such percussion instruments should be reduced by searching the acoustic signal for a place where the frequency spectrum is stable for a certain period of time. However, Patent Documents 1 to 3 do not have means or a method for determining temporal stability of the frequency spectrum.

従って、特許文献1に示された方法では、十分な精度で音の厚みに関わる特徴量を検出
することができなかった。
Therefore, the method disclosed in Patent Document 1 cannot detect the feature amount related to the thickness of the sound with sufficient accuracy.

特許文献2においては、音像の定位感、音の高低である高調感、音圧レベルを検出して
楽曲の高揚感を判定している。しかしながら、これらの特徴量は音の厚みと無関係ではな
いものの、聴感的な音の厚みを直接表す指標ではなかった。また上述したように、周波数
スペクトルの時間的安定性を判定する手段、方法を持っていなかった。
In Patent Document 2, the sense of localization of a sound image, the harmonic feeling that is the pitch of a sound, and the sound pressure level are detected to determine the height of the music. However, although these feature quantities are not irrelevant to the thickness of the sound, they are not indices that directly represent the auditory sound thickness. Further, as described above, there is no means or method for determining the temporal stability of the frequency spectrum.

特許文献3においては、特許文献1と同様に和音(コード名)を検出しているが、音の
厚みに関する特徴量は検出していなかった。
In Patent Document 3, a chord (a chord name) is detected as in Patent Document 1, but a feature amount related to the thickness of the sound is not detected.

そこで本発明は、楽曲の雰囲気に大きな影響を持つ音の厚みを直接反映する特徴量を精
度良く生成することができる音響信号分析装置、音響信号分析方法及び音響信号分析プロ
グラムを提供することを目的とする。特に、打楽器等による影響を低減して精度良く特徴
量を生成することができる音響信号分析装置、音響信号分析方法及び音響信号分析プログ
ラムを提供することを目的とする。
Therefore, the present invention has an object to provide an acoustic signal analysis device, an acoustic signal analysis method, and an acoustic signal analysis program that can accurately generate a feature quantity that directly reflects the thickness of a sound that has a great influence on the atmosphere of a music piece. And In particular, it is an object of the present invention to provide an acoustic signal analysis device, an acoustic signal analysis method, and an acoustic signal analysis program that can accurately generate a feature quantity by reducing the influence of a percussion instrument or the like.

また、音響信号から基音と倍音を分離することなく、少ない処理量で音の厚みを直接反
映する特徴量を生成することができる音響信号分析装置、音響信号分析方法及び音響信号
分析プログラムを提供することを目的とする。
Also provided are an acoustic signal analyzer, an acoustic signal analysis method, and an acoustic signal analysis program capable of generating a feature quantity that directly reflects the thickness of a sound with a small amount of processing without separating a fundamental tone and a harmonic overtone from the acoustic signal. For the purpose.

そこで、上記課題を解決するために本発明は以下の装置、方法、プログラムを提供するものである。
(1) 楽曲に係る音響信号から前記楽曲の特徴を抽出する音響信号分析装置であって、
前記音響信号を周波数分析して、時間と周波数と成分強度とを対応させた各要素で構成される周波数成分データを生成する周波数分析手段と、
前記周波数成分データから前記成分強度が所定の値以上の要素を有効要素として検出し、前記周波数成分データの中で所定の時間内に同一の周波数の前記有効要素が所定の数以上存在する領域を安定成分として検出する安定成分検出手段と、
所定の区間における前記安定成分の強度の総和または前記安定成分の個数に基づいて前記所定の区間の特徴量を生成する特徴量生成手段とを備え、
前記安定成分検出手段は、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする音響信号分析装置。
(2) 前記安定成分検出手段は、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、成分強度の平均値を算出し、その平均値に所定係数を乗じた値を前記所定の値として算出する、
ことを特徴とする上記(1)に記載の音響信号分析装置。
(3) 前記安定成分検出手段は、前記有効要素であるか否かの判定対象となる要素と時間的に近傍の他の要素であり、かつ前記判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする上記(1)または(2)に記載の音響信号分析装置。
(4) 前記周波数分析手段は、周波数軸上に等間隔に存在する周波数、または平均律音階に対応した周波数、または平均律音階の半音よりも更に細かく分割された周波数のうちのいずれかの周波数に対応させた前記各要素を生成する、
ことを特徴とする上記(1)〜(3)のいずれか一項に記載の音響信号分析装置。
(5) 前記特徴量生成手段は、前記所定の区間における前記安定成分の個数、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする上記(1)〜(4)のいずれか一項に記載の音響信号分析装置。
(6) 前記特徴量生成手段は、前記所定の区間における前記安定成分の強度の総和、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする上記(1)〜(4)のいずれか一項に記載の音響信号分析装置。
(7) 前記特徴量生成手段は、時間方向に平滑化する処理を行って前記特徴量を生成する、
ことを特徴とする上記(1)〜(6)のいずれか一項に記載の音響信号分析装置。
(8) 楽曲に係る音響信号から前記楽曲の特徴を抽出する音響信号分析装置が実行する音響信号分析方法であって、
前記音響信号を周波数分析して、時間と周波数と成分強度とを対応させた各要素で構成される周波数成分データを生成する周波数分析ステップと、
前記周波数成分データから前記成分強度が所定の値以上の要素を有効要素として検出し、前記周波数成分データの中で所定の時間内に同一の周波数の前記有効要素が所定の数以上存在する領域を安定成分として検出する安定成分検出ステップと、
所定の区間における前記安定成分の強度の総和または前記安定成分の個数に基づいて前記所定の区間の特徴量を生成する特徴量生成ステップとを備え、
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする音響信号分析方法。
(9) 前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、成分強度の平均値を算出し、その平均値に所定係数を乗じた値を前記所定の値として算出する、
ことを特徴とする上記(8)に記載の音響信号分析方法。
(10) 前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と時間的に近傍の他の要素であり、かつ前記判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする上記(8)または(9)に記載の音響信号分析方法。
(11) 前記周波数分析ステップは、周波数軸上に等間隔に存在する周波数、または平均律音階に対応した周波数、または平均律音階の半音よりも更に細かく分割された周波数のうちのいずれかの周波数に対応させた前記各要素を生成する、
ことを特徴とする上記(8)〜(10)のいずれか一項に記載の音響信号分析方法。
(12) 前記特徴量生成ステップは、前記所定の区間における前記安定成分の個数、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする上記(8)〜(11)のいずれか一項に記載の音響信号分析方法。
(13) 前記特徴量生成ステップは、前記所定の区間における前記安定成分の強度の総和、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする上記(8)〜(11)のいずれか一項に記載の音響信号分析方法。
(14) 前記特徴量生成ステップは、時間方向に平滑化する処理を行って前記特徴量を生成する、
ことを特徴とする上記(8)〜(13)のいずれか一項に記載の音響信号分析方法。
(15) 楽曲に係る音響信号から前記楽曲の特徴を抽出する音響信号分析プログラムであって、
前記音響信号を周波数分析して、時間と周波数と成分強度とを対応させた各要素で構成される周波数成分データを生成する周波数分析ステップと、
前記周波数成分データから前記成分強度が所定の値以上の要素を有効要素として検出し、前記周波数成分データの中で所定の時間内に同一の周波数の前記有効要素が所定の数以上存在する領域を安定成分として検出する安定成分検出ステップと、
所定の区間における前記安定成分の強度の総和または前記安定成分の個数に基づいて前記所定の区間の特徴量を生成する特徴量生成ステップとをコンピュータに実行させ、
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする音響信号分析プログラム。
(16) 前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、成分強度の平均値を算出し、その平均値に所定係数を乗じた値を前記所定の値として算出する、
ことを特徴とする上記(15)に記載の音響信号分析プログラム。
(17) 前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と時間的に近傍の他の要素であり、かつ前記判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする上記(15)または(16)に記載の音響信号分析プログラム。
(18) 前記周波数分析ステップは、周波数軸上に等間隔に存在する周波数、または平均律音階に対応した周波数、または平均律音階の半音よりも更に細かく分割された周波数のうちのいずれかの周波数に対応させた前記各要素を生成する、
ことを特徴とする上記(15)〜(17)のいずれか一項に記載の音響信号分析プログラム。
(19) 前記特徴量生成ステップは、前記所定の区間における前記安定成分の個数、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする上記(15)〜(18)のいずれか一項に記載の音響信号分析プログラム。
(20) 前記特徴量生成ステップは、前記所定の区間における前記安定成分の強度の総和、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする上記(15)〜(18)のいずれか一項に記載の音響信号分析プログラム。
(21) 前記特徴量生成ステップは、時間方向に平滑化する処理を行って前記特徴量を生成する、
ことを特徴とする上記(15)〜(20)のいずれか一項に記載の音響信号分析プログラム。
Therefore, in order to solve the above problems, the present invention provides the following apparatus, method, and program.
(1) An acoustic signal analyzer that extracts the characteristics of the music from an audio signal related to the music,
Frequency analysis means for performing frequency analysis on the acoustic signal and generating frequency component data composed of each element corresponding to time, frequency, and component intensity;
An element in which the component intensity is a predetermined value or more is detected as an effective element from the frequency component data, and a region in which a predetermined number or more of the effective elements having the same frequency are present within a predetermined time in the frequency component data Stable component detection means for detecting as a stable component;
Feature amount generating means for generating a feature amount of the predetermined section based on the total sum of the strengths of the stable components in the predetermined section or the number of the stable components;
The stable component detecting means adds a value obtained by adding, in the time direction, component intensities of other elements corresponding to the same frequency as the element to be determined as to whether the element is the effective element or a frequency in the vicinity of the same frequency. To calculate the predetermined value,
An acoustic signal analyzer characterized by that.
(2) The stable component detection means adds, in the time direction, component intensities of other elements corresponding to the same frequency as the element to be determined as to whether the element is the effective element or a frequency in the vicinity of the same frequency. Using the value obtained, an average value of the component strength is calculated, and a value obtained by multiplying the average value by a predetermined coefficient is calculated as the predetermined value.
The acoustic signal analyzer according to (1) above, wherein
(3) The stable component detection means is another element that is temporally adjacent to the element that is the determination target of whether or not it is the effective element, and the same frequency as the element that is the determination target, or the same Using the value obtained by adding the component intensities of other elements corresponding to frequencies in the vicinity of the frequency in the time direction, the predetermined value is calculated.
The acoustic signal analyzer according to (1) or (2) above, wherein
(4) The frequency analysis means may be any one of a frequency that is equally spaced on the frequency axis, a frequency that corresponds to an average temperment scale, or a frequency that is divided more finely than a semitone of the average temperament scale. Generating each element corresponding to
The acoustic signal analysis device according to any one of (1) to (3) above, wherein
(5) The feature quantity generation means is the number of the stable components in the predetermined section, or a value obtained by dividing the number of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the stable components The feature amount is a value obtained by dividing the number of the above by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis device according to any one of (1) to (4) above, wherein
(6) The feature value generation means is a sum of the strengths of the stable components in the predetermined section, or a value obtained by dividing the sum of the strengths of the stable components by the number of types of frequencies in the elements constituting the frequency data, Alternatively, the feature amount is a value obtained by dividing the sum of the strengths of the stable components by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis device according to any one of (1) to (4) above, wherein
(7) The feature quantity generation means generates the feature quantity by performing a process of smoothing in the time direction.
The acoustic signal analyzer according to any one of (1) to (6) above, wherein
(8) An acoustic signal analysis method executed by an acoustic signal analyzer that extracts features of the music from an acoustic signal related to the music,
A frequency analysis step of performing frequency analysis on the acoustic signal and generating frequency component data composed of elements corresponding to time, frequency, and component intensity;
An element in which the component intensity is a predetermined value or more is detected as an effective element from the frequency component data, and a region in which a predetermined number or more of the effective elements having the same frequency are present within a predetermined time in the frequency component data A stable component detection step for detecting as a stable component;
A feature amount generation step of generating a feature amount of the predetermined section based on a sum of the strengths of the stable components in a predetermined section or the number of the stable components;
In the stable component detection step, a value obtained by adding in the time direction the component intensity of another element corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency. To calculate the predetermined value,
An acoustic signal analysis method characterized by the above.
(9) In the stable component detection step, the component intensities of other elements corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency near the same frequency are added in the time direction. Using the value obtained, an average value of the component strength is calculated, and a value obtained by multiplying the average value by a predetermined coefficient is calculated as the predetermined value.
The acoustic signal analysis method according to (8) above, wherein
(10) The stable component detection step is another element that is temporally adjacent to the element that is the determination target of whether or not it is the effective element, and the same frequency as the element that is the determination target, or the same Using the value obtained by adding the component intensities of other elements corresponding to frequencies in the vicinity of the frequency in the time direction, the predetermined value is calculated.
The method for analyzing an acoustic signal as described in (8) or (9) above.
(11) The frequency analysis step may be any one of a frequency that is equally spaced on the frequency axis, a frequency that corresponds to an average temperment scale, or a frequency that is more finely divided than a semitone of the average temperament scale. Generating each element corresponding to
The acoustic signal analysis method according to any one of (8) to (10) above, wherein
(12) In the feature quantity generation step, the number of the stable components in the predetermined section, or a value obtained by dividing the number of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the stable components The feature amount is a value obtained by dividing the number of the above by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis method according to any one of (8) to (11) above, wherein
(13) In the feature quantity generation step, the sum of the strengths of the stable components in the predetermined section, or a value obtained by dividing the sum of the strengths of the stable components by the number of types of frequencies in the elements constituting the frequency data, Alternatively, the feature amount is a value obtained by dividing the sum of the strengths of the stable components by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis method according to any one of (8) to (11) above, wherein
(14) The feature quantity generation step generates the feature quantity by performing a process of smoothing in a time direction.
The acoustic signal analysis method according to any one of (8) to (13) above, wherein
(15) An acoustic signal analysis program for extracting features of the music from an audio signal related to the music,
A frequency analysis step of performing frequency analysis on the acoustic signal and generating frequency component data composed of elements corresponding to time, frequency, and component intensity;
An element in which the component intensity is a predetermined value or more is detected as an effective element from the frequency component data, and a region in which a predetermined number or more of the effective elements having the same frequency are present within a predetermined time in the frequency component data A stable component detection step for detecting as a stable component;
Causing the computer to execute a feature amount generation step of generating a feature amount of the predetermined section based on the total sum of the strengths of the stable components in the predetermined section or the number of the stable components;
In the stable component detection step, a value obtained by adding in the time direction the component intensity of another element corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency. To calculate the predetermined value,
An acoustic signal analysis program characterized by that.
(16) In the stable component detection step, component intensities of other elements corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency are added in the time direction. Using the value obtained, an average value of the component strength is calculated, and a value obtained by multiplying the average value by a predetermined coefficient is calculated as the predetermined value.
The acoustic signal analysis program according to (15) above, wherein
(17) The stable component detection step is another element that is temporally adjacent to an element that is a determination target of whether or not it is the effective element, and the same frequency as the element that is the determination target, or the same Using the value obtained by adding the component intensities of other elements corresponding to frequencies in the vicinity of the frequency in the time direction, the predetermined value is calculated.
The acoustic signal analysis program according to (15) or (16) above, wherein
(18) The frequency analysis step may be any one of a frequency that is equally spaced on the frequency axis, a frequency that corresponds to an average temperment scale, or a frequency that is more finely divided than a semitone of the average temperament scale. Generating each element corresponding to
The acoustic signal analysis program according to any one of (15) to (17) above, wherein
(19) In the feature quantity generation step, the number of stable components in the predetermined section, or a value obtained by dividing the number of stable components by the number of types of frequencies in elements constituting the frequency data, or the stable components The feature amount is a value obtained by dividing the number of the above by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis program according to any one of (15) to (18) above, wherein
(20) In the feature quantity generation step, the sum of the strengths of the stable components in the predetermined section, or a value obtained by dividing the sum of the strengths of the stable components by the number of types of frequencies in the elements constituting the frequency data, Alternatively, the feature amount is a value obtained by dividing the sum of the strengths of the stable components by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis program according to any one of (15) to (18) above, wherein
(21) The feature amount generation step generates the feature amount by performing a process of smoothing in a time direction.
The acoustic signal analysis program according to any one of (15) to (20) above, wherein

本発明の音響信号分析装置、音響信号分析方法及び音響信号分析プログラムによれば、
有音程楽器が発音されていて一定の周波数が安定的に持続している場所と、打楽器等が発
音されていて一定の周波数が安定的に持続しない場所とを識別し、有音程楽器の時間的に
安定した周波数成分の個数または成分強度の総和を計算して音の厚みを表す特徴量を生成
するので、楽曲の雰囲気を決める大きなファクターである音の厚み感を直接反映し、聴感
的な音の厚み感に適合した特徴量を精度良く生成することができる。また、楽音の基音と
倍音を識別分離しない方式で処理を行うため、比較的少ない処理量で特徴量を生成するこ
とができ、音響信号分析装置を低コスト化することが可能である。また、演算処理能力の
小さなコンピュータでも実行可能である。
According to the acoustic signal analysis device, the acoustic signal analysis method, and the acoustic signal analysis program of the present invention,
Distinguishes between places where a pitched instrument is sounded and a constant frequency is stably maintained, and places where percussion instruments are sounded and a constant frequency is not stable, The feature quantity that represents the thickness of the sound is generated by calculating the total number of frequency components or the intensity of the component, which directly reflects the sense of thickness of the sound, which is a large factor that determines the atmosphere of the music. It is possible to accurately generate a feature amount suitable for a sense of thickness. In addition, since processing is performed in a manner that does not discriminate and separate the fundamental tone and harmonics of the musical sound, feature quantities can be generated with a relatively small amount of processing, and the cost of the acoustic signal analyzer can be reduced. It can also be executed by a computer having a small arithmetic processing capability.

本発明の実施例1及び実施例2の音響信号分析装置の構成を示すブロック図である。It is a block diagram which shows the structure of the acoustic signal analyzer of Example 1 and Example 2 of this invention. 図1の周波数分析部の処理フローを示すフローチャートである。It is a flowchart which shows the processing flow of the frequency analysis part of FIG. 図1の周波数分析部におけるフレーム作成動作を示す図である。It is a figure which shows the flame | frame preparation operation | movement in the frequency analysis part of FIG. 図1の周波数分析部における周波数成分計算動作で使用するフィルタ群の特性を示す図である。It is a figure which shows the characteristic of the filter group used by the frequency component calculation operation | movement in the frequency analysis part of FIG. 図1の周波数分析部で生成された行列データの特性を示す模式図である。It is a schematic diagram which shows the characteristic of the matrix data produced | generated by the frequency analysis part of FIG. 実施例1における図1の安定成分検出部の処理フローを示すフローチャートである。2 is a flowchart illustrating a processing flow of a stable component detection unit in FIG. 1 according to the first embodiment. 実施例1における図1の安定成分検出部のデータ格納形式を示す図である。It is a figure which shows the data storage format of the stable component detection part of FIG. 実施例1における図1の特徴量生成部の処理フローを示すフローチャートである。3 is a flowchart illustrating a processing flow of a feature amount generation unit in FIG. 1 according to the first embodiment. 実施例2における図1の安定成分検出部の処理フローを示すフローチャートである。6 is a flowchart illustrating a processing flow of a stable component detection unit in FIG. 1 according to a second embodiment. 実施例2における図1の安定成分検出部のデータ格納形式を示す図である。It is a figure which shows the data storage format of the stable component detection part of FIG. 実施例2における図1の特徴量生成部の処理フローを示すフローチャートである。6 is a flowchart illustrating a processing flow of a feature amount generation unit in FIG. 1 according to a second embodiment.

以下、本発明の実施の形態を図面を参照して説明する。
(実施例1)
本発明の音響信号分析装置、音響信号分析方法及び音響信号分析プログラムの実施例1
を図1乃至図8に基づいて説明する。図1は本発明の実施例1の音響信号分析装置の構成
を示すブロック図、図2は図1の周波数分析部の処理フローを示すフローチャート、図3
は図1の周波数分析部におけるフレーム作成動作を示す図、図4は図1の周波数分析部に
おける周波数成分計算動作で使用するフィルタ群の特性を示す図、図5は図1の周波数分
析部で生成された行列データの特性を示す模式図、図6は実施例1における図1の安定成
分検出部の処理フローを示すフローチャート、図7は実施例1における図1の安定成分検
出部のデータ格納形式を示す図、図8は実施例1における図1の特徴量生成部の処理フロ
ーを示すフローチャートである。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
Example 1
Embodiment 1 of an acoustic signal analysis device, an acoustic signal analysis method, and an acoustic signal analysis program of the present invention
Will be described with reference to FIGS. 1 is a block diagram showing a configuration of an acoustic signal analysis apparatus according to a first embodiment of the present invention, FIG. 2 is a flowchart showing a processing flow of a frequency analysis unit in FIG. 1, and FIG.
Is a diagram showing the frame creation operation in the frequency analysis unit of FIG. 1, FIG. 4 is a diagram showing the characteristics of the filter group used in the frequency component calculation operation in the frequency analysis unit of FIG. 1, FIG. 5 is a frequency analysis unit of FIG. 6 is a schematic diagram showing the characteristics of the generated matrix data, FIG. 6 is a flowchart showing the processing flow of the stable component detector of FIG. 1 in the first embodiment, and FIG. 7 is data storage of the stable component detector of FIG. FIG. 8 is a flowchart showing a processing flow of the feature quantity generation unit of FIG. 1 in the first embodiment.

図1に示すように、音響信号分析装置1は、音響信号入力部11と、A/D変換器11
bと、周波数分析部12と、安定成分検出部13と、安定成分メモリ13bと、特徴量生
成部14と、演算処理回路11a〜14aとを備える。
As shown in FIG. 1, the acoustic signal analyzer 1 includes an acoustic signal input unit 11 and an A / D converter 11.
b, a frequency analysis unit 12, a stable component detection unit 13, a stable component memory 13b, a feature amount generation unit 14, and arithmetic processing circuits 11a to 14a.

音響信号入力部11には楽曲が記録された音響信号が入力される。A/D変換器11b
は、音響信号入力部11に入力される音響信号がアナログ信号である場合に音響信号をA
/D変換する。
An acoustic signal in which music is recorded is input to the acoustic signal input unit 11. A / D converter 11b
Is the acoustic signal A when the acoustic signal input to the acoustic signal input unit 11 is an analog signal.
/ D conversion.

周波数分析部12は、音響信号を複数の周波数のバンドに分割して、所定時間周期での
各バンドの成分強度を要素とする行列データを生成する。
The frequency analysis unit 12 divides the acoustic signal into a plurality of frequency bands, and generates matrix data having the component intensity of each band in a predetermined time period as an element.

安定成分検出部13は、周波数分析部12で生成された行列データから成分強度が所定
の値以上の要素を有効要素として検出し、行列データの中で前記時間周期の複数分に相当
する時間内に前記有効要素が所定の数以上存在する領域を安定成分として検出する。安定
成分メモリ13bは、安定成分検出部13で検出された安定成分の情報を格納する。
The stable component detection unit 13 detects an element having a component intensity of a predetermined value or more from the matrix data generated by the frequency analysis unit 12 as an effective element, and within a time period corresponding to a plurality of times of the time period in the matrix data. A region where a predetermined number or more of the effective elements are present is detected as a stable component. The stable component memory 13b stores information on stable components detected by the stable component detector 13.

特徴量生成部14は、安定成分メモリ13bを参照し、所定の区間における安定成分の
強度の総和または安定成分の個数を使って前記区間での音の厚みを表す特徴量を生成する
The feature quantity generation unit 14 refers to the stable component memory 13b and generates a feature quantity that represents the thickness of the sound in the section using the sum of the strengths of the stable components in the predetermined section or the number of stable components.

演算処理回路11a〜14aは、装置各部をそれぞれ演算及び制御する。   The arithmetic processing circuits 11a to 14a calculate and control each part of the apparatus.

次に、実施例1の音響信号分析装置1の動作及び音響信号分析方法を説明する。   Next, the operation of the acoustic signal analyzing apparatus 1 according to the first embodiment and the acoustic signal analyzing method will be described.

まず、音響信号入力部11において、入力される音響信号がアナログ信号である場合に
は、演算処理回路11aは、A/D変換器11bに対して所定のサンプリング周波数Fs
でデジタル化させるように制御する。また、入力される音響信号がデジタル信号の場合に
は、サンプリング周波数が所定の値Fsとなるようにレート変換を行う。音響信号入力部
11でデジタル化されたデータを以下では音響データx[m](m=0〜L−1、Lは音
響データの総数)と表す。
First, in the acoustic signal input unit 11, when the input acoustic signal is an analog signal, the arithmetic processing circuit 11a sends a predetermined sampling frequency Fs to the A / D converter 11b.
Control to digitize. When the input acoustic signal is a digital signal, rate conversion is performed so that the sampling frequency becomes a predetermined value Fs. The data digitized by the acoustic signal input unit 11 is hereinafter represented as acoustic data x [m] (m = 0 to L−1, L is the total number of acoustic data).

次に、周波数分析部12では、演算処理回路12aは、音響信号入力部11にて所定の
サンプリングレートにデジタル化された音響データを対象にして周波数分析を行い、所定
の時間周期毎に各バンドの成分強度を計算し、成分強度を行列要素とする行列データを作
成する。
Next, in the frequency analysis unit 12, the arithmetic processing circuit 12 a performs frequency analysis on the acoustic data digitized at a predetermined sampling rate by the acoustic signal input unit 11, and each band for each predetermined time period. Is calculated, and matrix data having the component intensity as a matrix element is created.

本実施例では、周波数分析の方法として公知のSTFT(Short-time Fourier Transfo
rm)を用いるが、これに限定するわけでなく、ウェーブレット変換やフィルターバンクな
どを用いても良い。
In this embodiment, a well-known STFT (Short-time Fourier Transform) is used as a frequency analysis method.
rm) is used, but the present invention is not limited to this, and wavelet transform, filter bank, or the like may be used.

ここで、周波数分析部12の処理フローを図2に示すフローチャートに基づいて説明す
る。本実施例では、音響データを固定長のフレームに分割し、フレーム単位での処理を行
う。以下では、フレーム長をN、フレームシフト長をSとする。フレームシフト長Sが時
間周期に相当する。フレームの総数Mは、(数式1)に従って求まる。ここでfloor
関数は小数点以下を切り捨てた整数を返す関数である。
Here, the processing flow of the frequency analysis unit 12 will be described based on the flowchart shown in FIG. In this embodiment, the acoustic data is divided into fixed-length frames, and processing is performed in units of frames. In the following, it is assumed that the frame length is N and the frame shift length is S. The frame shift length S corresponds to a time period. The total number M of frames is obtained according to (Formula 1). Where floor
The function is a function that returns an integer with the decimal part truncated.

Figure 2010152381
Figure 2010152381

まず、ステップS110では、演算処理回路12aは、フレーム番号を示す制御変数i
を0にセットする。
First, in step S110, the arithmetic processing circuit 12a controls the control variable i indicating the frame number.
Is set to 0.

次に、ステップS120では、演算処理回路12aは、i番目のフレームを作成する。
すなわち図3に示すように、音響データの先頭からi×S個オフセットされた位置からN
個のデータを切り出し、これに(数式2)に示すように窓関数wを乗じて、i番目のフレ
ームデータy[i][n](n=0〜N−1)を作成する。
Next, in step S120, the arithmetic processing circuit 12a creates the i-th frame.
That is, as shown in FIG. 3, N × from the position offset by i × S from the beginning of the acoustic data.
This data is cut out and multiplied by a window function w as shown in (Formula 2) to create i-th frame data y [i] [n] (n = 0 to N−1).

Figure 2010152381
Figure 2010152381

窓関数としては例えば、(数式3)に示すハミング窓を用いれば良い。また、この他に
も、方形窓、ハニング窓、ブラックマン窓などを用いても良い。
As the window function, for example, a Hamming window shown in (Formula 3) may be used. In addition, a rectangular window, Hanning window, Blackman window, or the like may be used.

Figure 2010152381
Figure 2010152381

次に、ステップS130では、演算処理回路12aは、(数式4)に従ってi番目のフ
レームの離散フーリエ変換(DFT)を計算する。
Next, in step S130, the arithmetic processing circuit 12a calculates the discrete Fourier transform (DFT) of the i-th frame according to (Equation 4).

Figure 2010152381
Figure 2010152381

次に、ステップS140では、演算処理回路12aは、ステップS130で得られた複
素系列a[i][k](k=0〜N−1)の実数部Re{a[i][k]}と虚数部Im
{a[i][k]}を使って、(数式5)または(数式6)に従って、i番目のフレーム
のスペクトル系列b[i][k](k=0〜N/2−1)を計算する。
Next, in step S140, the arithmetic processing circuit 12a has the real part Re {a [i] [k]} of the complex sequence a [i] [k] (k = 0 to N−1) obtained in step S130. And imaginary part Im
{A [i] [k]} is used to calculate the spectrum sequence b [i] [k] (k = 0 to N / 2-1) of the i-th frame according to (Equation 5) or (Equation 6). calculate.

Figure 2010152381
Figure 2010152381

Figure 2010152381
Figure 2010152381

次に、ステップS150では、演算処理回路12aは、DFTの結果からフレームi、
バンドqの周波数成分c[i][q](q=0〜Q−1、Qはバンド数)を計算する。こ
こで、ステップS150における計算方法としては、以下の3つがある。
Next, in step S150, the arithmetic processing circuit 12a determines the frame i,
The frequency component c [i] [q] (q = 0 to Q−1, Q is the number of bands) of the band q is calculated. Here, there are the following three calculation methods in step S150.

周波数成分を計算する第1の方法は、(数式7)に従ってスペクトル系列b[i][k
]の一部、または全部をc[i][q]に対応させる方法である。ここで、λは0以上の
所定の整数であり、バンドの最低周波数を決めるパラメータである。また、バンド数Qは
(N/2−λ)以下である所定の値に設定する。第1の方法は計算量が最も少なく簡便で
ある。
The first method for calculating the frequency component is the spectrum sequence b [i] [k according to (Equation 7).
], A part or all of them are made to correspond to c [i] [q]. Here, λ is a predetermined integer of 0 or more, and is a parameter that determines the lowest frequency of the band. Further, the number of bands Q is set to a predetermined value which is (N / 2−λ) or less. The first method has the least amount of calculation and is simple.

Figure 2010152381
Figure 2010152381

周波数成分を計算する第2の方法は、(数式8)に従って平均律音階に対応した周波数
成分を求める方法である。
The second method for calculating the frequency component is a method for obtaining the frequency component corresponding to the average tempered scale according to (Equation 8).

Figure 2010152381
Figure 2010152381

ここで、Fsは音響信号入力部11におけるサンプリング周波数であり、Frは平均律
音階の基準となる周波数である。例えば、「中央のラの音」を440Hzとして、これよ
りも4オクターブ低い音を平均律音階の基準とした場合、Fr=27.5Hzとなる。
Here, Fs is a sampling frequency in the acoustic signal input unit 11, and Fr is a frequency serving as a reference for the average temperament scale. For example, if the “center sound” is 440 Hz and a sound 4 octaves lower than this is used as the reference for the average temperament scale, Fr = 27.5 Hz.

また、Vは1オクターブの音階を何個のバンドに分割するかを決める定数である。例え
ば1オクターブを12個のバンドに分割する場合はV=12とすれば良い。また、Vの値
をこれより大きくして平均律音階の半音よりも更に細かいバンドに分割しても良い。また
、関数Rは入力値に最も近い整数を出力する関数である。また、K1及びK2は、バンド
の最低周波数(最低音階)及び最高周波数(最高音階)を決める定数であり、μはバンド
を表わす引数qの最小値を0とするための定数である。同一値のqに対応するkの個数分
だけスペクトル系列b[i][k]を加算して周波数成分c[i][q]を求める。
V is a constant that determines how many bands a 1-octave scale is divided into. For example, when one octave is divided into 12 bands, V = 12. Further, the value of V may be made larger than this and divided into bands that are finer than the semitones of the average temperament scale. The function R is a function that outputs an integer closest to the input value. K1 and K2 are constants for determining the lowest frequency (lowest musical scale) and the highest frequency (highest musical scale) of the band, and μ is a constant for setting the minimum value of the argument q representing the band to zero. The frequency components c [i] [q] are obtained by adding the spectrum series b [i] [k] by the number k corresponding to the same value q.

第2の方法は第1の方法に比べて、楽曲の音楽的な特徴をより反映した周波数成分を計
算することができる。
Compared to the first method, the second method can calculate a frequency component more reflecting the musical characteristics of the music.

周波数成分を計算する第3の方法は、(数式9)に従って平均律音階に対応した周波数
成分を求める方法である。
The third method for calculating the frequency component is a method for obtaining the frequency component corresponding to the average tempered scale according to (Equation 9).

Figure 2010152381
Figure 2010152381

ここで、z[q][k](q=0〜Q−1、k=0〜N/2−1)は、図4に示すよう
な帯域特性を持つフィルタ群であり、各フィルタの中心周波数は、平均律音階の周波数に
対応している。
Here, z [q] [k] (q = 0 to Q-1, k = 0 to N / 2-1) is a filter group having band characteristics as shown in FIG. The frequency corresponds to the frequency of the average scale.

図4に示した一例では、平均律音階のC1音程をバンド0に対応させて、以降半音ごと
に1つのバンドに対応させて、最後にB6音程をバンドQ−1に対応させている。図4(
a)に示すz[0][k]はC1(ド)に対応した周波数を通過させるフィルタであり、
図4(b)に示すz[1][k]はそれより半音高いC#1(ド#)に対応した周波数を
通過させるフィルタを示している。
In the example shown in FIG. 4, the C1 pitch of the average temperament scale is made to correspond to the band 0, and thereafter, one semitone is made to correspond to one band, and finally the B6 pitch is made to correspond to the band Q-1. FIG.
z [0] [k] shown in a) is a filter that passes a frequency corresponding to C1 (do),
Z [1] [k] shown in FIG. 4 (b) indicates a filter that passes a frequency corresponding to C # 1 (de #) that is a semitone higher than that.

スペクトル系列b[i][k]は周波数軸上に等間隔に存在するのに対して、平均律音
階は高音部になるほど隣り合った半音間の周波数間隔が広がるので、フィルタ群z[q]
[k]の中心周波数もそれに対応して、高音部ほど隣り合った中心周波数の間隔が広くな
っている。例えば、図4(a)に示すz[0][k]と図4(b)に示すz[1][k]
の中心周波数の差よりも図4(c)に示すz[Q−2][k]と図4(d)に示すz[Q
−1][k]の中心周波数の差の方が大きい。
The spectrum series b [i] [k] exists at equal intervals on the frequency axis, whereas the average temperament scale has a higher frequency range so that the frequency interval between adjacent semitones increases, so the filter group z [q]
Corresponding to the center frequency of [k], the interval between the center frequencies adjacent to each other is increased as the treble part is increased. For example, z [0] [k] shown in FIG. 4 (a) and z [1] [k] shown in FIG. 4 (b).
Z [Q-2] [k] shown in FIG. 4C and z [Q shown in FIG.
−1] [k] has a larger difference in center frequency.

また、各フィルタの帯域幅も同様に、高音部ほど広くなっている。例えば、図4(d)
に示すZ[Q−1][k]の帯域幅は、図4(a)に示すz[0][k]の帯域幅よりも
広い。
Similarly, the bandwidth of each filter becomes wider as the treble part increases. For example, FIG.
The bandwidth of Z [Q-1] [k] shown in FIG. 4 is wider than the bandwidth of z [0] [k] shown in FIG.

また、図4に示した例では平均律の半音に一致したバンドであるが、平均律音階の半音
を更に細かく分割するようなバンドを得るようにしても良い。
In the example shown in FIG. 4, the band matches the average temperament semitone, but a band that further divides the average temperament semitone may be obtained.

第3の方法は、第2の方法に比べて更に精度良く平均律音階に対応した周波数を求める
ことができる。
The third method can determine the frequency corresponding to the average temperament scale with higher accuracy than the second method.

図2の説明に戻ると、次にステップS160において、演算処理回路12aは、フレー
ム番号を示す制御変数iの値を1増やす。
Returning to the description of FIG. 2, in step S160, the arithmetic processing circuit 12a increments the value of the control variable i indicating the frame number by one.

次に、ステップS170では、演算処理回路12aは、フレーム番号を示す制御変数i
の値がフレーム総数Mより小さいか否かチェックする。フレーム総数Mより小さい(YE
S)時は、ステップS120に戻り処理を繰り返す。フレーム総数M以上である(NO)
時は、すべてのフレームについて処理を行ったことになるので、処理を終了する。
Next, in step S170, the arithmetic processing circuit 12a controls the control variable i indicating the frame number.
It is checked whether the value of is smaller than the total number M of frames. Smaller than total number of frames M (YE
When S), the process returns to step S120 and is repeated. The total number of frames is more than M (NO)
At that time, since all the frames have been processed, the processing ends.

以上の処理が終了した時点で、周波数分析部12には、周波数成分c[i][q](フ
レームi=0〜M−1、バンドq=0〜Q−1)が行列形式で形成格納されており、安定
成分検出部13が利用できるようになっている。
When the above processing is completed, the frequency analysis unit 12 forms and stores frequency components c [i] [q] (frames i = 0 to M−1, bands q = 0 to Q−1) in a matrix format. Therefore, the stable component detector 13 can be used.

ここで、本発明の音響信号分析装置1が生成する特徴量について説明する。人間が楽曲
や音楽を聞いて感じる音の厚みの度合いには、様々な要因が関係しているが、以下の2つ
の要因が大きく影響している。
(1)同時に発音されている音数(音符数、基音の数)
(2)個々の音に含まれる倍音成分
(1)は、いわゆるハーモニーに関わり、楽譜で表現可能な事項である。通常、同時に
発音されている音数(音符数、基音の数)が多いほど「音が厚い」と感じられる。
Here, the feature-value which the acoustic signal analyzer 1 of this invention produces | generates is demonstrated. Various factors are related to the depth of sound that humans feel when listening to music and music, but the following two factors have a great influence.
(1) Number of notes that are sounded simultaneously (number of notes, number of fundamentals)
(2) Overtone component contained in each sound (1) relates to so-called harmony and is a matter that can be expressed by a score. Usually, it is felt that “the sound is thicker” as the number of sounds (number of notes, the number of fundamental notes) that are pronounced simultaneously increases.

(2)は楽器の音色に関わり、楽譜では表現できない事項である。通常、個々の音に含
まれる倍音成分が多いほど「音が厚い」と感じられる。
(2) relates to the tone of the musical instrument and cannot be expressed in the score. Normally, it is felt that “the sound is thicker” as there are more harmonic components contained in each sound.

上記2つの要因は別々のものであるので、2つの要因を一度分離した後に総合的な音の
厚み感を計算する方法が考えられる。しかしながら、複数かつ不特定の種類の楽器が混在
している一般的な楽曲の音響信号から基音を認識することは難しく、上記2つの要因を無
理に分離することは実用的でない。
Since the above two factors are different, a method of calculating the overall sound thickness after separating the two factors once can be considered. However, it is difficult to recognize a fundamental tone from an acoustic signal of a general musical composition in which a plurality of unspecified types of musical instruments are mixed, and it is not practical to forcibly separate the above two factors.

そこで本発明では、上記2つの要因を分離せずに音の厚み感を表す特徴量を計算する。
このため、比較的少ない計算量で特徴量が得られる。
Therefore, in the present invention, the feature quantity representing the sense of thickness of the sound is calculated without separating the above two factors.
For this reason, a feature amount can be obtained with a relatively small amount of calculation.

図5は図1の周波数分析部12で生成された行列データの特性を示す模式図である。図
5ではフレームを横軸、バンドを縦軸に示しており、黒い部分(C部においては斜線部を
含む)が成分強度の強い要素を示している。一般的な楽曲には一定の音程を接続して発音
する有音程楽器が含まれているので、おおよそ水平方向の線分が多く存在する。
FIG. 5 is a schematic diagram showing characteristics of matrix data generated by the frequency analysis unit 12 of FIG. In FIG. 5, the frame is shown on the horizontal axis and the band is shown on the vertical axis, and the black portion (including the hatched portion in the C portion) shows an element having a strong component strength. Since a general musical piece includes a pitched musical instrument that generates a sound by connecting a certain pitch, there are many horizontal segments.

この水平方向の線分には、基音に相当するものと倍音に相当するものが混在しており、
どれが基音で、どれが倍音であるかを判別することは難しい。
In this horizontal line segment, there is a mix of what corresponds to the fundamental tone and what corresponds to the overtone,
It is difficult to determine which is a fundamental tone and which is a harmonic.

一方で、例えばA部とB部とを比較した場合に、水平方向の線分の数が多いA部の方が
、聴感的に音が厚く感じられる部分である確率が高い。
On the other hand, for example, when comparing the A portion and the B portion, the A portion having a larger number of horizontal line segments is more likely to be a portion where the sound is perceived thicker.

また、楽曲の中で明確な音程を持たない打楽器が発音されているような箇所や一部の楽
器の発音開始箇所では、C部に示すように、幅広い帯域で成分強度の強い要素が存在する
。このような部分は、見かけ上の倍音成分が非常に強くなるが、聴感的には音の厚みはそ
れ程感じられない。
Also, at locations where percussion instruments that do not have a clear pitch in the music are being pronounced, or at the locations where some instruments are pronounced, there are elements with a strong component intensity in a wide band, as shown in part C. . In such a portion, although the apparent harmonic component becomes very strong, the thickness of the sound is not so much perceived.

そこで、安定成分検出部13及び特徴量生成部14においては、打楽器等の影響を受け
にくいようにして、有音程楽器の時間的に安定した周波数成分の個数または成分強度の総
和を計算して特徴量を生成する。
Therefore, the stable component detection unit 13 and the feature value generation unit 14 calculate the number of frequency components or the sum of the component strengths that are temporally stable of the musical instrument so as not to be affected by percussion instruments and the like. Generate quantity.

次に、安定成分検出部13の処理フローについて、図6に示すフローチャートに基づい
て説明する。安定成分検出部13では、周波数分析部12に格納されている周波数成分c
[i][q](i=0〜M−1、q=0〜Q−1)を読み出して処理を行う。
Next, the processing flow of the stable component detection unit 13 will be described based on the flowchart shown in FIG. In the stable component detector 13, the frequency component c stored in the frequency analyzer 12
[I] [q] (i = 0 to M-1, q = 0 to Q-1) is read and processed.

まず、ステップS210では、演算処理回路13aは、探索を開始するフレーム番号を
表す制御変数pを0にセットする。
First, in step S210, the arithmetic processing circuit 13a sets a control variable p representing a frame number for starting a search to 0.

次に、ステップS220では、演算処理回路13aは、バンドを表す制御変数qを安定
成分の対象となる最小のバンドQ1(Q1は0以上Q未満の定数)にセットする。
Next, in step S220, the arithmetic processing circuit 13a sets the control variable q representing the band to the minimum band Q1 (Q1 is a constant greater than or equal to 0 and less than Q) that is the target of the stable component.

次に、ステップS230では、演算処理回路13aは、後述する条件に合致する周波数
成分を有効成分としてカウントするための変数rを0にセットする。
Next, in step S230, the arithmetic processing circuit 13a sets a variable r for counting a frequency component meeting a condition described later as an effective component to 0.

次に、ステップS240では、演算処理回路13aは、フレーム番号を表す制御変数i
をpの値にセットする。
Next, in step S240, the arithmetic processing circuit 13a controls the control variable i representing the frame number.
Is set to the value of p.

次に、ステップS250では、演算処理回路13aは、周波数成分c[i][q]が有
効な成分であるか否かチェックする。有効な成分である(YES)と判定した時は、ステ
ップS260に進み、有効な成分でない(NO)と判定した時は、ステップS270に進
む。ステップS250で有効な成分を判定する具体的な方法としては、以下に説明する5
つの方法のいずれか又は適当な組合せを用いれば良い。
Next, in step S250, the arithmetic processing circuit 13a checks whether the frequency component c [i] [q] is a valid component. When it is determined that the component is an effective component (YES), the process proceeds to step S260, and when it is determined that the component is not an effective component (NO), the process proceeds to step S270. As a specific method for determining an effective component in step S250, 5 described below.
Any one of the two methods or an appropriate combination may be used.

有効な成分を判定する第1の方法は、(数式10)を用いて、c[i][q]がしきい
値α[q]以上である場合に有効な成分と判定する方法である。
A first method for determining an effective component is a method for determining an effective component using (Equation 10) when c [i] [q] is equal to or greater than a threshold value α [q].

Figure 2010152381
Figure 2010152381

ここで、しきい値α[q]は、後述する方法で決めれば良い。   Here, the threshold value α [q] may be determined by a method described later.

有効な成分を判定する第2の方法は、(数式11)を用いる方法である。これは、前述
した(数式10)の条件に加えて、バンドq(中心バンドと呼ぶ)と同一時間の周波数成
分であり、かつバンドqの近傍の周波数バンド(近傍バンドと呼ぶ)に属するいくつかの
周波数成分を特定して、これら周波数成分の総和に一定比率γを乗じた値よりもバンドq
の周波数成分c[i][q]の方が大きい場合に有効成分とするという条件を加えている
。すなわち、ある周波数成分が所定の値以上であり、かつその周波数成分がその近傍の周
波数成分の総和に所定の比率を乗じた値よりも大きい場合に、その周波数成分を有効成分
と判定することになる。なお(数式11)では、フレームiの周波数成分のみを用いて総
和を計算しているが、これに限定される訳ではなく、例えば、フレームiの近傍のフレー
ムを含めて総和を計算しても良い。
A second method for determining an effective component is a method using (Formula 11). In addition to the condition of (Formula 10) described above, this is a frequency component of the same time as the band q (referred to as the center band) and belongs to a frequency band (referred to as a nearby band) in the vicinity of the band q. The frequency component of the band q is greater than the value obtained by multiplying the sum of these frequency components by a fixed ratio γ.
The condition that the frequency component c [i] [q] is an effective component is added. That is, when a certain frequency component is equal to or higher than a predetermined value and the frequency component is larger than a value obtained by multiplying the sum of the frequency components in the vicinity by a predetermined ratio, the frequency component is determined as an effective component. Become. In (Formula 11), the sum is calculated using only the frequency component of frame i, but the present invention is not limited to this. For example, the sum may be calculated including a frame in the vicinity of frame i. good.

Figure 2010152381
Figure 2010152381

ここで、G1、G2、γは定数である。また、しきい値α[q]は、後述する方法で決
めれば良い。この方法は、一般に有音程楽器が発音されている時には、その音程のバンド
の成分が隣接したバンドの成分よりも強く、打楽器等が発音されている時には隣接したバ
ンドの成分との差が小さい、といった性質を利用している。
Here, G1, G2, and γ are constants. The threshold value α [q] may be determined by a method described later. In general, when a musical instrument is sounded, the band component of the pitch is stronger than the adjacent band component, and when the percussion instrument is sounded, the difference between the adjacent band components is small. Is used.

すなわち、(数式11)の2項目の条件は、図5に示すA及びBの部分では真となるが
、Cの部分では偽となり、打楽器等が発音している部分を安定成分に含めない作用を持っ
ている。定数G1、G2は、各バンド間の周波数差に応じて決めれば良い。一般的な楽曲
では、半音違いの音程で2つの有音程楽器が発音されることはあまり多くないのに対して
、打楽器等が発音される場合には半音違う周波数成分も同時に強いことが多い。従って、
中心バンドの強度が中心バンドと半音〜2半音周波数の異なる隣接バンドの強度よりある
程度大きい場合に有音程楽器が発音されているものと判定できる。このためには、中心バ
ンドと近傍バンドの周波数差が平均律音階の1半音あるいは2半音に相当し、近傍バンド
の片側帯域幅が平均律音階の1半音あるいは2半音に相当するように、G1及びG2を設
定すれば良い。例えば、各バンドを平均律音階の各半音に対応させた場合は、G1=1〜
2、G2=1〜3程度にするのが適当である。もちろん、この値に限定されるわけでない
That is, the condition of the two items of (Equation 11) is true in the portions A and B shown in FIG. 5, but is false in the portion C, and does not include a portion where a percussion instrument or the like is pronounced as a stable component. have. The constants G1 and G2 may be determined according to the frequency difference between the bands. In general music, two pitched musical instruments are not often pronounced with a pitch that is different from a semitone, whereas when percussion instruments are pronounced, frequency components that are different from a semitone are often strong at the same time. Therefore,
It can be determined that the musical instrument is sounded when the intensity of the central band is somewhat higher than the intensity of the adjacent band that differs from the central band by a semitone to two semitone frequency. For this purpose, G1 is set so that the frequency difference between the central band and the neighboring band corresponds to one or two semitones of the average scale, and the one-side bandwidth of the neighboring band corresponds to one or two semitones of the average scale. And G2 may be set. For example, when each band corresponds to each semitone of the average temperament scale, G1 = 1 to 1
2, G2 = 1-3 is appropriate. Of course, it is not limited to this value.

有効な成分を判定する第3の方法は(数式12)を用いる方法である。有効な成分を判
定する第2の方法と考え方は同様であるが、バンドqの近傍のバンドに属する周波数成分
から特定した周波数成分の総和ではなく、バンドqの近傍のバンドに属する周波数成分か
ら特定した周波数成分の最大値を用いている。すなわち、ある周波数成分が所定の値以上
であり、かつその周波数成分がその近傍の周波数成分の最大値に所定の比率を乗じた値よ
りも大きい場合に、その周波数成分を有効成分と判定することになる。なお(数式12)
では、フレームiの周波数成分のみを用いて最大値を計算しているが、これに限定される
訳ではなく、例えば、フレームiの近傍のフレームを含めて最大値を計算しても良い。
A third method for determining an effective component is a method using (Formula 12). The concept is the same as the second method for determining an effective component, but it is not the sum of the frequency components specified from the frequency components belonging to the band near band q, but the frequency components belonging to the band near band q. The maximum frequency component is used. That is, when a certain frequency component is equal to or greater than a predetermined value and the frequency component is larger than a value obtained by multiplying the maximum value of the neighboring frequency components by a predetermined ratio, the frequency component is determined as an effective component. become. (Equation 12)
In this case, the maximum value is calculated using only the frequency component of the frame i, but the present invention is not limited to this. For example, the maximum value may be calculated including a frame near the frame i.

Figure 2010152381
Figure 2010152381

有効な成分を判定する第4の方法は、(数式13)を用いる方法である。これは、前述
した(数式10)の条件に加えて、バンドqと同一時間の周波数成分であって、かつバン
ドqの周波数バンドと倍音関係にある周波数バンド(倍音バンド)に属する周波数成分を
特定し、更に倍音バンドに属する周波数成分の近傍の周波数成分からいくつかの周波数成
分を特定して、これら周波数成分の総和に一定比率を乗じた値よりも倍音バンドに属する
周波数成分の方が大きい場合にc[i][q]を有効成分とする方法である。すなわち、
ある周波数成分が所定の値以上であり、かつその周波数成分と倍音関係にある倍音成分の
値が、倍音成分の近傍の周波数成分の総和に所定の比率を乗じた値よりも大きい場合に、
その周波数成分を有効成分と判定することになる。
A fourth method for determining an effective component is a method using (Formula 13). In addition to the condition of (Equation 10) described above, this specifies a frequency component belonging to the frequency band having the same time as the band q and having a harmonic relationship with the frequency band of the band q (harmonic band). If the frequency component belonging to the harmonic band is larger than the value obtained by identifying several frequency components from the frequency components near the frequency component belonging to the harmonic band and multiplying the sum of these frequency components by a fixed ratio. And c [i] [q] as an active ingredient. That is,
When a certain frequency component is greater than or equal to a predetermined value and the value of the harmonic component in harmonic relationship with the frequency component is greater than a value obtained by multiplying the sum of frequency components in the vicinity of the harmonic component by a predetermined ratio,
The frequency component is determined as an effective component.

Figure 2010152381
Figure 2010152381

ここで関数h(d,q)は、バンドqのd倍の周波数(d倍音)に相当するバンド番号
を返す関数である。これは、前述した(数式10)の条件に加えて、バンドqのd倍音に
相当するバンド(dqバンドと呼ぶ)の周波数成分からdqバンドの近傍のバンドの周波
数成分の総和を引いた値に比率η[d]を乗じた値をd=2〜D(Dは2以上の定数)と
して加算した値が0より大きい場合に有効成分とするという条件を加えている。
Here, the function h (d, q) is a function that returns a band number corresponding to a frequency (d overtone) of d times the band q. This is a value obtained by subtracting the sum of the frequency components of the bands in the vicinity of the dq band from the frequency components of the band corresponding to the d harmonic overtone of the band q (referred to as the dq band) in addition to the condition of (Formula 10) described above. A condition that an active component is added when a value obtained by multiplying a value multiplied by the ratio η [d] as d = 2 to D (D is a constant of 2 or more) is larger than 0 is added.

また、G3、G4はG1、G2と同様に各バンド間の周波数差により決まる定数である
。また、しきい値α[q]は、後述する方法で決めれば良い。
G3 and G4 are constants determined by the frequency difference between the bands as in G1 and G2. The threshold value α [q] may be determined by a method described later.

この方法は、一般に有音程楽器が発音されている時には、倍音構造が存在し、基音の整
数倍の周波数を持つ倍音バンドの成分が、周波数的に倍音バンドの近傍にあるバンド(倍
音近傍バンドと呼ぶ)の成分よりも強いのに対して、打楽器等が発音されている時には、
明確な倍音構造は存在しないため、倍音バンドと倍音近傍バンドとの成分の強度に関して
そのような条件が成立し難い、といった性質を利用している。すなわち、(数式13)の
2項目の条件は、図5に示すA及びBの部分では真となるが、Cの部分では偽となり、打
楽器等が発音している部分を安定成分に含めない作用を持っている。なお(数式13)で
は、フレームiの周波数成分のみを用いて総和を計算しているが、これに限定される訳で
はなく、例えば、フレームiの近傍のフレームを含めて総和を計算しても良い。
In general, when a musical instrument is sounded, this method has a harmonic structure, and a component of a harmonic band having a frequency that is an integral multiple of the fundamental tone is in the vicinity of the harmonic band in terms of frequency (a harmonic nearby band and When the percussion instrument is pronounced,
Since there is no clear overtone structure, the property that such a condition is difficult to be satisfied with respect to the strength of the components of the overtone band and the overtone vicinity band is utilized. That is, the condition of the two items in (Equation 13) is true in the portions A and B shown in FIG. 5, but is false in the portion C, and does not include a portion where a percussion instrument or the like is pronounced as a stable component. have. In (Equation 13), the sum is calculated using only the frequency component of frame i. However, the present invention is not limited to this. For example, the sum may be calculated including frames in the vicinity of frame i. good.

有効な成分を判定する第5の方法は、(数式14)を用いる方法である。これは、有効
成分を判定する第4の方法と似ているが、倍音近傍バンドの周波数成分の総和ではなく、
倍音近傍バンドの周波数成分の最大値を用いる。すなわち、ある周波数成分が所定の値以
上であり、かつその周波数成分と倍音関係にある倍音成分の値が、倍音成分の近傍の周波
数成分の最大値に所定の比率を乗じた値よりも大きい場合に、その周波数成分を有効成分
と判定することになる。
A fifth method for determining an effective component is a method using (Formula 14). This is similar to the fourth method for determining the active component, but is not the sum of the frequency components of the nearby harmonics band,
The maximum value of the frequency component of the overtone vicinity band is used. That is, when a certain frequency component is greater than or equal to a predetermined value and the value of the harmonic component in harmonic relationship with that frequency component is greater than the value obtained by multiplying the maximum value of the frequency component in the vicinity of the harmonic component by a predetermined ratio In addition, the frequency component is determined as an effective component.

なお(数式14)では、フレームiの周波数成分のみを用いて最大値を計算しているが
、これに限定される訳ではなく、例えば、フレームiの近傍のフレームを含めて最大値を
計算しても良い。
In (Equation 14), the maximum value is calculated using only the frequency component of frame i. However, the present invention is not limited to this. For example, the maximum value is calculated including a frame in the vicinity of frame i. May be.

Figure 2010152381
Figure 2010152381

更には、上述した5つの方法を適宜組み合わせて有効な成分を判定しても良い。例えば
、第2の方法と第4の方法を組み合わせて、(数式11)を満たし、なおかつ(数式13
)を満たす場合にのみ有効な成分と判定しても良い。すなわちこの場合は、ある周波数成
分が所定の値以上であり、かつその周波数成分がその近傍の周波数成分の総和に所定の比
率を乗じた値よりも大きく、かつその周波数成分と倍音関係にある倍音成分の値が倍音成
分の近傍の周波数成分の総和に所定の比率を乗じた値よりも大きい場合に、その周波数成
分を有効成分と判定することになる。この場合は、第2の方法または第4の方法を単独で
用いる場合に比べて、前述したような打楽器等による影響を更に低減することができ、聴
感的な音の厚みを表わす特徴量を更に精度良く計算することができる。
Furthermore, an effective component may be determined by appropriately combining the five methods described above. For example, the second method and the fourth method are combined to satisfy (Equation 11) and (Equation 13).
) May be determined as an effective component only when the above condition is satisfied. In other words, in this case, a certain harmonic component is equal to or higher than a predetermined value, and the frequency component is larger than a value obtained by multiplying the sum of the neighboring frequency components by a predetermined ratio, and has a harmonic overtone relationship with the frequency component. When the value of the component is larger than a value obtained by multiplying the sum of frequency components in the vicinity of the harmonic component by a predetermined ratio, the frequency component is determined as an effective component. In this case, compared with the case where the second method or the fourth method is used alone, the influence of the percussion instrument or the like as described above can be further reduced, and the feature amount representing the audible sound thickness is further increased. It is possible to calculate with high accuracy.

また、別の一例としては、第3の方法と第5の方法を組み合わせて、(数式12)を満
たし、なおかつ(数式14)を満たす場合にのみ有効な成分と判定しても良い。すなわち
この場合は、ある周波数成分が所定の値以上であり、かつその周波数成分がその近傍の周
波数成分の最大値に所定の比率を乗じた値よりも大きく、かつその周波数成分と倍音関係
にある倍音成分の値が倍音成分の近傍の周波数成分の最大値に所定の比率を乗じた値より
も大きい場合に、その周波数成分を有効成分と判定することになる。この場合は、第3の
方法または第5の方法を単独で用いる場合に比べて、前述したような打楽器等による影響
を更に低減することができ、聴感的な音の厚みを表わす特徴量を更に精度良く計算するこ
とができる。
As another example, the third method and the fifth method may be combined to determine that the component is effective only when (Expression 12) is satisfied and (Expression 14) is satisfied. That is, in this case, a certain frequency component is equal to or greater than a predetermined value, and the frequency component is larger than a value obtained by multiplying the maximum value of the frequency components in the vicinity by a predetermined ratio, and has a harmonic overtone relationship with the frequency component. When the value of the harmonic component is larger than a value obtained by multiplying the maximum value of the frequency component in the vicinity of the harmonic component by a predetermined ratio, the frequency component is determined as an effective component. In this case, compared with the case where the third method or the fifth method is used alone, it is possible to further reduce the influence of the percussion instrument or the like as described above, and to further increase the feature amount representing the audible sound thickness. It is possible to calculate with high accuracy.

また、これ以外の方法を組み合わせて有効な成分を判定しても良い。   Further, an effective component may be determined by combining other methods.

次に、上述した(数式10)〜(数式14)におけるしきい値α[q]を決める方法に
ついて説明する。
Next, a method for determining the threshold value α [q] in the above (Formula 10) to (Formula 14) will be described.

しきい値α[q]を決める第1の方法は、あらかじめ設定した定数にする方法である。
この方法は安定成分検出部13における演算量が最も少なく簡便である。なお、上述した
有効成分を判定する方法において第2〜第5の方法を使用する場合は、しきい値α[q]
を比較的小さな値(極端な場合は「0」)にして、有効成分の判定におけるしきい値α[
q]の影響力が小さくなるように設定することも可能である。
A first method for determining the threshold value α [q] is a method of setting a preset constant.
This method is simple because the amount of calculation in the stable component detector 13 is the smallest. In addition, when using the 2nd-5th method in the method of determining an active ingredient mentioned above, threshold value (alpha) [q]
Is a relatively small value ("0" in extreme cases), and the threshold value α [
It is also possible to set the influence of q] to be small.

しきい値α[q]を決める第2の方法は、(数式15)で示すように、全フレーム(M
個)のバンド毎の周波数成分の平均値を用いる方法である。
The second method for determining the threshold value α [q] is as shown in (Formula 15) for all frames (M
This is a method using an average value of frequency components for each band.

Figure 2010152381
Figure 2010152381

ここで、βはあらかじめ設定されている定数である。第2の方法は楽曲毎の音響信号の
大きさのバラツキに影響されにくい特長を持っている。
Here, β is a preset constant. The second method has a feature that it is hardly affected by variations in the magnitude of the acoustic signal for each music piece.

しきい値α[q]を決める第3の方法は、(数式16)に示すように、i番目のフレー
ムの近傍のフレームでのバンド毎の周波数成分の平均値を用いる方法である。
A third method for determining the threshold value α [q] is a method using an average value of frequency components for each band in a frame near the i-th frame, as shown in (Formula 16).

Figure 2010152381
Figure 2010152381

ここで、φ(i)はi番目のフレームの近傍に属するフレームの集合を表し、Hは近傍
フレームの数(H<M)であり、βはあらかじめ設定されている定数である。第3の方法
は、1つの楽曲の中で音響信号の強度が大きく変化している場合で、なおかつ信号強度の
変化を処理結果に反映させたくない場合に適している。
Here, φ (i) represents a set of frames belonging to the neighborhood of the i-th frame, H is the number of neighboring frames (H <M), and β is a preset constant. The third method is suitable for the case where the intensity of the acoustic signal changes greatly in one piece of music and the change in signal intensity is not desired to be reflected in the processing result.

しきい値α[q]を決める第4の方法は、(数式17)に示すように、複数のバンドに
渡る周波数成分の平均値を用いる方法である。ここで、δは平均値の算出に用いるバンド
数を決めるパラメータである。
The fourth method for determining the threshold value α [q] is a method using an average value of frequency components over a plurality of bands, as shown in (Expression 17). Here, δ is a parameter for determining the number of bands used for calculating the average value.

Figure 2010152381
Figure 2010152381

図6の説明に戻って、ステップS260では、演算処理回路13aは、有効成分をカウ
ントするための変数rの値を1増やす。
Returning to the description of FIG. 6, in step S260, the arithmetic processing circuit 13a increases the value of the variable r for counting the active component by one.

次に、ステップS270では、演算処理回路13aは、制御変数iの値を1増やす。   Next, in step S270, the arithmetic processing circuit 13a increases the value of the control variable i by one.

次に、ステップS280では、演算処理回路13aは、制御変数iの値が(p+U)未
満であるか否か判定し、(p+U)未満である(YES)時は、ステップS250に戻っ
て処理を繰り返す。ここでUは定数である。制御変数iの値が(p+U)以上である(N
O)時は、ステップS290に進む。
Next, in step S280, the arithmetic processing circuit 13a determines whether or not the value of the control variable i is less than (p + U), and when it is less than (p + U) (YES), the process returns to step S250 to perform the process. repeat. Here, U is a constant. The value of the control variable i is (p + U) or more (N
O), the process proceeds to step S290.

そして、ステップS290では、演算処理回路13aは、有効成分カウント用の変数r
が定数V(ただしV≦U)以上であるか否かを判定し、V以上である(YES)時はステ
ップS300に進み、V未満である(NO)時はステップS310に進む。
In step S290, the arithmetic processing circuit 13a sets the effective component counting variable r.
Is greater than or equal to a constant V (where V ≦ U), the process proceeds to step S300 when it is greater than or equal to V (YES), and proceeds to step S310 when it is less than V (NO).

ここでV=Uとすると、有効な成分がU個連続して存在する時のみ安定成分と判定する
ことになる。ただし実際には、ある音程の音が一定時間持続して発音されている場合にお
いても、微小な周波数のゆらぎ(ビブラート)があるので、有効な成分が連続するとは限
らず、断続的に存在する場合もある。このため、VをUの80〜90%程度に設定する方
が良好な結果が得られる場合がある。
Here, when V = U, it is determined as a stable component only when U effective components exist continuously. However, in reality, even when a sound of a certain pitch is sounded for a certain period of time, there is a minute frequency fluctuation (vibrato), so that effective components are not always continuous and exist intermittently. In some cases. For this reason, a better result may be obtained when V is set to about 80 to 90% of U.

次に、ステップS300では、演算処理回路13aは、ステップS290での条件を満
たす周波数成分に関する情報を安定成分検出部13の安定成分メモリ13bに格納する。
具体的には図7に示す形式で(p,q)の組を安定成分メモリ13bに格納する。安定成
分メモリ13bは特徴量生成部14から参照できるようになっている。
Next, in step S300, the arithmetic processing circuit 13a stores information on the frequency component that satisfies the condition in step S290 in the stable component memory 13b of the stable component detecting unit 13.
Specifically, the set of (p, q) is stored in the stable component memory 13b in the format shown in FIG. The stable component memory 13b can be referred to from the feature value generation unit 14.

次に、ステップS310では、演算処理回路13aは、制御変数qの値を1増やす。   Next, in step S310, the arithmetic processing circuit 13a increases the value of the control variable q by one.

次に、ステップS320では、演算処理回路13aは、制御変数qの値がQ2以下であ
るか否かを判定し、Q2以下である(YES)時はステップS230に戻り処理を繰り返
す。Q2より大きい(NO)時はステップS330に進む。ここでQ2は、安定成分の対
象とする最大のバンドを表す定数である。
Next, in step S320, the arithmetic processing circuit 13a determines whether or not the value of the control variable q is equal to or less than Q2, and when it is equal to or less than Q2 (YES), the process returns to step S230 and repeats the process. When larger than Q2 (NO), the process proceeds to step S330. Here, Q2 is a constant representing the maximum band that is the target of the stable component.

そして、ステップS330では、演算処理回路13aは、制御変数pの値をPだけ増や
す。ここで、Pは通常1であるが、処理量を減らしたい場合にはPを2以上の値としても
良い。ただし、Pを2以上とする場合は、ステップS300における安定成分の格納時に
、(p,q)〜(p+P−1,q)の組をまとめて格納するようにする。
In step S330, the arithmetic processing circuit 13a increases the value of the control variable p by P. Here, P is normally 1, but P may be a value of 2 or more in order to reduce the processing amount. However, when P is set to 2 or more, the groups (p, q) to (p + P-1, q) are stored together when the stable components are stored in step S300.

そして、ステップS340では、演算処理回路13aは、制御変数pが(M−U)未満
であるか否か判定する。(M−U)未満である(YES)時はステップS220に戻って
処理を繰り返し、(M−U)以上である(NO)時は処理を終了する。
In step S340, the arithmetic processing circuit 13a determines whether or not the control variable p is less than (MU). When it is less than (MU) (YES), the process returns to step S220 to repeat the process, and when it is equal to or greater than (MU) (NO), the process is terminated.

このようにして安定成分検出部13の処理を行った後には、安定成分メモリ13bに安
定成分の情報が格納されている。
After the processing of the stable component detection unit 13 is performed in this manner, the stable component information is stored in the stable component memory 13b.

次に、特徴量生成部14の処理フローについて、図8に示すフローチャートに基づいて
説明する。特徴量生成部14では、所定の長さの区間毎に特徴量を生成する。本実施例で
は、フレームシフト長SのT倍を区間の長さとする(Tは1以上の整数)。
Next, the processing flow of the feature quantity generation unit 14 will be described based on the flowchart shown in FIG. The feature amount generation unit 14 generates a feature amount for each section having a predetermined length. In the present embodiment, T times the frame shift length S is set as the section length (T is an integer of 1 or more).

まず、ステップS510において、演算処理回路14aは、特徴量を生成する区間の先
頭を表す制御変数tを0にセットする。
First, in step S510, the arithmetic processing circuit 14a sets a control variable t representing the head of a section for generating a feature value to 0.

次に、ステップS520において、演算処理回路14aは、安定成分検出部13の安定
成分メモリ13bを参照し、区間t内の安定成分の数Eをカウントする。具体的には、安
定成分メモリ13bのpフィールドが、t≦p<t+Tを満たす安定成分の数をカウント
すれば良い。
Next, in step S520, the arithmetic processing circuit 14a refers to the stable component memory 13b of the stable component detector 13, and counts the number E of stable components in the section t. Specifically, the number of stable components that satisfy t ≦ p <t + T in the p field of the stable component memory 13b may be counted.

次に、ステップS530において、演算処理回路14aは、区間tに対する特徴量ou
t[t]として、安定成分の数E、あるいはEを全バンド数Qで割った値E/Q、あるい
はEを全バンド数Qと区間長Tとの積で割った値E/(QT)を出力する。
Next, in step S530, the arithmetic processing circuit 14a determines the feature amount ou for the section t.
As t [t], the number E of stable components, or E / Q obtained by dividing E by the total number of bands Q, or E / (QT) obtained by dividing E by the product of the total number of bands Q and the section length T. Is output.

次に、ステップS540において、演算処理回路14aは、制御変数tをTだけ増やす
Next, in step S540, the arithmetic processing circuit 14a increases the control variable t by T.

次に、ステップS550において、演算処理回路14aは、制御変数tがfloor(
M/T)未満であるか否かを判定する。ここでfloor関数は、小数点以下を切り捨て
た整数を返す関数である。floor(M/T)未満である(YES)時はステップS5
20に戻って処理を行い、floor(M/T)以上である(NO)時は特徴量生成部1
4の処理を終了する。
Next, in step S550, the arithmetic processing circuit 14a determines that the control variable t is floor (
It is determined whether it is less than (M / T). Here, the floor function is a function that returns an integer with the decimal part truncated. If it is less than floor (M / T) (YES), step S5
Returning to 20, the process is performed, and when it is equal to or greater than floor (M / T) (NO), the feature amount generation unit 1
The process of 4 is finished.

なお、特徴量生成部14で生成される特徴量の時系列データout[t]を時間方向に
平滑化して、より滑らかな出力を得るようにしても良い。
Note that the feature amount time-series data out [t] generated by the feature amount generation unit 14 may be smoothed in the time direction to obtain a smoother output.

このように実施例1の音響信号分析装置及び音響信号分析方法によれば、有音程楽器が
発音されていて一定の周波数が安定的に持続している場所と、打楽器等が発音されていて
一定の周波数が安定的に持続しない場所とを識別し、有音程楽器の時間的に安定した周波
数成分の個数を計算して音の厚みを表す特徴量を生成するので、楽曲が記録された音響信
号から音の厚みを直接反映した特徴量を精度良く生成することができる。また、楽音の基
音と倍音を識別分離しない方式で処理を行うため、簡易な計算で特徴量を生成することが
できる。
(実施例2)
本発明の音響信号分析装置、音響信号分析方法及び音響信号分析プログラムの実施例2
を図1、図9乃至図11に基づいて説明する。図1は本発明の実施例2の音響信号分析装
置の構成を示すブロック図、図9は実施例2における図1の安定成分検出部の処理フロー
を示すフローチャート、図10は実施例2における図1の安定成分検出部のデータ格納形
式を示す図、図11は実施例2における図1の特徴量生成部の処理フローを示すフローチ
ャートである。
As described above, according to the acoustic signal analyzing apparatus and the acoustic signal analyzing method of the first embodiment, a place where a musical instrument is sounded and a constant frequency is stably maintained, and a percussion instrument or the like is sounded and constant. The location of the frequency of the musical instrument is discriminated and the number of frequency components of the musical instrument that are stable over time is calculated to generate a feature value that represents the thickness of the sound. Therefore, it is possible to accurately generate a feature value that directly reflects the thickness of sound. In addition, since the processing is performed in a manner that does not discriminate and separate the fundamental tone and the harmonic overtone of the musical tone, it is possible to generate a feature value with a simple calculation.
(Example 2)
Embodiment 2 of the acoustic signal analysis device, acoustic signal analysis method, and acoustic signal analysis program of the present invention
Will be described with reference to FIGS. 1 and 9 to 11. FIG. 1 is a block diagram showing a configuration of an acoustic signal analyzer according to a second embodiment of the present invention, FIG. 9 is a flowchart showing a processing flow of the stable component detection unit of FIG. 1 in the second embodiment, and FIG. FIG. 11 is a flowchart showing a processing flow of the feature quantity generation unit of FIG. 1 in the second embodiment.

本発明の実施例2における音響信号分析装置1の構成は、図1に示すように、実施例1
と同様である。また、音響信号入力部11と周波数分析部12は、実施例1で説明したも
のと同様の動作を行う。
As shown in FIG. 1, the configuration of the acoustic signal analyzer 1 in the second embodiment of the present invention is the same as that in the first embodiment.
It is the same. The acoustic signal input unit 11 and the frequency analysis unit 12 perform the same operations as those described in the first embodiment.

次に、安定成分検出部13の処理フローについて、図9に示すフローチャートに基づい
て説明する。安定成分検出部13では、周波数分析部12に格納されている周波数成分c
[i][q](i=0〜M−1,q=0〜Q−1)を読み出して処理を行う。
Next, the processing flow of the stable component detection unit 13 will be described based on the flowchart shown in FIG. In the stable component detector 13, the frequency component c stored in the frequency analyzer 12
[I] [q] (i = 0 to M−1, q = 0 to Q−1) is read and processed.

まず、ステップS710では、演算処理回路13aは、探索を開始するフレーム番号を
表す制御変数pを0にセットする。
First, in step S710, the arithmetic processing circuit 13a sets a control variable p representing a frame number for starting a search to 0.

次に、ステップS720では、演算処理回路13aは、バンドを表す制御変数qを安定
成分の対象となる最小のバンドQ1(Q1は0以上Q未満の定数)にセットする。
Next, in step S720, the arithmetic processing circuit 13a sets the control variable q representing the band to the minimum band Q1 (Q1 is a constant greater than or equal to 0 and less than Q) that is the target of the stable component.

次に、ステップS730では、演算処理回路13aは、後述する条件に合致する周波数
成分を有効成分としてカウントするための変数rを0にセットする。
Next, in step S730, the arithmetic processing circuit 13a sets a variable r for counting a frequency component meeting a condition described later as an effective component to 0.

次に、ステップS740では、演算処理回路13aは、有効成分の強度の和を計算する
ための変数saを0にセットする。
Next, in step S740, the arithmetic processing circuit 13a sets a variable sa for calculating the sum of the strengths of the active components to 0.

次に、ステップS750では、演算処理回路13aは、フレーム番号を表す制御変数i
をpの値にセットする。
Next, in step S750, the arithmetic processing circuit 13a controls the control variable i representing the frame number.
Is set to the value of p.

次に、ステップS760では、演算処理回路13aは、周波数成分c[i][q]が有
効成分であるか否かチェックする。有効な成分である(YES)と判定した時は、ステッ
プS770に進み、有効な成分でない(NO)と判定した時はステップS790に進む。
ステップS760の具体的な方法は実施例1で説明した方法と同様である。
Next, in step S760, the arithmetic processing circuit 13a checks whether or not the frequency component c [i] [q] is an effective component. When it is determined that the component is an effective component (YES), the process proceeds to step S770, and when it is determined that the component is not an effective component (NO), the process proceeds to step S790.
The specific method of step S760 is the same as the method described in the first embodiment.

次に、ステップS770では、演算処理回路13aは、有効成分をカウントするための
変数rの値を1増やす。
Next, in step S770, the arithmetic processing circuit 13a increases the value of the variable r for counting active components by one.

次に、ステップS780では、演算処理回路13aは、有効成分の強度の和を計算する
ための変数saに周波数成分c[i][q]を加算する。
Next, in step S780, the arithmetic processing circuit 13a adds the frequency component c [i] [q] to the variable sa for calculating the sum of the intensities of the effective components.

次に、ステップS790では、演算処理回路13aは、制御変数iの値を1増やす。   Next, in step S790, the arithmetic processing circuit 13a increases the value of the control variable i by one.

次に。ステップS800では、演算処理回路13aは、制御変数iの値が(p+U)未
満であるか否かを判定し、(p+U)未満である(YES)時は、ステップS760に戻
って処理を繰り返す。ここでUは定数である。制御変数iの値が(p+U)以上である(
NO)時は、ステップS810に進む。
next. In step S800, the arithmetic processing circuit 13a determines whether or not the value of the control variable i is less than (p + U). If it is less than (p + U) (YES), the process returns to step S760 and repeats the process. Here, U is a constant. The value of the control variable i is (p + U) or more (
If NO, the process proceeds to step S810.

そして、ステップS810では、演算処理回路13aは、有効成分カウント用の変数r
が定数V(ただしV≦U)以上であるか否かを判定し、V以上である(YES)時はステ
ップS820に進み、V未満である(NO)時はステップS830に進む。
In step S810, the arithmetic processing circuit 13a sets the variable r for counting the effective component.
Is greater than or equal to a constant V (however V ≦ U), the process proceeds to step S820 when it is greater than or equal to V (YES), and proceeds to step S830 when it is less than V (NO).

ここでV=Uとすると、有効な成分がU個連続して存在する時のみ安定成分と判定する
ことになる。ただし実際には、ある音程の音が一定時間持続して発音されている場合にお
いても、微小な周波数のゆらぎ(ビブラート)があるので、有効な成分が連続するとは限
らず、断続的に存在する場合もある。このため、VをUの80〜90%程度に設定する方
が良好な結果が得られる場合がある。
Here, when V = U, it is determined as a stable component only when U effective components exist continuously. However, in reality, even when a sound of a certain pitch is sounded for a certain period of time, there is a minute frequency fluctuation (vibrato), so that effective components are not always continuous and exist intermittently. In some cases. For this reason, a better result may be obtained when V is set to about 80 to 90% of U.

次に、ステップS820では、演算処理回路13aは、図10に示す形式で(p,q,
sa)の組を安定成分メモリ13bに格納する。安定成分メモリ13bは特徴量生成部1
4から参照できるようになっている。
Next, in step S820, the arithmetic processing circuit 13a (p, q,
The set of sa) is stored in the stable component memory 13b. The stable component memory 13b is a feature quantity generation unit 1
4 can be referred to.

次に、ステップS830では、演算処理回路13aは、制御変数qの値を1増やす。   Next, in step S830, the arithmetic processing circuit 13a increases the value of the control variable q by one.

次に、ステップS840では、演算処理回路13aは、制御変数qの値がQ2以下であ
るか否かを判定し、Q2以下である(YES)時はステップS730に戻り処理を繰り返
す。Q2より大きい(NO)時はステップS850に進む。ここでQ2は、安定成分の対
象とする最大のバンドを表す定数である。
Next, in step S840, the arithmetic processing circuit 13a determines whether or not the value of the control variable q is equal to or less than Q2, and when it is equal to or less than Q2 (YES), the process returns to step S730 and repeats the process. When larger than Q2 (NO), the process proceeds to step S850. Here, Q2 is a constant representing the maximum band that is the target of the stable component.

そして、ステップS850では、演算処理回路13aは、制御変数pの値をPだけ増や
す。ここで、Pは通常1であるが、処理量を減らしたい場合にはPを2以上の値としても
良い。ただし、Pを2以上とする場合は、ステップS820における安定成分の格納時に
、(p,q,sa)のみでなく、(p,q,sa)〜(p+P−1,q,sa)の組をま
とめて格納するようにする。
In step S850, the arithmetic processing circuit 13a increases the value of the control variable p by P. Here, P is normally 1, but P may be a value of 2 or more in order to reduce the processing amount. However, when P is set to 2 or more, not only (p, q, sa) but also a set of (p, q, sa) to (p + P-1, q, sa) at the time of storing stable components in step S820. Are stored together.

そして、ステップS860では、演算処理回路13aは、制御変数pが(M−U)未満
であるか否かを判定する。(M−U)未満である(YES)時はステップS720に戻っ
て処理を繰り返し、(M−U)以上である(NO)時は処理を終了する。
In step S860, the arithmetic processing circuit 13a determines whether or not the control variable p is less than (MU). When it is less than (MU) (YES), the process returns to step S720 to repeat the process, and when it is equal to or greater than (MU) (NO), the process is terminated.

このようにして安定成分検出部13の処理を行った後には、安定成分メモリ13bに安
定成分の情報が格納されている。
After the processing of the stable component detection unit 13 is performed in this manner, the stable component information is stored in the stable component memory 13b.

次に、特徴量生成部14の処理フローについて、図11に示すフローチャートに基づい
て説明する。特徴量生成部14では、所定の長さの区間毎に特徴量を生成する。本実施例
では、フレームシフト長SのT倍を区間の長さとする(Tは1以上の整数)。
Next, the processing flow of the feature quantity generation unit 14 will be described based on the flowchart shown in FIG. The feature amount generation unit 14 generates a feature amount for each section having a predetermined length. In the present embodiment, T times the frame shift length S is set as the section length (T is an integer of 1 or more).

まず、ステップS910において、演算処理回路14aは、特徴量を生成する区間の先
頭を表す制御変数tを0にセットする。
First, in step S910, the arithmetic processing circuit 14a sets a control variable t representing the head of a section for generating a feature value to 0.

次に、ステップS920において、演算処理回路14aは、安定成分検出部13の安定
成分メモリ13bを参照し、区間t内の安定成分の強度の総和sumを計算する。具体的
には、安定成分メモリ13bのpフィールドが、t≦p<t+Tを満たす安定成分の集合
θ[t]を求め、(数式18)に示すように集合θ[t]に属するsaの総和を求めてs
umとすれば良い。
Next, in step S920, the arithmetic processing circuit 14a refers to the stable component memory 13b of the stable component detector 13, and calculates the sum sum of the strengths of the stable components in the section t. Specifically, the stable field set θ [t] where the p field of the stable component memory 13b satisfies t ≦ p <t + T is obtained, and the sum of sa belonging to the set θ [t] as shown in (Formula 18). In search of
um.

Figure 2010152381
Figure 2010152381

次に、ステップS930において、演算処理回路14aは、区間tに対する特徴量ou
t[t]として、sum、あるいはsum/Q、或いはsum/(QT)を出力する。
Next, in step S930, the arithmetic processing circuit 14a determines the feature amount ou for the section t.
Sum, or sum / Q, or sum / (QT) is output as t [t].

次に、ステップS940において、演算処理回路14aは、制御変数tをTだけ増やす
Next, in step S940, the arithmetic processing circuit 14a increases the control variable t by T.

次に、ステップS950において、演算処理回路14aは、制御変数tがfloor(
M/T)未満であるか否かを判定する。ここでfloor関数は、関数は小数点以下を切
り捨てた整数を返す関数である。floor(M/T)未満である(YES)時はステッ
プS920に戻って処理を行い、floor(M/T)以上である(NO)時は特徴量生
成部14の処理を終了する。
Next, in step S950, the arithmetic processing circuit 14a determines that the control variable t is floor (
It is determined whether it is less than (M / T). Here, the floor function is a function that returns an integer with the decimal part truncated. If it is less than floor (M / T) (YES), the process returns to step S920 to perform the process, and if it is greater than floor (M / T) (NO), the process of the feature quantity generation unit 14 is terminated.

なお、特徴量生成部14で生成される特徴量の時系列データout[t]を時間方向に
平滑化して、より滑らかな出力を得るようにしても良い。
Note that the feature amount time-series data out [t] generated by the feature amount generation unit 14 may be smoothed in the time direction to obtain a smoother output.

このように実施例2の音響信号分析装置及び音響信号分析方法は、安定成分検出部13
及び特徴量生成部14において、有音程楽器の時間的に安定した周波数成分の所定の区間
における安定成分の強度の総和を計算して音の厚みを表す特徴量を生成するもので、実施
例1と同様の効果が得られる。
As described above, the acoustic signal analysis device and the acoustic signal analysis method according to the second embodiment have the stable component detection unit 13.
The feature amount generation unit 14 calculates the sum of the strengths of the stable components in a predetermined section of the time-stable frequency component of the musical instrument and generates a feature amount representing the thickness of the sound. The same effect can be obtained.

なお、実施例1及び実施例2で説明した音響信号分析装置では、装置各部のそれぞれに
演算処理回路を設けたが、1つの演算処理回路が装置各部を制御する構成にすることも可
能である。
In the acoustic signal analysis apparatus described in the first and second embodiments, each processing unit is provided with an arithmetic processing circuit. However, a configuration in which one arithmetic processing circuit controls each unit is also possible. .

また、実施例1及び実施例2で説明した音響信号分析装置は、その装置構成の一部また
は全部をパーソナルコンピュータ等から構成することが可能である。この場合、上記で説
明した装置各部は、コンピュータのハードウェアもしくはソフトウェアによりその機能を
実現可能である。例えば、コンピュータに上記実施例1及び実施例2で説明した動作の一
部または全部を実行させるためのプログラムを、コンピュータのハードディスク装置、C
D−ROM等の記録媒体、もしくはダウンロードによりコンピュータのメモリ等に記憶さ
せて使用しても良い。
In addition, the acoustic signal analysis apparatus described in the first and second embodiments can be partially or entirely configured from a personal computer or the like. In this case, each part of the apparatus described above can realize the function by computer hardware or software. For example, a program for causing a computer to execute part or all of the operations described in the first and second embodiments is stored in a computer hard disk device, C
A recording medium such as a D-ROM or a computer memory or the like may be downloaded and used.

本発明は、楽曲の音響的な特徴を使って検索を行う楽曲検索装置に適用することができ
る。本発明で生成される特徴量を検索タグに適用することにより、「音の厚い楽曲を探し
たい」といった利用者ニーズに応えるような検索が可能になる。また、音の厚み感は楽曲
の雰囲気を決める重要なファクターなので、この特徴量を用いることにより、従来よりも
楽曲の雰囲気を正確に反映した楽曲の検索が可能になる。
The present invention can be applied to a music search apparatus that searches using the acoustic features of music. By applying the feature amount generated in the present invention to the search tag, it is possible to perform a search that meets the user needs such as “I want to search for a song with a thick sound”. In addition, since the sense of thickness of sound is an important factor that determines the atmosphere of music, the use of this feature makes it possible to search for music that accurately reflects the atmosphere of music.

また、本発明は音楽のジャンル、曲調に合わせて照明装置、空調装置、玩具、視覚エフ
ェクト等の画面表示などを制御する制御装置および音楽のジャンル、曲調に合わせて音質
、音量、音場などを制御するオーディオ装置に適用することができる。従来の制御装置や
オーディオ装置に比べて、楽曲の音の厚み感や、盛り上がり感をより精度良く捉えて制御
することが可能になる。
The present invention also provides a control device for controlling the screen display of lighting devices, air conditioners, toys, visual effects, etc. according to the music genre and music tone, and the sound quality, volume, sound field, etc. according to the music genre, music tone, etc. It can be applied to an audio device to be controlled. Compared to conventional control devices and audio devices, it is possible to control the sense of thickness and excitement of music more accurately.

1 音響信号分析装置
11 音響信号入力部
12 周波数分析部
13 安定成分検出部
14 特徴量生成部
11a〜14a 演算処理回路
11b A/D変換器
13b 安定成分メモリ
DESCRIPTION OF SYMBOLS 1 Acoustic signal analyzer 11 Acoustic signal input part 12 Frequency analysis part 13 Stable component detection part 14 Feature-value production | generation part 11a-14a Arithmetic processing circuit 11b A / D converter 13b Stable component memory

Claims (21)

楽曲に係る音響信号から前記楽曲の特徴を抽出する音響信号分析装置であって、
前記音響信号を周波数分析して、時間と周波数と成分強度とを対応させた各要素で構成される周波数成分データを生成する周波数分析手段と、
前記周波数成分データから前記成分強度が所定の値以上の要素を有効要素として検出し、前記周波数成分データの中で所定の時間内に同一の周波数の前記有効要素が所定の数以上存在する領域を安定成分として検出する安定成分検出手段と、
所定の区間における前記安定成分の強度の総和または前記安定成分の個数に基づいて前記所定の区間の特徴量を生成する特徴量生成手段とを備え、
前記安定成分検出手段は、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする音響信号分析装置。
An acoustic signal analyzer for extracting the characteristics of the music from the audio signal related to the music,
Frequency analysis means for performing frequency analysis on the acoustic signal and generating frequency component data composed of each element corresponding to time, frequency, and component intensity;
An element in which the component intensity is a predetermined value or more is detected as an effective element from the frequency component data, and a region in which a predetermined number or more of the effective elements having the same frequency are present within a predetermined time in the frequency component data Stable component detection means for detecting as a stable component;
Feature amount generating means for generating a feature amount of the predetermined section based on the total sum of the strengths of the stable components in the predetermined section or the number of the stable components;
The stable component detecting means adds a value obtained by adding, in the time direction, component intensities of other elements corresponding to the same frequency as the element to be determined as to whether the element is the effective element or a frequency in the vicinity of the same frequency. To calculate the predetermined value,
An acoustic signal analyzer characterized by that.
前記安定成分検出手段は、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、成分強度の平均値を算出し、その平均値に所定係数を乗じた値を前記所定の値として算出する、
ことを特徴とする請求項1に記載の音響信号分析装置。
The stable component detecting means adds a value obtained by adding, in the time direction, component intensities of other elements corresponding to the same frequency as the element to be determined as to whether the element is the effective element or a frequency in the vicinity of the same frequency. And calculating an average value of the component strengths and calculating a value obtained by multiplying the average value by a predetermined coefficient as the predetermined value.
The acoustic signal analyzing apparatus according to claim 1, wherein:
前記安定成分検出手段は、前記有効要素であるか否かの判定対象となる要素と時間的に近傍の他の要素であり、かつ前記判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする請求項1または請求項2に記載の音響信号分析装置。
The stable component detection means is another element that is temporally adjacent to the element that is the determination target of whether or not it is the effective element, and the same frequency as the determination target element, or the vicinity of the same frequency The predetermined value is calculated using a value obtained by adding the component intensities of other elements corresponding to the frequency in the time direction.
The acoustic signal analyzer according to claim 1 or 2, wherein
前記周波数分析手段は、周波数軸上に等間隔に存在する周波数、または平均律音階に対応した周波数、または平均律音階の半音よりも更に細かく分割された周波数のうちのいずれかの周波数に対応させた前記各要素を生成する、
ことを特徴とする請求項1〜請求項3のいずれか一項に記載の音響信号分析装置。
The frequency analysis means is made to correspond to any one of frequencies existing at equal intervals on the frequency axis, a frequency corresponding to an average temperament scale, or a frequency divided more finely than a semitone of the average temperament scale. Generate each element,
The acoustic signal analyzer according to any one of claims 1 to 3, wherein the acoustic signal analyzer is provided.
前記特徴量生成手段は、前記所定の区間における前記安定成分の個数、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする請求項1〜請求項4のいずれか一項に記載の音響信号分析装置。
The feature amount generation means calculates the number of the stable components in the predetermined section, the value obtained by dividing the number of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the number of the stable components. The feature amount is a value divided by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analyzer according to any one of claims 1 to 4, wherein the acoustic signal analyzer is provided.
前記特徴量生成手段は、前記所定の区間における前記安定成分の強度の総和、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする請求項1〜請求項4のいずれか一項に記載の音響信号分析装置。
The feature amount generation means is a sum of the strengths of the stable components in the predetermined section, or a value obtained by dividing the sum of the strengths of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the stable A value obtained by dividing the sum of the component intensities by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section is the feature amount.
The acoustic signal analyzer according to any one of claims 1 to 4, wherein the acoustic signal analyzer is provided.
前記特徴量生成手段は、時間方向に平滑化する処理を行って前記特徴量を生成する、
ことを特徴とする請求項1〜請求項6のいずれか一項に記載の音響信号分析装置。
The feature amount generation means generates the feature amount by performing a process of smoothing in the time direction.
The acoustic signal analyzer according to any one of claims 1 to 6, wherein
楽曲に係る音響信号から前記楽曲の特徴を抽出する音響信号分析装置が実行する音響信号分析方法であって、
前記音響信号を周波数分析して、時間と周波数と成分強度とを対応させた各要素で構成される周波数成分データを生成する周波数分析ステップと、
前記周波数成分データから前記成分強度が所定の値以上の要素を有効要素として検出し、前記周波数成分データの中で所定の時間内に同一の周波数の前記有効要素が所定の数以上存在する領域を安定成分として検出する安定成分検出ステップと、
所定の区間における前記安定成分の強度の総和または前記安定成分の個数に基づいて前記所定の区間の特徴量を生成する特徴量生成ステップとを備え、
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする音響信号分析方法。
An acoustic signal analysis method executed by an acoustic signal analysis device that extracts features of the music from an acoustic signal related to the music,
A frequency analysis step of performing frequency analysis on the acoustic signal and generating frequency component data composed of elements corresponding to time, frequency, and component intensity;
An element in which the component intensity is a predetermined value or more is detected as an effective element from the frequency component data, and a region in which a predetermined number or more of the effective elements having the same frequency are present within a predetermined time in the frequency component data A stable component detection step for detecting as a stable component;
A feature amount generation step of generating a feature amount of the predetermined section based on a sum of the strengths of the stable components in a predetermined section or the number of the stable components;
In the stable component detection step, a value obtained by adding in the time direction the component intensity of another element corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency. To calculate the predetermined value,
An acoustic signal analysis method characterized by the above.
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、成分強度の平均値を算出し、その平均値に所定係数を乗じた値を前記所定の値として算出する、
ことを特徴とする請求項8に記載の音響信号分析方法。
In the stable component detection step, a value obtained by adding in the time direction the component intensity of another element corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency. And calculating an average value of the component strengths and calculating a value obtained by multiplying the average value by a predetermined coefficient as the predetermined value.
The acoustic signal analysis method according to claim 8.
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と時間的に近傍の他の要素であり、かつ前記判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする請求項8または請求項9に記載の音響信号分析方法。
The stable component detection step is another element that is temporally adjacent to the element that is the determination target of whether it is the effective element, and is the same frequency as the determination target element, or the vicinity of the same frequency The predetermined value is calculated using a value obtained by adding the component intensities of other elements corresponding to the frequency in the time direction.
The method for analyzing an acoustic signal according to claim 8 or 9, wherein:
前記周波数分析ステップは、周波数軸上に等間隔に存在する周波数、または平均律音階に対応した周波数、または平均律音階の半音よりも更に細かく分割された周波数のうちのいずれかの周波数に対応させた前記各要素を生成する、
ことを特徴とする請求項8〜請求項10のいずれか一項に記載の音響信号分析方法。
The frequency analysis step is made to correspond to any one of a frequency that exists at equal intervals on the frequency axis, a frequency corresponding to an average temperament scale, or a frequency divided more finely than a semitone of the average temperament scale. Generate each element,
The acoustic signal analysis method according to any one of claims 8 to 10, wherein:
前記特徴量生成ステップは、前記所定の区間における前記安定成分の個数、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする請求項8〜請求項11のいずれか一項に記載の音響信号分析方法。
In the feature amount generation step, the number of the stable components in the predetermined section, the value obtained by dividing the number of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the number of the stable components is calculated. The feature amount is a value divided by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis method according to any one of claims 8 to 11, wherein:
前記特徴量生成ステップは、前記所定の区間における前記安定成分の強度の総和、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする請求項8〜請求項11のいずれか一項に記載の音響信号分析方法。
In the feature amount generation step, the sum of the strengths of the stable components in the predetermined section, or a value obtained by dividing the sum of the strengths of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the stable A value obtained by dividing the sum of the component intensities by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section is the feature amount.
The acoustic signal analysis method according to any one of claims 8 to 11, wherein:
前記特徴量生成ステップは、時間方向に平滑化する処理を行って前記特徴量を生成する、
ことを特徴とする請求項8〜請求項13のいずれか一項に記載の音響信号分析方法。
The feature amount generation step generates the feature amount by performing a process of smoothing in the time direction.
The acoustic signal analysis method according to any one of claims 8 to 13, wherein the method is an acoustic signal analysis method.
楽曲に係る音響信号から前記楽曲の特徴を抽出する音響信号分析プログラムであって、
前記音響信号を周波数分析して、時間と周波数と成分強度とを対応させた各要素で構成される周波数成分データを生成する周波数分析ステップと、
前記周波数成分データから前記成分強度が所定の値以上の要素を有効要素として検出し、前記周波数成分データの中で所定の時間内に同一の周波数の前記有効要素が所定の数以上存在する領域を安定成分として検出する安定成分検出ステップと、
所定の区間における前記安定成分の強度の総和または前記安定成分の個数に基づいて前記所定の区間の特徴量を生成する特徴量生成ステップとをコンピュータに実行させ、
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする音響信号分析プログラム。
An acoustic signal analysis program for extracting features of the music from an audio signal related to the music,
A frequency analysis step of performing frequency analysis on the acoustic signal and generating frequency component data composed of elements corresponding to time, frequency, and component intensity;
An element in which the component intensity is a predetermined value or more is detected as an effective element from the frequency component data, and a region in which a predetermined number or more of the effective elements having the same frequency are present within a predetermined time in the frequency component data A stable component detection step for detecting as a stable component;
Causing the computer to execute a feature amount generation step of generating a feature amount of the predetermined section based on the total sum of the strengths of the stable components in the predetermined section or the number of the stable components;
In the stable component detection step, a value obtained by adding in the time direction the component intensity of another element corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency. To calculate the predetermined value,
An acoustic signal analysis program characterized by that.
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、成分強度の平均値を算出し、その平均値に所定係数を乗じた値を前記所定の値として算出する、
ことを特徴とする請求項15に記載の音響信号分析プログラム。
In the stable component detection step, a value obtained by adding in the time direction the component intensity of another element corresponding to the same frequency as the element to be determined whether or not it is the effective element or a frequency in the vicinity of the same frequency. And calculating an average value of the component strengths and calculating a value obtained by multiplying the average value by a predetermined coefficient as the predetermined value.
The acoustic signal analysis program according to claim 15.
前記安定成分検出ステップは、前記有効要素であるか否かの判定対象となる要素と時間的に近傍の他の要素であり、かつ前記判定対象となる要素と同じ周波数、または前記同じ周波数の近傍の周波数に対応する他の要素の成分強度を時間方向に加算した値を用いて、前記所定の値を算出する、
ことを特徴とする請求項15または請求項16に記載の音響信号分析プログラム。
The stable component detection step is another element that is temporally adjacent to the element that is the determination target of whether it is the effective element, and is the same frequency as the determination target element, or the vicinity of the same frequency The predetermined value is calculated using a value obtained by adding the component intensities of other elements corresponding to the frequency in the time direction.
The acoustic signal analysis program according to claim 15 or 16, characterized in that
前記周波数分析ステップは、周波数軸上に等間隔に存在する周波数、または平均律音階に対応した周波数、または平均律音階の半音よりも更に細かく分割された周波数のうちのいずれかの周波数に対応させた前記各要素を生成する、
ことを特徴とする請求項15〜請求項17のいずれか一項に記載の音響信号分析プログラム。
The frequency analysis step is made to correspond to any one of a frequency that exists at equal intervals on the frequency axis, a frequency corresponding to an average temperament scale, or a frequency divided more finely than a semitone of the average temperament scale. Generate each element,
The acoustic signal analysis program according to any one of claims 15 to 17, wherein the program is an acoustic signal analysis program.
前記特徴量生成ステップは、前記所定の区間における前記安定成分の個数、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の個数を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする請求項15〜請求項18のいずれか一項に記載の音響信号分析プログラム。
In the feature amount generation step, the number of the stable components in the predetermined section, the value obtained by dividing the number of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the number of the stable components is calculated. The feature amount is a value divided by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section.
The acoustic signal analysis program according to any one of claims 15 to 18, wherein the program is an acoustic signal analysis program.
前記特徴量生成ステップは、前記所定の区間における前記安定成分の強度の総和、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数で割った値、または前記安定成分の強度の総和を前記周波数データを構成する要素における周波数の種類の数と前記所定の区間の長さとの積で割った値を前記特徴量とする、
ことを特徴とする請求項15〜請求項18のいずれか一項に記載の音響信号分析プログラム。
In the feature amount generation step, the sum of the strengths of the stable components in the predetermined section, or a value obtained by dividing the sum of the strengths of the stable components by the number of types of frequencies in the elements constituting the frequency data, or the stable A value obtained by dividing the sum of the component intensities by the product of the number of types of frequencies in the elements constituting the frequency data and the length of the predetermined section is the feature amount.
The acoustic signal analysis program according to any one of claims 15 to 18, wherein the program is an acoustic signal analysis program.
前記特徴量生成ステップは、時間方向に平滑化する処理を行って前記特徴量を生成する、
ことを特徴とする請求項15〜請求項20のいずれか一項に記載の音響信号分析プログラム。
The feature amount generation step generates the feature amount by performing a process of smoothing in the time direction.
The acoustic signal analysis program according to any one of claims 15 to 20, wherein the program is an acoustic signal analysis program.
JP2010023988A 2010-02-05 2010-02-05 Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program Active JP4930608B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010023988A JP4930608B2 (en) 2010-02-05 2010-02-05 Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010023988A JP4930608B2 (en) 2010-02-05 2010-02-05 Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2004358258A Division JP4483561B2 (en) 2004-12-10 2004-12-10 Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program

Publications (2)

Publication Number Publication Date
JP2010152381A true JP2010152381A (en) 2010-07-08
JP4930608B2 JP4930608B2 (en) 2012-05-16

Family

ID=42571450

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010023988A Active JP4930608B2 (en) 2010-02-05 2010-02-05 Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program

Country Status (1)

Country Link
JP (1) JP4930608B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015129868A (en) * 2014-01-08 2015-07-16 Psソリューションズ株式会社 Acoustic signal detection system, acoustic signal detection method, acoustic signal detection server, acoustic signal detection device, and acoustic signal detection program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01158496A (en) * 1987-09-30 1989-06-21 Agency Of Ind Science & Technol System for extracting characteristic of voice
JP2002215142A (en) * 2001-01-17 2002-07-31 Dainippon Printing Co Ltd Encoding method for acoustic signal
JP2003162282A (en) * 2001-11-28 2003-06-06 Yamaha Corp Performance information generation method and device, and program
JP2004184510A (en) * 2002-11-29 2004-07-02 Pioneer Electronic Corp Device and method for preparing musical data

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01158496A (en) * 1987-09-30 1989-06-21 Agency Of Ind Science & Technol System for extracting characteristic of voice
JP2002215142A (en) * 2001-01-17 2002-07-31 Dainippon Printing Co Ltd Encoding method for acoustic signal
JP2003162282A (en) * 2001-11-28 2003-06-06 Yamaha Corp Performance information generation method and device, and program
JP2004184510A (en) * 2002-11-29 2004-07-02 Pioneer Electronic Corp Device and method for preparing musical data

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015129868A (en) * 2014-01-08 2015-07-16 Psソリューションズ株式会社 Acoustic signal detection system, acoustic signal detection method, acoustic signal detection server, acoustic signal detection device, and acoustic signal detection program

Also Published As

Publication number Publication date
JP4930608B2 (en) 2012-05-16

Similar Documents

Publication Publication Date Title
Bittner et al. Deep Salience Representations for F0 Estimation in Polyphonic Music.
JP4665836B2 (en) Music classification device, music classification method, and music classification program
De La Cuadra et al. Efficient pitch detection techniques for interactive music
US7582824B2 (en) Tempo detection apparatus, chord-name detection apparatus, and programs therefor
US9672800B2 (en) Automatic composer
JP4916947B2 (en) Rhythm detection device and computer program for rhythm detection
JP2008040284A (en) Tempo detector and computer program for tempo detection
WO2022095656A1 (en) Audio processing method and apparatus, and device and medium
US20110011247A1 (en) Musical composition discrimination apparatus, musical composition discrimination method, musical composition discrimination program and recording medium
JP5229998B2 (en) Code name detection device and code name detection program
JP2008015214A (en) Singing skill evaluation method and karaoke machine
JP6123574B2 (en) Code extraction apparatus, method, and program
JP4483561B2 (en) Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program
Dixon et al. Estimation of harpsichord inharmonicity and temperament from musical recordings
JP6288197B2 (en) Evaluation apparatus and program
JP6102076B2 (en) Evaluation device
JP4930608B2 (en) Acoustic signal analysis apparatus, acoustic signal analysis method, and acoustic signal analysis program
JP4932614B2 (en) Code name detection device and code name detection program
JP2007298607A (en) Device, method, and program for analyzing sound signal
JP5005445B2 (en) Code name detection device and code name detection program
JP4271667B2 (en) Karaoke scoring system for scoring duet synchronization
JP2016184112A (en) Ensemble evaluation apparatus
Orio A model for human-computer interaction based on the recognition of musical gestures
JP5618743B2 (en) Singing voice evaluation device
JP5585320B2 (en) Singing voice evaluation device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100730

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110920

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20111012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120130

R150 Certificate of patent or registration of utility model

Ref document number: 4930608

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150224

Year of fee payment: 3