JP7105880B2 - ビート音発生タイミング生成装置 - Google Patents

ビート音発生タイミング生成装置 Download PDF

Info

Publication number
JP7105880B2
JP7105880B2 JP2020520972A JP2020520972A JP7105880B2 JP 7105880 B2 JP7105880 B2 JP 7105880B2 JP 2020520972 A JP2020520972 A JP 2020520972A JP 2020520972 A JP2020520972 A JP 2020520972A JP 7105880 B2 JP7105880 B2 JP 7105880B2
Authority
JP
Japan
Prior art keywords
data
beat
value
timing
period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020520972A
Other languages
English (en)
Other versions
JPWO2019224990A1 (ja
Inventor
智 日下部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Roland Corp
Original Assignee
Roland Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Roland Corp filed Critical Roland Corp
Publication of JPWO2019224990A1 publication Critical patent/JPWO2019224990A1/ja
Application granted granted Critical
Publication of JP7105880B2 publication Critical patent/JP7105880B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/36Accompaniment arrangements
    • G10H1/40Rhythm
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10GREPRESENTATION OF MUSIC; RECORDING MUSIC IN NOTATION FORM; ACCESSORIES FOR MUSIC OR MUSICAL INSTRUMENTS NOT OTHERWISE PROVIDED FOR, e.g. SUPPORTS
    • G10G3/00Recording music in notation form, e.g. recording the mechanical operation of a musical instrument
    • G10G3/04Recording music in notation form, e.g. recording the mechanical operation of a musical instrument using electrical means
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/076Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for extraction of timing, tempo; Beat detection
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/375Tempo or beat alterations; Music timing control
    • G10H2210/391Automatic tempo adjustment, correction or control
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2250/00Aspects of algorithms or signal processing methods without intrinsic musical character, yet specifically adapted for or used in electrophonic musical processing
    • G10H2250/315Sound category-dependent sound synthesis processes [Gensound] for musical use; Sound category-specific synthesis-controlling parameters or control means therefor
    • G10H2250/365Gensound applause, e.g. handclapping; Cheering; Booing

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Auxiliary Devices For Music (AREA)
  • Electrophonic Musical Instruments (AREA)

Description

本発明は、ビート音発生タイミング生成装置、及びビート音発生タイミング生成方法に関する。
従来、演奏テンポを反映したテンポ情報を出力する装置がある(例えば、特許文献1)。また、オーディオ信号に含まれる楽曲に同期したテンポクロックを生成することを可能にする技術がある(例えば、特許文献2、3参照)。また、入力音響信号のリズムパターンを決定する技術がある(例えば、特許文献4)。
特開2010-055076号公報 特開2009-092681号公報 特開2009-098262号公報 特開2008-275975号公報
楽曲の演奏や歌唱の場で、楽曲のリズムに合わせて聴取者が手拍子を加えることがしばしば行われる。このような手拍子を楽曲の演奏又は再生中に自動的に(人手に依らず)付加することが考えられている。ところが、従来技術は、テンポ情報やテンポクロックの生成、或いはリズムパターンの決定に用いられるもので、手拍子の自動出力については想定されておらず、大量且つ複雑な計算を要するものであった。
本発明は、上記問題に鑑みなされたものであり、少ない計算量でビートのタイミングを発生させることのできるビート音発生タイミング生成装置、及びビート音発生タイミング生成方法を提供することを目的とする。
本発明の一側面は、入力された楽曲のデータから、前記楽曲のビートを司るタイミング情報と、そのタイミングにおけるパワーを示す複数の強度データを生成する生成部と、前記複数の強度データを用いて、前記楽曲のビートの周期及び位相を算出する算出部と、前記ビートの周期及び位相に基づいて、ビート音の発生タイミングを検出する検出部とを含むビート音発生タイミング生成装置である。
ビート音発生タイミング生成装置は、前記ビート音の発生タイミングに従って前記ビート音の再生処理を行う再生処理部をさらに含んでもよい。
ビート音発生タイミング生成装置における前記算出部は、前記複数の強度データが示す前記タイミングに基づいて前記複数の強度データについてのBPM(Beats Per Minute)を定め、前記BPMの一周期を前記ビートの周期として算出するともに、前記BPMを示す正弦波における前記ビート音の発生タイミングの相対位置を前記ビートの位相として算出し、前記検出部は、前記ビートの周期及び前記ビートの位相を示すカウント値を求め、サンプリングレートの1サンプル毎にインクリメントを行うカウンタを用いて前記カウント値の計時を行い、前記カウンタの値が前記カウント値に達したタイミングを前記ビート音の発生タイミングとして検出する構成を採用してもよい。
ビート音発生タイミング生成装置における前記算出部は、前記複数の強度データの夫々と複数個のBPMの夫々について行うフーリエ変換によって得られたフーリエ変換データの値が最大となるときのBPMの一周期を前記ビートの周期として算出する構成を採用してもよい。
ビート音発生タイミング生成装置において、前記複数の強度データの夫々と前記複数個のBPMのうちの第1のBPMについて前記フーリエ変換データを得る場合に、前記算出部は、前記第1のBPMの振動数の整数倍の振動数を有する少なくとも1つの第2のBPMについての前記フーリエ変換データを取得し、前記第1のBPMを用いて算出した前記フーリエ変換データの値と、前記第2のBPMを用いて算出した前記フーリエ変換データの値とを、所定の比率で足し合わせた値を、前記第1のBPMについての前記フーリエ変換データの値として用いる構成を採用してもよい。
ビート音発生タイミング生成装置において、前記生成部は、前記入力された楽曲のデータから所定数の連続する音のサンプルからなるフレームを取得し、前記フレーム中のサンプルを間引きし、間引きしたサンプルについて高速フーリエ変換を行い、高速フーリエ変換によって得られた周波数バンド幅毎のパワーの総和を示すデータを求める処理を所定間隔で行う一方で、自身より大きい値を示す前記パワーの総和を示すデータが出現しない状態が所定時間継続した場合の前記パワーの総和を示すデータを前記強度データとして抽出する構成を採用してもよい。
他の側面は、入力された楽曲のデータから、前記楽曲のビートを司るタイミング情報と、そのタイミングにおけるパワーを示す複数の強度データを生成し、前記複数の強度データを用いて、前記楽曲のビートの周期及び位相を算出し、前記ビートの周期及び位相に基づいて、ビート音の発生タイミングを検出することを含むビート音発生タイミング生成方法である。
図1は、ビート音出力タイミング発生装置の構成例を示す。 図2は、制御部の構成例を示す。 図3は、生成部の処理例を示すフローチャートである。 図4(A)は、生成部に入力される12秒分の楽曲のディジタル信号(楽曲信号ともいう)の例を示し、図4(B)は、図4(A)の楽曲信号から生成されたSpxデータの例を示す。 図5は、算出部の処理例を示すフローチャートである。 図6は、Spxデータとフーリエ変換に用いるBPMの正弦波の例を示す図である。 図7は、BPMを示す余弦波とビートの発生タイミングとの関係を図示する。 図8は、検出部104によるビート発生タイミングの検出処理の例を示すフローチャートである。 図9は、1倍(基本ビート)と2倍ビートのスペクトル強度を例示する図である。
以下、図面を参照して、実施形態に係るビート音発生タイミング生成装置及びビート音発生タイミング生成方法について説明する。実施形態の構成は例示である。実施形態の構成に限定されない。
図1は、ビート音発生タイミング生成装置の構成例を示す。ビート音発生タイミング生成装置1は、バス3に接続された、CPU10と、ROM(Read Only Memory)11と、RAM(Random Access Memory)12と、ハードディスクドライブ(HDD)13と、入力装置14と、表示装置15と、通信インタフェース(通信I/F)16とを含む。ビート音発生タイミング生成装置1は、さらに、バス3に接続された、ディジタルアナログ変換器(D/A)17と、アナログディジタル変換器(A/D)20とを含む。D/A17にはアンプ(AMP)18が接続され、AMP18にはスピーカ19が接続されている。A/D20には、マイクロフォン(MIC)21が接続されている。
ROM11は、CPU10によって実行される様々なプログラムやプログラムの実行に際して使用されるデータを記憶している。RAM12は、プログラムの展開領域、CPU10の作業領域、データの記憶領域などとして使用される。HDD13は、プログラムやプログラムの実行に際して使用されるデータ、楽曲データなどを記憶する。楽曲データは、例えばMP3やWAVE形式などの所定の音声ファイルのフォーマットを有する音データである。音声ファイルのフォーマット形式は、MP3やWAVE形式以外でもよい。ROM11及びRAM12は、主記憶装置の一例であり、HDD13は補助記憶装置の一例である。主記憶装置及び補助記憶装置は、記憶装置又は記憶媒体の一例である。
入力装置14は、キー、ボタン、タッチパネルなどであり、情報(指示や命令を含む)の入力に使用される。表示装置15は、情報の表示に使用される。通信I/F16は、ネットワーク2に接続されており、通信に係る処理を司る。CPU10は、例えば入力装置14から入力された指示に応じて、ネットワーク2から所望の楽曲データ(楽曲信号)をダウンロードし、HDD13に記憶することができる。
CPU10は、プログラムの実行によって、様々な処理を行う。処理は、上記した楽曲ダウンロードに係る処理の他、楽曲の再生に係る処理、楽曲のビート音発生タイミングを生成する処理、ビート音発生タイミングに合わせてビート音(例えば、クラップ音、特にハンドクラップ音など)を出力する処理などを含む。
例えば、CPU10は、楽曲データを再生する場合、プログラムの実行によって、HDD13からRAM12に読み出した楽曲データから楽曲の音を表すディジタルデータ(ディジタル信号)を生成し、D/A17に供給する。D/A17は、音を表すディジタルデータをディジタルアナログ変換によってアナログ信号に変換し、AMP18に出力する。AMP18によって振幅が調整されたアナログ信号はスピーカ19から出力される。
MIC21は、例えば、スピーカ19から出力される楽曲の音を伴奏(カラオケ)とする歌唱音などを集音する。MIC21で集音されたアナログの音声信号は、AMP18で振幅を増幅され、スピーカ19から増幅される。このとき、歌唱音は楽曲音とミキシングされても、それぞれ別個のスピーカから出力されてもよい。
また、MIC21は、楽器を用いた演奏(いわゆる生演奏)による音声や外部機器からの楽曲の再生音声を集音して音を拡大(スピーカ19から出力)したり、録音したりする場合にも使用される。例えば、MIC21で集音された演奏音の信号は、A/D20によってディジタル信号に変換され、CPU10に渡される。CPU10は、演奏音の信号を音声ファイルのフォーマットに従った形式に変換して音声ファイルを生成し、HDD13に記憶する。MIC21で集音される楽曲の音信号について、ビート音発生タイミングの生成処理が行われてもよい。
なお、ビート音発生タイミング生成装置1がコンパクトディスク(CD)などのディスク型記録媒体のドライブ装置(図示せず)を含んでもよい。この場合、ドライブ装置を用いてディスク型記録媒体から読み出された楽曲の音を表すディジタル信号がD/A17に供給され、楽曲音が再生されてもよい。この場合、ディスク型記録媒体から読み出された楽曲の音信号について、ビート音発生タイミングの生成処理が行われてもよい。
図2は、制御部100の構成例を示す。CPU10は、プログラムの実行によって、図2に示すような、時間スパースデータ(「Spxデータ」と表記:強度データに相当)の生成部101、バッファ102、周期データ及び位相データの算出部103、ビートの発生タイミングの検出部104、及びビート音の再生処理部105を含んだ制御部100として動作する。バッファ102は、例えば、RAM12やHDD13の所定の記憶領域に設けられる。
Spxデータの生成部101は、楽曲の音を表すディジタルデータを用いて、Spxデータを生成して出力する。バッファ102は、少なくとも所定時間分のSpxデータ(複数の強度データに相当)を蓄積する。本実施形態では、所定時間として6秒を例示するが、所定時間は6秒より長くても短くてもよい。算出部103は、バッファ102に蓄積された所定時間分のSpxデータの集合を用いて、ビートの周期データ及び位相データを算出する。発生タイミングの検出部104は、周期データ及び位相データを用いてビート音の発生タイミングを検出する。再生処理部105は、発生タイミングに合わせたビート音の再生処理を行う。
以下、制御部100をなす各部における処理の詳細を説明する。
<Spxデータの生成>
生成部101によるSpxデータの生成について説明する。生成部101には、再生に係る楽曲データ(音声出力のためにD/A17に送られたデータ)の音を表すディジタル信号が入力される。音を表すディジタル信号(楽曲信号)は、HDD13に記憶された楽曲データの再生処理によるものでも、MIC20で集音された音声信号のA/D変換によって得られたものでもよい。
音を表すディジタルデータは、RAM12に記憶され、生成部101の処理に使用される。音を表すディジタルデータは、アナログ信号から所定のサンプリングレートに従って採取されたサンプル(標本)データ(通常、アナログ信号の電圧値)の集合である。本実施形態では、一例として、サンプリングレートは44100Hzであるとする。但し、サンプリングレートは、所望のFFT解像度が得られる限りにおいて適宜変更可能である。
図3は、生成部101の処理例を示すフローチャートである。生成部101には、楽音出力(再生)のためにD/A17へ送られた、楽曲の音を表すディジタルデータ(ディジタル信号)が入力される。生成部101は、入力されたディジタルデータから、所定個数のサンプル(「フレーム」と呼ぶ)を取得する(S01)。所定個数は、本実施形態では1024であるがこれより多くても少なくてもよい。サンプルの取得は、所定間隔で行われる。所定間隔は、例えば5msであるが、これより多くても少なくてもよい。
S02では、生成部101は、間引き処理を行う。すなわち、生成部101は、1024個のサンプルに対する1/4間引きを行って、256個のサンプルを得る。間引きは1/4間引き以外でもよい。S03では、生成部101は、256個のサンプルに対して高速フーリエ変換(FFT)を施し、FFTの結果(周波数バンド幅毎のパワー)から、フレーム単位でのパワーの大きさを示すデータ(パワーデータという)を得る(S04)。なお、パワーは振幅の2乗で表されることから、「パワー」との概念には振幅も含まれる。
パワーデータは、例えば、256個のサンプルに対するFFTの実施によって得られるパワーの総和である。但し、今回のフレームの各周波数バンド幅のパワーから前回のフレームにおける、対応するバンド幅のパワーを差し引き、その値が正である(パワーが増加している)場合にはそのパワーの値を総和計算のために残し、そうでない(差し引いた値が負である(パワーが減少している))値は無視してもよい。パワーの増加分が大きいところがビートである可能性が高いからである。
また、他のフレームとの比較対象が同じである限りにおいて、総和の算出に用いる値は、今回のフレームのパワーの総和であっても、今回のフレームのパワーから前回のフレームのパワーを引いた値が正の値のパワーの総和であっても、今回のフレームのパワーから前回のフレームのパワーを差し引いた差分であってもよい。また、FFTの実施によって得られるパワースペクトルにおいて、所定の周波数より低い周波数についてのみ、上記した差分の算出が行われてもよい。所定の周波数以上の周波数については、ローパスフィルタを用いてカットしてもよい。
パワーデータは、フレーム単位で、RAM12やHDD13に記憶される。生成部101は、フレーム単位のパワーデータが作成される毎に、パワーの総和(ピーク値)の大きさを比較して大きい方を残し、小さい方は破棄する(S05)。生成部101は、S05で残した総和より大きい総和が所定時間出現していないか否かを判定する(S06)。所定時間は例えば100msであるが、100msより大きくても小さくてもよい。より大きい総和を示すデータが出現していない状態が所定時間続いた場合に、生成部101は、そのパワーの総和を示すデータをSpxデータとして抽出し、バッファ102に記憶(保存)する(S07)。このように、Spxデータは、楽音を示すディジタルデータのピーク値を100ms間隔で抽出したデータであり、楽曲のビートを司るタイミングを示す情報(タイミング情報)と、そのタイミングにおけるパワーとを示すデータである。Spxデータは、バッファ102に複数個蓄積される。生成部101は、S01からS06までの処理を繰り返し行う。
図4(A)は、生成部101に入力される12秒分の楽曲のディジタル信号であり、図4(B)は、図4(A)に示した楽曲のディジタル信号から生成されたSpxデータの例を示す。図4(B)に示すグラフの横軸は時間で、縦軸はパワーである。このグラフにおいて、上端に黒丸のついた縦線が、図4(A)に示した楽曲のディジタル信号から得られた個々のSpxデータを示し、横軸(時間軸)の位置がタイミングを示し、縦線の長さがパワーを示す。Spxデータは、100ms間隔で生成される場合、1秒間に10個程度生成される。
<周期データ及び位相データの算出>
図5は、算出部103の処理例を示すフローチャートである。S10において、生成部101にて生成された新たなSpxデータがバッファ102に到来し、蓄積される。S11において、バッファ102に蓄積されたSpxデータのうち所定時間分のSpxデータ(複数の強度データに相当)がバッファ102から取得される。所定時間は、例えば6秒間であるが、ビートの周期及び位相を得られる限りにおいて6秒より長くても短くてもよい。以降のS12~S16の処理は、S11で取得した6秒分のSpxデータを用いて行われる処理である。S12では、6秒分のSpxデータについて、所定個数(例えば20個)のBPM(Beats Per Minute:テンポ(リズムの速さ)を示す)に対応したフーリエ変換を施し、ビートの周期(BPMの一周期)とビートの位相(ビート音の発生タイミング)とを算出する。
具体的に説明すると、6秒分のSpxデータについて所定個数、例えばBPM86~168に対応する20個、のBPMに対応する周波数(BPM周波数)f = {86,90,94,…,168}/60 について、Exp(2πjft)(BPM周波数で振動する正弦波、振動数に関係無く振幅は同じ)に対する積和をとる。すなわちフーリエ変換を行う。フーリエ変換の結果をフーリエ変換データc(i) (i=0,1, 2, 3,…,19)とする。
図6は、Spxデータとフーリエ変換に用いるBPM周波数を有する正弦波の例を示す図である。図6の例では、BPM72の正弦波(実線で示す)と、BPM88の正弦波(破線で示す)と、BPM104の正弦波(一点鎖線で示す)とが例示されている。フーリエ変換データc(i)の値は以下の式1により求められる。なお、BPMの値及びその個数は適宜変更することができる。
Figure 0007105880000001
ここに、式1におけるt(k)は、Spxデータの存在する過去6秒のうちの時間位置であり、単位は秒である。kはそのSpxデータのインデックスであり、k=1,...,Mである(MはSpxデータの個数)。また、x(t(k))は、その瞬間のSpxデータの値(ピーク値の大きさ)を示す。jは虚数単位(j=-1)である。f(i)はBPM周波数であり、例えばBPM120は2.0Hzである。
算出部103は、c(i)=(c0, 1, c2, c3, ... ,c19)のうち、その絶対値が最大値に対応するBPMをSpxデータ(ビート)のBPMに決定する(S13)。また、その位相値(Phase)φ= Arg(c(i))[rad] を、6秒間分のSpxデータについてのビートタイミングとする。 ビートタイミングは、周期的に到来するビートの発生タイミングに対する相対的な位置を示す。
位相値φは複素数の偏角であり、c=cre+jcim(creは実部でcimは虚部)とした場合に、以下の式2により得られる。
Figure 0007105880000002
位相値φの算出によって、BPMの正弦波に対するビートの発生タイミングの相対位置、すなわち、BPMの一周期に対してビート発生タイミングがどのくらい遅れているかがわかる。
図7は、BPMを示す余弦波(EXP(2πjft)の実部)と、ビートの発生タイミングとの関係を図示する。図7に示す例では、Spxデータの個数が4であり、そのBPMが72である。図7に示すSpxデータの夫々は、式2を用いて求められるc(i)の値(位相)であり、ビートの発生タイミングを示す。Spxデータ間がビート発生タイミングの間隔をなす。図7に示す例では、位相値φの計算によって得られる、BPM周波数を有する余弦波からπ/2遅れたタイミングがビートの発生タイミングとなる。算出部103は、BPMの一周期のサンプル数を周期データとする(S15)。
例えば、BPMが104であり、サンプリングレートが44100Hzの場合では、周期データ(サンプル数)は、44100[個]/(104/60)=25442[個]となる。また、周期データが25442[個]の場合において、位相値φが0.34[rad]であった場合、位相データ(サンプル数)は、25442[個]×0.34[rad]/2π[rad]=1377[個]となる。そして、算出部103は、周期データ及び位相データを出力する(S16)。なお、算出部103は、6秒分のSpxデータが蓄積されるごとに、S11~S16の処理を繰り返し行う。これにより、楽曲のリズムの変更に追従することができる。
<ビート発生タイミングの検出>
図8は、検出部104によるビート発生タイミングの検出処理の例を示すフローチャートである。S21において、検出部104は、新しい周期データ及び位相データが算出部103から提供されたかを判定する。新しい周期データ及び位相データが提供された場合には、処理がS22に進み、そうでない場合には、処理がS23に進む。
S22では、検出部104は、新しい周期データ及び位相データをビート発生タイミングの検出に採用し、古い周期データ及び位相データは破棄する。このとき、Spxデータの作成時に、Spxデータをなすフレームのサンプルは、100ms遅延が与えられた状態となっているため、ここで、演奏又は再生中の楽曲とリズムと、後述するハンドクラップ音とが一致するように時間調整(位相調整)が行われる。その後、処理がS23に進む。
S23では、周期データのサンプル数及び位相データのサンプル数を用いたカウンタの設定を行う。例えば、検出部104は、サンプリングレートの1サンプル(サンプリングレートに従ったアナログ信号の電圧チェックの間隔)毎にカウントアップ(インクリメント)を行うカウンタを有し、当該カウンタのカウント値を1サンプル毎にインクリメントする。これによってカウント値が零から所定値(位相データのサンプル数(カウント値)及び周期データのサンプル数(カウント値)の和を示す値)以上になるのを待つ(S24)。
カウンタのカウント値が所定値以上になると、検出部104は、予測に基づく、ビート音の発生タイミングを検出し、ビート音の出力指示を出力する(S25)。再生処理部105は、出力指示に応じて、ROM11又はHDD13に予め記憶していたビート音(例えば、ハンドクラップ音)のディジタルデータをD/A17へ送る。ディジタルデータはD/A17でアナログ信号に変換され、AMP18で振幅増幅された後、スピーカ19から出力される。これによって、再生又は演奏中の楽曲に重ねてハンドクラップ音が出力される。
<実施形態の効果>
実施形態によれば、再生又は演奏済みの(過去の)楽曲が生成部101に入力され、生成部101がSpxデータを生成する。このようなSpxデータがバッファ102に蓄積され、算出部103が所定時間(6秒)分の複数のSpxデータから、ビートの周期及び位相を算出し、再生または演奏中の楽曲に合わせたビート音の発生タイミングを検出部104が検出して出力する。これによって、再生処理部105が再生又は演奏中の楽曲のリズムに合致したハンドクラップ音を出力させることができる。このハンドクラップ音の自動的な出力は、上述したSpxデータの生成や、フーリエ変換データに基づくビートの周期及び位相の算出、並びにカウンタ値のカウントのような、計算量の少ない簡易なアルゴリズムにより行うことができる。これにより、処理の実行主体(CPU10)に対する負荷増大や、メモリリソースの増大を回避することができる。また、処理量が少ないが故に、再生音や演奏音に対する遅延のない(遅延があっても人がそれを認識できない)クラップ音出力が可能となる。
なお、制御部100が行う処理は、複数のCPU(プロセッサ)によって行うのでも、マルチコア構成のCPUによって行うのでもよい。また、制御部100が行う処理は、CPU10以外のプロセッサ(DSPやGPUなど)、プロセッサ以外の集積回路(ASICやFPGAなど)、或いはプロセッサと集積回路との組み合わせ(MPU、SoCなど)によって実行されてもよい。
<変形例>
上述した実施形態では、周期データの算出に用いるBPMとして、BPM86~168を用いた例を示した。これに対し、BMP86~168(夫々が第1のBPMに相当する)だけでなく、その2倍のBPM172~336や4倍のBPM344~672(第1のBPMの振動数の整数倍の振動数を有する少なくとも1つの第2のBPMに相当)についても、c(i)の絶対値(スペクトル強度)を得る。図9は、1倍(基本ビート)と2倍ビートのスペクトル強度を例示する図である。1倍と2倍のスペクトルの例を示す。そして、1倍、2倍、4倍のそれぞれに係るスペクトル強度を、所定の比で加算した値を、BPMの決定に用いる。例えば、BPM91(第1のBPMの一例)のスペクトル強度と、BPM182及びBPM364(少なくとも1つの第2のBPMの一例)のスペクトル強度を0.34:0.33:0.33の比で足し合わせ、その数値をBPM91についてのc(i)の絶対値として用いる。
楽曲によっては、4分音符に象徴される基本ビートよりも、細分された8分音符、16分音符に対応するBPMに対するパワーが大きいものがあるので、2倍や4倍のパワーを、基本ビートの強度に反映させることで、よりよいBPMを選出可能となる。上記した例では、整数倍の例として2倍や4倍を例示したが、3倍や5倍以上の整数倍でも、同様の効果を得ることができる。実施形態にて示した構成は、目的を逸脱しない範囲で適宜組み合わせることができる。
1・・・ビート音発生タイミング生成装置
2・・・ネットワーク
10・・・CPU
11・・・ROM
12・・・RAM
13・・・HDD
14・・・入力装置
15・・・表示装置
16・・・通信インタフェース
17・・・ディジタルアナログ変換器
18・・・アンプ
19・・・スピーカ
20・・・アナログディジタル変換器
21・・・マイクロフォン
100・・・制御部
101・・・生成部
102・・・バッファ
103・・・算出部
104・・・検出部
105・・・再生処理部

Claims (8)

  1. 入力された楽曲のデータから、前記楽曲のビートを司る複数のタイミングとタイミングにおけるパワーを示す複数の強度データを生成する生成部と、
    前記複数の強度データを用いて、前記楽曲のビートの周期及び位相を算出する算出部と、
    前記ビートの周期及び位相に基づいて、ビート音の発生タイミングを検出する検出部とを含み、
    前記複数の強度データの夫々は、前記楽曲のパワーを示すデータをフレーム単位で作成した場合において、自身より大きい値が出現しない状態が所定時間続いた場合のピーク値を示す第2の所定時間中のデータである
    ビート音発生タイミング生成装置。
  2. 前記算出部は、前記複数の強度データの夫々と、前記複数の強度データについての複数個のBPM(Beats Per Minute)の夫々とについて行うフーリエ変換によって得られたフーリエ変換データの絶対値が最大値となるときのBPMの一周期を前記ビートの周期として算出し、前記最大値に対応するフーリエ変換データの位相値を前記複数の強度データについての前記ビート音の発生タイミングとして算出する
    請求項1に記載のビート音発生タイミング生成装置。
  3. 前記ビート音の発生タイミングに従って前記ビート音の再生処理を行う再生処理部をさらに含む
    請求項1又は2に記載のビート音発生タイミング生成装置。
  4. 記検出部は、前記ビートの周期及び前記ビートの位相を示すカウント値を求め、サンプリングレートの1サンプル毎にインクリメントを行うカウンタを用いて前記カウント値の計時を行い、前記カウンタの値が前記カウント値に達したタイミングを前記ビート音の発生タイミングとして検出する
    請求項1から3のいずれか1項に記載のビート音発生タイミング生成装置。
  5. 前記複数の強度データの夫々と前記複数個のBPMのうちの第1のBPMについて前記
    フーリエ変換データを得る場合に、前記算出部は、前記第1のBPMの振動数の整数倍の振動数を有する少なくとも1つの第2のBPMについての前記フーリエ変換データを取得し、前記第1のBPMを用いて算出した前記フーリエ変換データの値と、前記第2のBPMを用いて算出した前記フーリエ変換データの値とを、所定の比率で足し合わせた値を、前記第1のBPMについての前記フーリエ変換データの値として用いる
    請求項に記載のビート音発生タイミング生成装置。
  6. 前記生成部は、前記入力された楽曲のデータから所定数の連続する音のサンプルからなるフレームを取得し、前記フレーム中のサンプルを間引きし、間引きしたサンプルについて高速フーリエ変換を行い、高速フーリエ変換によって得られた周波数バンド幅毎のパワーの総和を示すデータを求める処理を所定間隔で行う一方で、自身より大きい値を示す前記パワーの総和を示すデータが出現しない状態が所定時間継続した場合の前記パワーの総和を示すデータを前記強度データとして抽出する
    請求項1から5のいずれか1項に記載のビート音発生タイミング生成装置。
  7. 入力された楽曲のデータから、前記楽曲のビートを司る複数のタイミング情報と、タイミングにおけるパワーを示す複数の強度データを生成することと
    前記複数の強度データを用いて、前記楽曲のビートの周期及び位相を算出することと
    前記ビートの周期及び位相に基づいて、ビート音の発生タイミングを検出することを含み、
    前記複数の強度データの夫々は、前記楽曲のパワーを示すデータをフレーム単位で作成した場合において、自身より大きい値が出現しない状態が所定時間続いた場合のピーク値を示し、且つ第2の所定時間に含まれるデータである
    ビート音発生タイミング生成方法。
  8. 前記複数の強度データの夫々と、前記タイミング情報に基づく前記複数の強度データについての複数個のBPM(Beats Per Minute)の夫々とについて行うフーリエ変換によって得られたフーリエ変換データの絶対値が最大値となるときのBPMの一周期を前記ビートの周期として算出し、前記最大値に対応するフーリエ変換データの位相値を前記複数の強度データについての前記ビート音の発生タイミングとして算出する
    請求項7に記載のビート音発生タイミング生成方法。
JP2020520972A 2018-05-24 2018-05-24 ビート音発生タイミング生成装置 Active JP7105880B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/020079 WO2019224990A1 (ja) 2018-05-24 2018-05-24 ビート音発生タイミング生成装置

Publications (2)

Publication Number Publication Date
JPWO2019224990A1 JPWO2019224990A1 (ja) 2021-04-01
JP7105880B2 true JP7105880B2 (ja) 2022-07-25

Family

ID=68617292

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020520972A Active JP7105880B2 (ja) 2018-05-24 2018-05-24 ビート音発生タイミング生成装置

Country Status (3)

Country Link
US (1) US11749240B2 (ja)
JP (1) JP7105880B2 (ja)
WO (1) WO2019224990A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11688377B2 (en) 2013-12-06 2023-06-27 Intelliterran, Inc. Synthesized percussion pedal and docking station
JP7105880B2 (ja) * 2018-05-24 2022-07-25 ローランド株式会社 ビート音発生タイミング生成装置
WO2020008255A1 (en) * 2018-07-03 2020-01-09 Soclip! Beat decomposition to facilitate automatic video editing
JP7457111B2 (ja) 2020-05-21 2024-03-27 ローランド株式会社 ビート音発生タイミング生成装置、ビート音発生タイミング生成方法、及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008107569A (ja) 2006-10-25 2008-05-08 Korg Inc テンポ検出装置
WO2008129837A1 (ja) 2007-03-27 2008-10-30 Ssd Company Limited タイミング制御装置及びタイミング制御方法
JP2011164497A (ja) 2010-02-13 2011-08-25 Ryukoku Univ テンポ値検出装置およびテンポ値検出方法
JP2012118417A (ja) 2010-12-02 2012-06-21 Ryukoku Univ 特徴波形抽出システムおよび特徴波形抽出方法

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3743280B2 (ja) 2000-11-10 2006-02-08 ティアック株式会社 記録媒体再生装置
EP1244093B1 (en) * 2001-03-22 2010-10-06 Panasonic Corporation Sound features extracting apparatus, sound data registering apparatus, sound data retrieving apparatus and methods and programs for implementing the same
JP2003289494A (ja) 2002-01-23 2003-10-10 Konica Corp 情報記録媒体及びその生産方法
US20050117032A1 (en) * 2002-01-23 2005-06-02 Yutaka Ueda Image delivery apparatus
JP3982443B2 (ja) 2003-03-31 2007-09-26 ソニー株式会社 テンポ解析装置およびテンポ解析方法
JP4542863B2 (ja) 2004-10-05 2010-09-15 株式会社アイ・エム・エス 音楽ゲーム装置、プログラムおよびコンピュータ読取可能な記録媒体
JP4622479B2 (ja) 2004-11-25 2011-02-02 ソニー株式会社 再生装置および再生方法
JP4940588B2 (ja) 2005-07-27 2012-05-30 ソニー株式会社 ビート抽出装置および方法、音楽同期画像表示装置および方法、テンポ値検出装置および方法、リズムトラッキング装置および方法、音楽同期表示装置および方法
JP4465626B2 (ja) * 2005-11-08 2010-05-19 ソニー株式会社 情報処理装置および方法、並びにプログラム
JP4949687B2 (ja) * 2006-01-25 2012-06-13 ソニー株式会社 ビート抽出装置及びビート抽出方法
JP4320782B2 (ja) * 2006-03-23 2009-08-26 ヤマハ株式会社 演奏制御装置、およびプログラム
JP4561735B2 (ja) 2006-12-13 2010-10-13 ヤマハ株式会社 コンテンツ再生装置およびコンテンツ同期再生システム
JP4916947B2 (ja) 2007-05-01 2012-04-18 株式会社河合楽器製作所 リズム検出装置及びリズム検出用コンピュータ・プログラム
JP4467601B2 (ja) * 2007-05-08 2010-05-26 ソニー株式会社 ビート強調装置、音声出力装置、電子機器、およびビート出力方法
US8269093B2 (en) * 2007-08-21 2012-09-18 Apple Inc. Method for creating a beat-synchronized media mix
JP4973426B2 (ja) 2007-10-03 2012-07-11 ヤマハ株式会社 テンポクロック生成装置およびプログラム
JP2009098262A (ja) 2007-10-15 2009-05-07 Yamaha Corp テンポクロック生成装置およびプログラム
US8426715B2 (en) * 2007-12-17 2013-04-23 Microsoft Corporation Client-side audio signal mixing on low computational power player using beat metadata
JP5604824B2 (ja) 2008-07-29 2014-10-15 ヤマハ株式会社 テンポ情報出力装置、音声処理システム、および電子楽器
US8071869B2 (en) * 2009-05-06 2011-12-06 Gracenote, Inc. Apparatus and method for determining a prominent tempo of an audio work
US20130226957A1 (en) * 2012-02-27 2013-08-29 The Trustees Of Columbia University In The City Of New York Methods, Systems, and Media for Identifying Similar Songs Using Two-Dimensional Fourier Transform Magnitudes
US9418643B2 (en) * 2012-06-29 2016-08-16 Nokia Technologies Oy Audio signal analysis
GB2518663A (en) * 2013-09-27 2015-04-01 Nokia Corp Audio analysis apparatus
JP2017219595A (ja) 2016-06-05 2017-12-14 衞 田中 音楽生成法
JP6705422B2 (ja) * 2017-04-21 2020-06-03 ヤマハ株式会社 演奏支援装置、及びプログラム
JP6729515B2 (ja) * 2017-07-19 2020-07-22 ヤマハ株式会社 楽曲解析方法、楽曲解析装置およびプログラム
CN110958899B (zh) * 2017-07-24 2022-07-01 梅德律动公司 用于重复性运动活动的增强性音乐
WO2019043797A1 (ja) * 2017-08-29 2019-03-07 Pioneer DJ株式会社 楽曲解析装置および楽曲解析プログラム
US11205407B2 (en) * 2017-08-29 2021-12-21 Alphatheta Corporation Song analysis device and song analysis program
JP7105880B2 (ja) * 2018-05-24 2022-07-25 ローランド株式会社 ビート音発生タイミング生成装置
US20220020348A1 (en) * 2018-11-22 2022-01-20 Roland Corporation Video control device and video control method
WO2020261497A1 (ja) * 2019-06-27 2020-12-30 ローランド株式会社 楽音信号のパワーの平坦化方法及び装置、並びに、楽曲のビートタイミング検出方法及び装置
JP7274082B2 (ja) * 2021-08-19 2023-05-16 パナソニックホールディングス株式会社 音楽生成装置、音楽生成方法、及び音楽生成プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008107569A (ja) 2006-10-25 2008-05-08 Korg Inc テンポ検出装置
WO2008129837A1 (ja) 2007-03-27 2008-10-30 Ssd Company Limited タイミング制御装置及びタイミング制御方法
JP2011164497A (ja) 2010-02-13 2011-08-25 Ryukoku Univ テンポ値検出装置およびテンポ値検出方法
JP2012118417A (ja) 2010-12-02 2012-06-21 Ryukoku Univ 特徴波形抽出システムおよび特徴波形抽出方法

Also Published As

Publication number Publication date
JPWO2019224990A1 (ja) 2021-04-01
WO2019224990A1 (ja) 2019-11-28
US11749240B2 (en) 2023-09-05
US20210241729A1 (en) 2021-08-05

Similar Documents

Publication Publication Date Title
JP7105880B2 (ja) ビート音発生タイミング生成装置
JP4949687B2 (ja) ビート抽出装置及びビート抽出方法
JP4940588B2 (ja) ビート抽出装置および方法、音楽同期画像表示装置および方法、テンポ値検出装置および方法、リズムトラッキング装置および方法、音楽同期表示装置および方法
US8889976B2 (en) Musical score position estimating device, musical score position estimating method, and musical score position estimating robot
JP4207902B2 (ja) 音声合成装置およびプログラム
US20160005387A1 (en) Audio signal analysis
JP4645241B2 (ja) 音声処理装置およびプログラム
JP4650662B2 (ja) 信号処理装置および信号処理方法、プログラム、並びに記録媒体
WO2020105195A1 (ja) 映像制御装置、及び映像制御方法
JP5614261B2 (ja) 雑音抑制装置、雑音抑制方法、及びプログラム
JP4985570B2 (ja) ディジタル音響信号処理方法及び処理装置
JP7158583B2 (ja) 楽音信号のパワーの平坦化方法及び装置、並びに、楽曲のビートタイミング検出方法及び装置
JP7457111B2 (ja) ビート音発生タイミング生成装置、ビート音発生タイミング生成方法、及びプログラム
JP4483561B2 (ja) 音響信号分析装置、音響信号分析方法及び音響信号分析プログラム
JP2015200685A (ja) アタック位置検出プログラムおよびアタック位置検出装置
JP4973426B2 (ja) テンポクロック生成装置およびプログラム
JP2009186762A (ja) 拍タイミング情報生成装置およびプログラム
JP2021156975A (ja) テンポ検出装置、方法、及びプログラム
Thakuria et al. Musical Instrument Tuner
KR20190086872A (ko) 고조파를 제거한 미디 파일 생성 방법 및 오디오 파일 변환 방법
JP4213856B2 (ja) エンベロープ検出装置
JP4361919B2 (ja) カラオケ装置
JP2003241777A (ja) 楽音のフォルマント抽出方法、記録媒体及び楽音のフォルマント抽出装置
Khachai et al. Modification of simple beat tracking algorithm
BLAESER et al. Detection and Correction of Phase Errors in Audio Signals for Application in Blind Source Separation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220614

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220712

R150 Certificate of patent or registration of utility model

Ref document number: 7105880

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150