JP5060341B2 - Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program - Google Patents

Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program Download PDF

Info

Publication number
JP5060341B2
JP5060341B2 JP2008047335A JP2008047335A JP5060341B2 JP 5060341 B2 JP5060341 B2 JP 5060341B2 JP 2008047335 A JP2008047335 A JP 2008047335A JP 2008047335 A JP2008047335 A JP 2008047335A JP 5060341 B2 JP5060341 B2 JP 5060341B2
Authority
JP
Japan
Prior art keywords
music
bpm
music information
information
periodic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008047335A
Other languages
Japanese (ja)
Other versions
JP2009204907A (en
Inventor
広海 石先
啓一郎 帆足
康弘 滝嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2008047335A priority Critical patent/JP5060341B2/en
Publication of JP2009204907A publication Critical patent/JP2009204907A/en
Application granted granted Critical
Publication of JP5060341B2 publication Critical patent/JP5060341B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Signal Processing For Digital Recording And Reproducing (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To smoothly synchronize two kinds of audiovisual information being either voice information with periodicity or image information with periodicity during reproduction. <P>SOLUTION: The synchronous reproducing method for synchronizing two kinds of audiovisual information during reproduction includes at least: a step S4 for multiplying a periodic accent number BPM<SB>M</SB>per unit time of one kind of audiovisual information by a plurality of numerical values forming a monotone increasing sequence in a multiplication part; a step S5 for selecting a numerical value b<SB>opt</SB>the most approximate to a periodic accent number BPM<SB>O</SB>per unit time of the other kind of audiovisual information from the numerical value group obtained by the multiplication in a selection part; and a step S6 for outputting an optimum adjustment factor f<SB>opt</SB>obtained by dividing the periodic accent number BPM<SB>O</SB>per unit time of the other kind of audiovisual information by the b<SB>opt</SB>in a division part. <P>COPYRIGHT: (C)2009,JPO&amp;INPIT

Description

本発明は、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる技術に関する。   The present invention relates to a technique for synchronizing two audiovisual information, which are either audio information having periodicity or video information having periodicity, during reproduction.

従来から、音楽を自動的にリミックスする技術が知られている。例えば、特開2001−243692号公報(特許文献1)に開示されている技術は、リミックス対象となる前後2楽曲において、後ろの楽曲のBPM(Beats Per Minute)情報を、前の楽曲のBPM情報と一致させる。これにより、ユーザが、仮に楽曲のリミックスに熟練していなくても、容易にリミックスを行なうことができる。また、例えば、特表2004−527786号公報(特許文献2)に開示されている技術は、楽曲のテンポを推定するために楽曲信号周波数成分の帯域通過フィルタリングによって得られた拍子候補に対し、振動器をマッチングさせることでテンポを自動抽出する。また、振動器の振動数を2の累乗することによって、検出テンポ精度を上げ、リミックスを行なっている。また、特開2006−337914号公報(特許文献3)に開示されている技術は、楽曲自動リミックス機能を備えた再生装置に関するものである。この再生装置では、音響的特徴に基づいて楽曲リミックスを行なう際に、楽曲間エフェクトを挿入する。
特開2001−243692号公報 特開2004−527786号公報 特開2006−337914号公報 Alonso M., David B. and Richard G., “Tempo and Beat Estimation of Musical Signals”, Proc. ISMIR 2004, pp. 158−163
Conventionally, a technique for automatically remixing music is known. For example, in the technique disclosed in Japanese Patent Laid-Open No. 2001-243692 (Patent Document 1), the BPM (Beats Per Minute) information of the back music and the BPM information of the previous music in the two music pieces before and after the remix target. To match. Thereby, even if the user is not skilled in remixing music, it can be easily remixed. In addition, for example, the technique disclosed in Japanese translations of PCT publication No. 2004-527786 (patent document 2) vibrates a time signature candidate obtained by band-pass filtering of music signal frequency components in order to estimate the tempo of the music. The tempo is automatically extracted by matching the vessels. In addition, the detection tempo accuracy is increased by performing the remix by raising the frequency of the vibrator to a power of two. Further, the technique disclosed in Japanese Patent Application Laid-Open No. 2006-337914 (Patent Document 3) relates to a playback apparatus having an automatic music remix function. In this playback apparatus, an inter-music effect is inserted when performing music remixing based on acoustic features.
Japanese Patent Laid-Open No. 2001-243692 JP 2004-527786 A JP 2006-337914 A Alonso M.M. David B., et al. and Richard G. “Tempo and Beat Estimate of Musical Signals”, Proc. ISMIR 2004, pp. 158-163

しかしながら、特許文献1では、BPMを一致させるリミックスを行なっているが、リミックス対象となる楽曲同士のBPMが大きく異なる場合、BPMを一致させるための楽曲信号伸縮操作が音質を大きく劣化させてしまうという問題がある。また、特許文献2では、楽曲のテンポ情報推定後のリミックス時におけるBPM調整は、特許文献1と同様の手法を用いる必要があるため、同じような問題を有している。また、特許文献3においては、時系列上におけるテンポ、ビート情報を考慮して楽曲をリミックスしていないため、DJが操作しているような心地の良いリミックスは得られない。さらに、従来の技術では、リミックス楽曲数が増えるに従って、ユーザの操作負担が増加してしまうという問題がある。   However, in Patent Document 1, remixing that matches BPM is performed. However, when the BPMs of the music to be remixed are greatly different, the music signal expansion / contraction operation for matching BPM greatly deteriorates the sound quality. There's a problem. Further, in Patent Document 2, BPM adjustment at the time of remixing after estimation of music tempo information needs to use the same method as Patent Document 1, and thus has the same problem. In Patent Document 3, music is not remixed in consideration of time-series tempo and beat information, so a comfortable remix as operated by a DJ cannot be obtained. Furthermore, the conventional technique has a problem that the operation burden on the user increases as the number of remixed music increases.

例えば、楽曲A、BのBPMをそれぞれBPM、BPMとし、楽曲テンポを調整する係数をfとすると、従来の方法では、以下のような操作を行なっていた。すなわち、
BPM=f×BPM・・・(1)、または、
f×BPM=BPM・・・(2)、
となるような操作を行なうことによって、リミックス前後の楽曲のテンポを調整していた。しかしながら、式(1)、(2)では、テンポが大きく異なる楽曲をリミックスする場合は、音楽信号を伸縮する度合いが大きくなるため、音質が劣化してしまう。
For example, assuming that the BPMs of the music pieces A and B are BPM A and BPM B , respectively, and the coefficient for adjusting the music tempo is f, in the conventional method, the following operation is performed. That is,
BPM A = f × BPM B (1) or
f × BPM A = BPM B (2),
The tempo of the music before and after the remix was adjusted by performing the operation that becomes. However, in the formulas (1) and (2), when remixing music with greatly different tempos, the degree of expansion / contraction of the music signal increases, and the sound quality deteriorates.

本発明は、このような事情に鑑みてなされたものであり、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に滑らかに同期させることができる同期再生装置、楽曲自動リミックスシステム、同期再生方法および同期再生プログラムを提供することを目的とする。   The present invention has been made in view of such circumstances, and can synchronize two audiovisual information, which are either audio information having periodicity or video information having periodicity, smoothly during reproduction. It is an object of the present invention to provide a playback device, a music automatic remix system, a synchronized playback method, and a synchronized playback program.

(1)上記の目的を達成するために、本発明は、以下のような手段を講じた。すなわち、本発明の同期再生装置は、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる同期再生装置であって、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する乗算部と、前記乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する選択部と、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力する除算部と、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生する再生部と、を備えることを特徴としている。 (1) In order to achieve the above object, the present invention takes the following measures. That is, the synchronized playback apparatus of the present invention is a synchronized playback apparatus that synchronizes two audiovisual information, which is either audio information having periodicity or video information having periodicity, at the time of reproduction, and one audiovisual information unit. a multiplying section for multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per hour, from numerical value group obtained by the multiplication, periodic per unit time of the other audiovisual information a selection unit for selecting a number closest b opt in such accents number BPM O, periodic accents number BPM O per unit time of the other audiovisual information, wherein b opt in dividing and obtained optimum adjustment factor f a division unit that outputs opt , and the one audiovisual information is reproduced by multiplying at least the optimum adjustment coefficient f opt and at the same time the other viewing And a reproduction unit for reproducing the sense information.

このように、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。なお、視聴覚情報とは、音声情報および映像情報の両方の概念を含む。従って、本発明では、周期性を有するものであれば、2つの音声情報、2つの映像情報、および1つの音声情報と1つの映像情報を、再生時に同期させることが可能である。 In this way, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and the period per unit time of the other audiovisual information The optimal adjustment coefficient f opt obtained by dividing the typical number of accents BPM O by the b opt is output and reproduced by multiplying the one audiovisual information by at least the optimal adjustment coefficient f opt. Since the other audiovisual information is reproduced, the accent positions of both audiovisual information can be reproduced together. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information. Note that audiovisual information includes the concept of both audio information and video information. Therefore, according to the present invention, two audio information, two video information, and one audio information and one video information can be synchronized during reproduction as long as they have periodicity.

(2)また、本発明の同期再生装置は、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる同期再生装置であって、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する乗算部と、前記乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する選択部と、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出する相加平均算出部と、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力すると共に、前記相加平均BPMaimを前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力する除算部と、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生し、それと同時に前記他方の視聴覚情報に対して少なくとも前記最適調整係数foptOを乗じて再生する再生部と、を備えることを特徴としている。 (2) The synchronized playback apparatus of the present invention is a synchronized playback apparatus that synchronizes two audiovisual information, which is either audio information having periodicity or video information having periodicity, at the time of reproduction, and one audiovisual a multiplying section for multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of information time, from said obtained group of numerical values by multiplying, per unit time of the other audiovisual information a selection unit for selecting a number closest b opt to periodic accents number BPM O of the periodic accents number BPM O per unit of time the other audiovisual information, arithmetic mean BPM aim of the b opt and arithmetic mean calculation unit that calculates a, the arithmetic average BPM aim outputs the optimal adjustment factor f OPTM obtained by dividing by the b opt, the phase Gapyeong A dividing unit for the BPM aim outputting the other of the optimal adjustment factor f OPTO obtained by dividing the periodic accents number BPM O per unit time audiovisual information, at least the optimum adjustment relative to the one audiovisual information and play multiplied by the coefficient f OPTM, therewith is characterized by and a reproduction unit for reproducing by multiplying at least the optimum adjustment factor f OPTO to the other of audiovisual information at the same time.

このように、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出し、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力し、前記相加平均BPMaimを前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、2つの視聴覚情報の双方を調整するので、一方のみを調整する場合よりも音質または画質の劣化を軽減させることが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。 In this way, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and the period per unit time of the other audiovisual information An arithmetic average BPM aim between the number of typical accents BPM O and the b opt is calculated, and an optimum adjustment coefficient f optM obtained by dividing the arithmetic average BPM aim by the b opt is output, and the additive outputs the optimum adjustment factor f OPTO obtained by dividing the average BPM aim at periodic accents number BPM O per unit time of the other audio visual information, at least the optimum adjustment factor f with respect to the one audiovisual information Since reproduction is performed by multiplying by optM , it is possible to reproduce with the accent positions of both audiovisual information being matched. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. Further, since both of the two pieces of audiovisual information are adjusted, it is possible to reduce deterioration in sound quality or image quality as compared with the case where only one of them is adjusted. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information.

(3)また、本発明の同期再生装置において、前記再生部は、前記視聴覚情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴としている。   (3) Further, in the synchronized playback apparatus of the present invention, the playback unit is characterized in that an adjustment coefficient to be multiplied with the audiovisual information is changed from 1 to an optimal adjustment coefficient as time passes.

このように、視聴覚情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させるので、単に最適調整係数を用いた場合よりも、2つの視聴覚情報のアクセント位置の調整を行なう際に、視聴者に対して与える違和感を軽減させることが可能となる。   As described above, since the adjustment coefficient to be multiplied with the audiovisual information is changed from 1 to the optimal adjustment coefficient as time passes, the adjustment of the accent positions of the two audiovisual information is performed more than when the optimal adjustment coefficient is used. It is possible to reduce the uncomfortable feeling given to the viewer when performing.

(4)また、本発明の同期再生装置において、前記再生部は、前記最適調整係数が乗じられた視聴覚情報のアクセントの周期に合致した周期のアクセントを有する第三の視聴覚情報を、前記各視聴覚情報と同時に再生することを特徴としている。   (4) Further, in the synchronized playback device of the present invention, the playback unit outputs the third audiovisual information having an accent with a period matching the accent period of the audiovisual information multiplied by the optimum adjustment coefficient. It is characterized by being played back simultaneously with information.

このように、最適調整係数が乗じられた視聴覚情報のアクセントの周期に合致した周期のアクセントを有する第三の視聴覚情報を、前記各視聴覚情報と同時に再生するので、アクセントの位置を強調することができる。これにより、2つの視聴覚情報のアクセント位置の調整を行なう際に、視聴者に対して与える違和感を軽減させることが可能となる。   As described above, since the third audiovisual information having an accent with a period that matches the accent period of the audiovisual information multiplied by the optimum adjustment coefficient is reproduced simultaneously with the audiovisual information, the position of the accent can be emphasized. it can. This makes it possible to reduce the sense of discomfort given to the viewer when adjusting the accent positions of the two audiovisual information.

(5)また、本発明の同期再生装置において、前記再生部は、前記一方の視聴覚情報の再生が終了する前に前記他方の視聴覚情報の再生を開始することを特徴としている。   (5) Further, in the synchronized playback apparatus of the present invention, the playback unit starts playback of the other audiovisual information before the playback of the one audiovisual information is completed.

このように、一方の視聴覚情報の再生が終了する前に前記他方の視聴覚情報の再生を開始するので、2つの視聴覚情報のアクセント位置の調整を滑らかに行なうことが可能となる。   Thus, since the reproduction of the other audiovisual information is started before the reproduction of one audiovisual information is completed, the accent positions of the two audiovisual information can be adjusted smoothly.

(6)また、本発明の同期再生装置は、2つの楽曲情報間の処理を行なう同期再生装置であって、予め選択されたエフェクト音Iおよびエフェクト音IIについて、前記エフェクト音Iの単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算して数値群Iを算出すると共に、前記エフェクト音IIの単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算して数値群IIを算出する乗算部と、前記数値群Iから、前記一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値bopt1を選択すると共に、前記数値群IIから、前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値bopt2を選択する選択部と、前記一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記bopt1で除算して得られる最適調整係数fopt1を出力すると共に、前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記bopt2で除算して得られる最適調整係数fopt2を出力する除算部と、前記一方の楽曲情報を再生すると共に、前記エフェクト音Iに対して前記最適調整係数fopt1を乗じて再生し、前記エフェクト音IIに対して前記最適調整係数fopt2を乗じて再生すると共に、前記他方の楽曲情報を再生する再生部と、を備えることを特徴としている。 (6) Further, the synchronized playback apparatus of the present invention is a synchronized playback apparatus that performs processing between two pieces of music information, and for the effect sound I and the effect sound II selected in advance, per unit time of the effect sound I. The number of periodic accents BPM 1 is multiplied by a plurality of numerical values forming a monotonically increasing number sequence to calculate a numerical value group I, and the number of periodic accents BPM 2 per unit time of the effect sound II is calculated. A multiplication unit that multiplies a plurality of numerical values forming a monotonically increasing number sequence to calculate a numerical value group II, and the numerical value group I is closest to the periodic accent number BPM 3 per unit time of the one piece of music information with selecting a numeric value b opt1, from the numerical value group II, number closest to the cyclic accent number BPM 4 per unit of said other music information time b op A selection unit for selecting a 2, a periodic accents number BPM 3 per unit of time said one of the music information, and outputs the optimal adjustment factor f opt1 obtained by dividing by the b opt1, the other songs A division unit that outputs an optimal adjustment coefficient f opt2 obtained by dividing the number of periodic accents BPM 4 per unit time of information by the b opt2 , the one piece of music information, and the effect sound I Is reproduced by multiplying the effect sound II by the optimum adjustment coefficient f opt2, and is reproduced by multiplying the effect sound II by the optimum adjustment coefficient f opt2. It is characterized by.

このように、エフェクト音IおよびIIによってテンポ調整を行なうことができるため、楽曲信号の伸縮操作が不要となる。その結果、楽曲の音質劣化が軽減される。その結果、楽曲が移り変わる部分における違和感を軽減することが可能となる。   As described above, since the tempo can be adjusted by the effect sounds I and II, the expansion / contraction operation of the music signal becomes unnecessary. As a result, the sound quality deterioration of the music is reduced. As a result, it is possible to reduce the sense of incongruity at the part where the music changes.

(7)また、本発明の同期再生装置において、一方の楽曲情報の楽曲特徴量との特徴類似度が最も近い楽曲特徴量を持つエフェクト音Iと、他方の楽曲情報の楽曲特徴量との特徴類似度が最も近い楽曲特徴量を持つエフェクト音IIとを選択するエフェクト音選択部を更に備えることを特徴としている。   (7) Also, in the synchronized playback device of the present invention, the characteristics of the effect sound I having the music feature amount closest to the music feature amount of one piece of music information and the music feature amount of the other piece of music information An effect sound selection unit that selects an effect sound II having the music feature amount having the closest similarity is further provided.

このように、楽曲情報の楽曲特徴量との特徴類似度が最も近い楽曲特徴量を持つエフェクト音を選択するので、楽曲とエフェクト音とのリミックスを行なう際の音質劣化や違和感を軽減することが可能となる。   As described above, since the effect sound having the music feature amount having the closest feature similarity to the music feature amount of the music information is selected, it is possible to reduce deterioration in sound quality and discomfort when remixing the music and the effect sound. It becomes possible.

(8)また、本発明の楽曲自動リミックスシステムは、複数の楽曲データを格納する楽曲データベースと、ユーザの操作を契機としていずれか2つの楽曲データを選択する楽曲選択部と、請求項1から請求項5のいずれかに記載の同期再生装置と、前記同期再生装置により再生される楽曲データを音声として出力する出力部と、を備えることを特徴としている。   (8) Moreover, the music automatic remix system of the present invention includes a music database that stores a plurality of music data, a music selection unit that selects any two music data in response to a user operation, and claims 1 to Item 6. A synchronous playback device according to any one of Items 5 and an output unit that outputs music data played back by the synchronous playback device as sound.

このように、乗算により得られた数値群から、他方の楽曲データの単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の楽曲データの単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力し、前記一方の楽曲データに対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の楽曲データを再生するので、両方の楽曲データのアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる楽曲データ同士をリミックスする際の音声劣化を軽減することが可能となる。また、視聴者に対して、リミックスされた楽曲データを違和感なく提供することが可能となる。さらに、両方の楽曲データのアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に楽曲データのリミックスを行なうことが可能となる。 Thus, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other music data is selected from the numerical value group obtained by multiplication, and the period per unit time of the other music data is selected. The optimal adjustment coefficient f opt obtained by dividing the typical number of accents BPM O by the b opt is output and reproduced by multiplying the one piece of music data by at least the optimal adjustment coefficient f opt. Since the other music data is reproduced, the accent positions of both music data can be reproduced together. As a result, it is possible to reduce voice deterioration when remixing music data having greatly different BPMs. Moreover, it becomes possible to provide the viewer with remixed music data without a sense of incongruity. Furthermore, since the positions of the accents of both music data are automatically adjusted, even an unskilled user can easily remix music data.

(9)また、本発明の同期再生方法は、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる同期再生方法であって、乗算部において、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算するステップと、選択部において、前記乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択するステップと、除算部において、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力するステップと、再生部において、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生するステップと、を少なくとも含むことを特徴としている。 (9) Further, the synchronous playback method of the present invention is a synchronous playback method for synchronizing two audiovisual information, which is either audio information having periodicity or video information having periodicity, at the time of playback. a step of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of time one audiovisual information, the selection unit, from the numerical value group obtained by the multiplication, the other of selecting a number closest b opt to periodic accents number BPM O per unit time audiovisual information, in the division portion, a cyclic accent number BPM O per unit of the other audiovisual information time, and outputting an optimal adjustment factor f opt obtained by dividing by the b opt, in the reproduction unit, small relative to the one audiovisual information Both are characterized by comprising at least the steps of: playing by multiplying the optimum adjustment factor f opt, therewith to reproduce the other audiovisual information at the same time.

このように、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。 In this way, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and the period per unit time of the other audiovisual information The optimal adjustment coefficient f opt obtained by dividing the typical number of accents BPM O by the b opt is output and reproduced by multiplying the one audiovisual information by at least the optimal adjustment coefficient f opt. Since the other audiovisual information is reproduced, the accent positions of both audiovisual information can be reproduced together. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information.

(10)また、本発明の同期再生方法は、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる同期再生方法であって、乗算部において、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算するステップと、選択部において、前記乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択するステップと、相加平均算出部において、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出するステップと、除算部において、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力すると共に、前記相加平均BPMaimを前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力するステップと、再生部において、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生し、それと同時に前記他方の視聴覚情報に対して少なくとも前記最適調整係数foptOを乗じて再生するステップと、を少なくとも含むことを特徴としている。 (10) The synchronized playback method of the present invention is a synchronized playback method for synchronizing two audiovisual information, which is either audio information having periodicity or video information having periodicity, at the time of playback. a step of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of time one audiovisual information, the selection unit, from the numerical value group obtained by the multiplication, the other selecting a number closest b opt to periodic accents number BPM O per unit time of the audiovisual information, the arithmetic mean calculating section, periodic accent per unit time of the other audiovisual information BPM and O, and calculating the arithmetic mean BPM aim of the b opt, in the division portion, wherein the arithmetic average BPM aim b o It outputs the optimal adjustment factor f OPTM obtained by dividing the t, optimum adjustment coefficient obtained by dividing the arithmetic average BPM aim at periodic accents number BPM O per unit time of the other audio visual information a step of outputting f optO , and in the reproduction unit, the one audiovisual information is reproduced by multiplying at least the optimum adjustment coefficient f optM , and at the same time, at least the optimum adjustment coefficient f optO for the other audiovisual information. And at least a step of reproducing by multiplying.

このように、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出し、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力し、前記相加平均BPMaimを前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、2つの視聴覚情報の双方を調整するので、一方のみを調整する場合よりも音質または画質の劣化を軽減させることが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。 In this way, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and the period per unit time of the other audiovisual information An arithmetic average BPM aim between the number of typical accents BPM O and the b opt is calculated, and an optimum adjustment coefficient f optM obtained by dividing the arithmetic average BPM aim by the b opt is output, and the additive outputs the optimum adjustment factor f OPTO obtained by dividing the average BPM aim at periodic accents number BPM O per unit time of the other audio visual information, at least the optimum adjustment factor f with respect to the one audiovisual information Since reproduction is performed by multiplying by optM , it is possible to reproduce with the accent positions of both audiovisual information being matched. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. Further, since both of the two pieces of audiovisual information are adjusted, it is possible to reduce deterioration in sound quality or image quality as compared with the case where only one of them is adjusted. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information.

(11)また、本発明の同期再生プログラムは、コンピュータにロードされることによって、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる同期再生プログラムであって、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する処理と、前記乗算で得られる数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する処理と、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して最適調整係数foptを出力する処理と、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生する処理と、を少なくとも含むことを特徴としている。 (11) Further, the synchronous reproduction program of the present invention is loaded into a computer to synchronize reproduction that synchronizes two audiovisual information that is either audio information having periodicity or video information having periodicity at the time of reproduction. a program, a process of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of time one audiovisual information, from the numerical value group obtained by the multiplication, the other a process of selecting a number closest b opt to periodic accents number BPM O per unit time audiovisual information, periodic accents number BPM O per unit of the other audiovisual information time, divided by the b opt multiply at least the optimum adjustment factor f opt against optimal adjustment coefficient and outputting the f opt, the one audiovisual information and And a process of reproducing the other audiovisual information at the same time.

このように、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。なお、視聴覚情報とは、音声情報および映像情報の両方の概念を含む。従って、本発明では、周期性を有するものであれば、2つの音声情報、2つの映像情報、および1つの音声情報と1つの映像情報を、再生時に同期させることが可能である。 In this way, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and the period per unit time of the other audiovisual information The optimal adjustment coefficient f opt obtained by dividing the typical number of accents BPM O by the b opt is output and reproduced by multiplying the one audiovisual information by at least the optimal adjustment coefficient f opt. Since the other audiovisual information is reproduced, the accent positions of both audiovisual information can be reproduced together. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information. Note that audiovisual information includes the concept of both audio information and video information. Therefore, according to the present invention, two audio information, two video information, and one audio information and one video information can be synchronized during reproduction as long as they have periodicity.

(12)また、本発明の同期再生プログラムは、コンピュータにロードされることによって、周期性を有する音声情報または周期性を有する映像情報のいずれかである2つの視聴覚情報を再生時に同期させる同期再生プログラムであって、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する処理と、前記乗算で得られる数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する処理と、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出する処理と、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力すると共に、前記相加平均BPMaimを前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られた最適調整係数foptOを出力する処理と、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生し、それと同時に前記他方の視聴覚情報に対して少なくとも前記最適調整係数foptOを乗じて再生する処理と、を少なくとも含むことを特徴としている。 (12) Further, the synchronous reproduction program of the present invention is loaded into a computer, and synchronous reproduction that synchronizes two audiovisual information, which is either audio information having periodicity or video information having periodicity, at the time of reproduction. a program, a process of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of time one audiovisual information, from the numerical value group obtained by the multiplication, the other a process of selecting a number closest b opt to periodic accents number BPM O per unit time audiovisual information, and periodic accents number BPM O per unit of time the other audiovisual information, with the b opt arithmetic average BPM and processing of calculating the aim, the arithmetic average BPM aim the b obtained by dividing the opt optimum adjustment factor f It outputs the PTM, and outputting the arithmetic average BPM aim the other optimal adjustment factor f OPTO obtained by dividing the periodic accents number BPM O per unit time audiovisual information, the one And at least a process of multiplying the audiovisual information by the optimal adjustment coefficient foptM and simultaneously reproducing the audiovisual information by multiplying the other audiovisual information by the optimal adjustment coefficient foptO. It is said.

このように、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出し、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力し、前記相加平均BPMaimを前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、2つの視聴覚情報の双方を調整するので、一方のみを調整する場合よりも音質または画質の劣化を軽減させることが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。 In this way, the numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and the period per unit time of the other audiovisual information An arithmetic average BPM aim between the number of typical accents BPM O and the b opt is calculated, and an optimum adjustment coefficient f optM obtained by dividing the arithmetic average BPM aim by the b opt is output, and the additive outputs the optimum adjustment factor f OPTO obtained by dividing the average BPM aim at periodic accents number BPM O per unit time of the other audio visual information, at least the optimum adjustment factor f with respect to the one audiovisual information Since reproduction is performed by multiplying by optM , it is possible to reproduce with the accent positions of both audiovisual information being matched. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. Further, since both of the two pieces of audiovisual information are adjusted, it is possible to reduce deterioration in sound quality or image quality as compared with the case where only one of them is adjusted. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information.

本発明によれば、乗算により得られた数値群から、他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択し、前記他方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力し、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生するので、両方の視聴覚情報のアクセント位置を合わせて再生することができる。これにより、BPMが大きく異なる視聴覚情報同士をリミックスする際の音声または画質の劣化を軽減することが可能となる。また、視聴者に対して、リミックスされた視聴覚情報を違和感なく提供することが可能となる。さらに、両方の視聴覚情報のアクセントの位置が自動的に合わせられるため、熟練していないユーザであっても、容易に視聴覚情報のリミックスを行なうことが可能となる。 According to the present invention, a numerical value b opt closest to the periodic accent number BPM O per unit time of the other audiovisual information is selected from the numerical value group obtained by multiplication, and per unit time of the other audiovisual information. Output the optimum adjustment coefficient f opt obtained by dividing the periodic accent number BPM O by the b opt , reproduce the one audiovisual information by at least the optimum adjustment coefficient f opt, and Since the other audiovisual information is reproduced at the same time, the accent positions of both audiovisual information can be reproduced together. As a result, it is possible to reduce deterioration of audio or image quality when remixing audio-visual information having greatly different BPMs. In addition, it is possible to provide the viewer with remixed audiovisual information without a sense of incongruity. Further, since the positions of the accents of both audiovisual information are automatically adjusted, even an unskilled user can easily remix audiovisual information.

(第1の実施形態)
次に、本発明に係る実施形態について、図面を参照しながら説明する。図1は、本発明の第1の実施形態に係る同期再生装置の概略構成を示すブロック図である。この同期再生装置1は、周期性を有する2つの音声情報、周期性を有する2つの映像情報、または周期性を有する1つの音声情報と周期性を有する1つの映像情報を、再生時に同期させる。本明細書では、周期性を有する音声情報および周期性を有する映像情報を、「視聴覚情報」と呼称する。すなわち、本明細書において、視聴覚情報といった場合は、周期性を有する音声情報または周期性を有する映像情報のいずれかを指すものとしている。また、BPM(Beats Per Minute)とは、1分間あたりのアクセント数(ビート数)を意味する。アクセント(ビート)とは、音声情報の場合は、周期的な音声の強弱のことをいう。また、映像情報の場合は、周期的な繰返し映像のことであり、例えば、ボールがバウンドしている映像中、地面に着いた瞬間のボールの映像のことをいう。アクセント位置(ビート位置)とは、時間軸上でのアクセント(ビート)の位置、すなわち、アクセントが現れる時刻のことをいう。
(First embodiment)
Next, embodiments according to the present invention will be described with reference to the drawings. FIG. 1 is a block diagram showing a schematic configuration of a synchronized playback apparatus according to the first embodiment of the present invention. The synchronized playback apparatus 1 synchronizes two audio information having periodicity, two video information having periodicity, or one audio information having periodicity and one video information having periodicity at the time of reproduction. In this specification, audio information having periodicity and video information having periodicity are referred to as “audiovisual information”. That is, in this specification, audiovisual information refers to either audio information having periodicity or video information having periodicity. BPM (Beats Per Minute) means the number of accents (number of beats) per minute. Accent (beat) refers to the strength of periodic voice in the case of voice information. In addition, in the case of video information, it is a periodically repeated video, for example, a video of a ball at the moment it touches the ground in a video where the ball is bouncing. The accent position (beat position) refers to the position of the accent (beat) on the time axis, that is, the time when the accent appears.

同期再生装置1において、乗算部2は、第1の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して、単調増加数列を形成する複数の数値を乗算する。この「単調増加数列を形成する複数の数値」は、例えば、cを整数として、2で求められる数値を使用することができる。この場合、「c=−2,−1,0,1,2」とすると、2は、「2=0.25,0.5,1,2,4」と求めることができる。乗算部2は、第1の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して、このように2で求められる数値を乗算する。なお、ここでは、「単調増加数列を形成する複数の数値」の例として、2を用いて説明したが、本発明は、これに限定されるわけではない。 In synchronous playback device 1, multiplier 2, to the periodic accents number BPM M per unit time of the first audiovisual information, multiplying the plurality of numbers forming a monotonically increasing sequence. As the “plural numerical values forming the monotonically increasing number sequence”, for example, a numerical value obtained by 2c can be used, where c is an integer. In this case, if “c = −2, −1, 0, 1, 2”, 2 c can be obtained as “2 c = 0.25, 0.5, 1, 2, 4”. Multiplying unit 2, to the periodic accents number BPM M per unit of time the first audiovisual information, thus multiplying the numerical value obtained in 2 c. Note that, here, 2c is used as an example of “a plurality of numerical values forming a monotonically increasing number sequence”, but the present invention is not limited to this.

選択部3は、乗算部2における乗算により得られた数値群から、第2の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する。例えば、乗算部2における乗算により得られた数値群を、{b,b,b,b,b}としたときに、これらの中から第2の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する。この場合、選択部3が選択した数値boptは、直接除算部4に入力される。 Selecting unit 3, the numerical value group obtained by multiplication in multiplication unit 2 selects the number closest b opt to periodic accents number BPM O per unit of the second audiovisual information time. For example, when a group of numerical values obtained by multiplication in the multiplication unit 2 is {b 1 , b 2 , b 3 , b 4 , b 5 }, among these, the second audiovisual information per unit time The numerical value b opt closest to the periodic accent number BPM O is selected. In this case, the numerical value b opt selected by the selection unit 3 is directly input to the division unit 4.

除算部4は、第2の視聴覚情報の単位時間当たりの周期的なアクセント数BPMを、boptで除算して得られる最適調整係数foptを出力する。再生部5は、第1の視聴覚情報に対して、少なくとも最適調整係数foptを乗じて再生し、それと同時に第2の視聴覚情報を再生する。なお、相加平均算出部6については後述する。 Divider 4, a periodic accents number BPM O per unit time of the second audiovisual information, and outputs the optimal adjustment factor f opt obtained by dividing the b opt. The reproduction unit 5 reproduces the first audiovisual information by multiplying at least the optimum adjustment coefficient f opt and simultaneously reproduces the second audiovisual information. The arithmetic mean calculation unit 6 will be described later.

図2は、第1の実施形態に係る同期再生装置の動作を示すフローチャートである。ここでは、視聴覚情報として、周期性のある音声情報、例えば、楽曲を例にとって説明する。この同期再生装置は、楽曲のBPMを合わせるのではなく、楽曲のビート位置に着目し、2つの楽曲の調整係数fが最小となるような最適調整係数foptを求め、このfoptに基づいて楽曲テンポを調整する。これによって、楽曲の音質劣化を軽減させたリミックスを行なうことが可能になる。具体的には、例えば、BPM120の楽曲とBPM60の楽曲とを結合する場合、BPM60の楽曲をBPM120となるようにテンポ調整すると、音質劣化が著しくなる。本発明では、ビート位置に着目し、BPM60の裏拍子を考慮することによって、テンポ調整をすることなくリミックスを可能とする。なお、ここでは、両方の視聴覚情報のアクセント位置を合わせて再生することを、「テンポ調整」と呼称する。 FIG. 2 is a flowchart showing the operation of the synchronized playback apparatus according to the first embodiment. Here, the audio / visual information will be described by taking periodic voice information, for example, music. This synchronized playback device does not match the BPM of the music, but pays attention to the beat position of the music, finds the optimum adjustment coefficient f opt that minimizes the adjustment coefficient f of the two music, and based on this f opt Adjust the song tempo. This makes it possible to perform remixing with reduced sound quality degradation of the music. Specifically, for example, in the case of combining the music of BPM 120 and the music of BPM 60, if the tempo is adjusted so that the music of BPM 60 becomes BPM 120, the sound quality deterioration becomes significant. In the present invention, remixing is possible without adjusting the tempo by paying attention to the beat position and considering the back beat of the BPM 60. Here, the reproduction of the audio signal with the accent positions of both pieces of audiovisual information is referred to as “tempo adjustment”.

図2において、楽曲Mと楽曲Oとを選定する(ステップS1)。ここで、テンポ調整を行なう楽曲をMとし、テンポ調整を行なわない楽曲をOとする。次に、BPM情報は既知であるかどうかを判断し(ステップS2)、既知でない場合は、テンポ解析を行なう(ステップS3)。ここでテンポ解析を行なって得られた楽曲MのBPMを、BPMとし、楽曲OのBPMをBPMとする。一方、ステップS2において、BPMが既知である場合は、ステップS4に遷移する。 In FIG. 2, music M and music O are selected (step S1). Here, the music for which tempo adjustment is performed is M, and the music for which tempo adjustment is not performed is O. Next, it is determined whether or not the BPM information is known (step S2). If it is not known, tempo analysis is performed (step S3). Here, the BPM of the music M obtained by performing the tempo analysis is BPM M, and the BPM of the music O is BPM O. On the other hand, if the BPM is known in step S2, the process proceeds to step S4.

次に、BPMに対して、2を乗算する。ここで、「c=−2,−1,0,1,2」とし、数値群G={b1、b2,b3,b4,b5}を得る(ステップS4)。次に、数値群GからBPMに最も近い値であるboptを算出する(ステップS5)。すなわち、
opt=2Copt×BPMである。
Next, BPM M is multiplied by 2c . Here, “c = −2, −1, 0, 1, 2” is set, and a numerical value group G = {b1, b2, b3, b4, b5} is obtained (step S4). Then, to calculate the b opt a value closest to BPM O from numerical value group G (step S5). That is,
b opt = 2 Copt × BPM M

次に、最適テンポ調整係数(最適調整係数)foptを計算する(ステップS6)。すなわち、
opt=BPM/boptである。
Next, an optimum tempo adjustment coefficient (optimum adjustment coefficient) f opt is calculated (step S6). That is,
f opt = BPM O / b opt .

なお、ステップS3におけるテンポ解析では、例えば、非特許文献1に記載されているテンポ推定手法を用いて、楽曲M、楽曲OのBPMを計算することができる。また、既存のテンポ推定手法を利用せずに、予め用意されている楽曲メタデータを用いることも可能である。   In the tempo analysis in step S3, for example, the BPM of the music M and the music O can be calculated using the tempo estimation method described in Non-Patent Document 1. It is also possible to use music metadata prepared in advance without using an existing tempo estimation method.

(第2の実施形態)
上記のように最適テンポ調整係数(最適調整係数)を算出する際に、第1および第2の視聴覚情報の両方を調整することも可能である。この場合、図1における選択部3が選択した数値boptは、直接除算部4には入力されずに、相加平均算出部6に入力される。相加平均算出部6は、第2の視聴覚情報の単位時間当たりの周期的なアクセント数BPMと、選択部3により選択されたboptとの相加平均BPMaimを算出する。除算部4は、相加平均BPMaimをboptで除算して得られる最適調整係数foptMを出力すると共に、相加平均BPMaimを第2の視聴覚情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力する。再生部5は、第1の視聴覚情報に対して少なくとも最適調整係数foptMを乗じて再生し、それと同時に第2の視聴覚情報に対して少なくとも最適調整係数foptOを乗じて再生する。
(Second Embodiment)
When calculating the optimum tempo adjustment coefficient (optimum adjustment coefficient) as described above, it is also possible to adjust both the first and second audiovisual information. In this case, the numerical value b opt selected by the selection unit 3 in FIG. 1 is not input to the direct division unit 4 but is input to the arithmetic mean calculation unit 6. The arithmetic average calculation unit 6 calculates an arithmetic average BPM aim between the periodic accent number BPM O per unit time of the second audiovisual information and the b opt selected by the selection unit 3. The division unit 4 outputs an optimal adjustment coefficient f optM obtained by dividing the arithmetic average BPM aim by b opt , and calculates the arithmetic average BPM aim as the number of periodic accents per unit time of the second audiovisual information. and outputs the optimal adjustment factor f OPTO obtained by dividing the BPM O. The reproduction unit 5 reproduces the first audiovisual information by multiplying at least the optimum adjustment coefficient f optM and simultaneously reproduces the second audiovisual information by at least the optimum adjustment coefficient f optO .

第2の実施形態に係る同期再生装置の動作についても、図2に示すフローチャートで説明することができる。図2において、まず、楽曲Mと楽曲Oとを選定する(ステップS1)。ここで、楽曲Mの最適テンポ調整係数をfoptMとし、楽曲Oの最適テンポ調整係数をfoptOとする。そして、再生部5におけるテンポをBPMaimとする。BPM情報は既知であるかどうかを判断し(ステップS2)、既知でない場合は、テンポ解析を行なう(ステップS3)。ここでテンポ解析を行なって得られた楽曲MのBPMを、BPMとし、楽曲OのBPMをBPMとする。一方、ステップS2において、BPMが既知である場合は、ステップS4に遷移する。 The operation of the synchronized playback apparatus according to the second embodiment can also be described with reference to the flowchart shown in FIG. In FIG. 2, first, the music M and the music O are selected (step S1). Here, the optimal tempo adjustment coefficient of the music piece M is f optM and the optimal tempo adjustment coefficient of the music piece O is f optO . The tempo in the playback unit 5 is set to BPM aim . It is determined whether the BPM information is known (step S2). If it is not known, tempo analysis is performed (step S3). Here, the BPM of the music M obtained by performing the tempo analysis is BPM M, and the BPM of the music O is BPM O. On the other hand, if the BPM is known in step S2, the process proceeds to step S4.

次に、BPMに対して、2を乗算する。ここで、「c=−2,−1,0,1,2」とし、数値群G={b1、b2,b3,b4,b5}を得る(ステップS4)。次に、数値群GからBPMに最も近い値であるboptを算出する(ステップS5)。すなわち、
opt=2Copt×BPMである。
Next, BPM M is multiplied by 2c . Here, “c = −2, −1, 0, 1, 2” is set, and a numerical value group G = {b1, b2, b3, b4, b5} is obtained (step S4). Then, to calculate the b opt a value closest to BPM O from numerical value group G (step S5). That is,
b opt = 2 Copt × BPM M

次に、boptとBPMとの相加平均から再生部5におけるテンポBPMaimを求め、楽曲Mの最適テンポ調整係数foptMと、楽曲Oの最適テンポ調整係数とをfoptO求める(ステップS6)。すなわち、
BPMaim=(bopt+BPM)/2、
optM=BPMaim/bopt
optO=BPMaim/BPMにより求められる。
Next, the tempo BPM aim in the reproducing unit 5 is obtained from the arithmetic average of b opt and BPM O, and the optimum tempo adjustment coefficient f optM of the music piece M and the optimal tempo adjustment coefficient of the music piece O are obtained (step S6). ). That is,
BPM aim = (b opt + BPM O ) / 2,
f optM = BPM aim / b opt ,
It is determined by the f optO = BPM aim / BPM O .

このように求められたfoptMと、foptOに従って、楽曲Mと楽曲Oとのテンポ調整を行なうことによって、一方のみをテンポ調整する場合に比べて、音質劣化を軽減させることが可能となる。 By adjusting the tempo of the music piece M and the music piece O according to the f optM and the f optO obtained in this way, it is possible to reduce deterioration in sound quality as compared with the case of adjusting only the tempo of one of the music pieces.

なお、第1および第2の実施形態で示した同期再生装置は、楽曲のリミックスだけではなく、周期性を有する情報について適用することが可能である。周期性を有する複数の情報を同期させて、再生をすることができる。この場合、上記のBPM情報を、周期情報に置き換えて、最適周期調整係数として計算すればよい。特許文献2では、本実施形態と同様に、テンポ候補から2の累乗を乗算して得た候補を加えてテンポ推定を行なっているが、本実施形態のように、リミックスの対象とする楽曲同士のBPM調整を行なうための指標として用いられてはいない。また、特許文献2では、対話型の音楽再生装置を提案しているが、全自動でのリミックスではない。これに対し、本実施形態では、楽曲のBPM情報から裏拍子を自動的に認識するため、最も音質劣化の少ないリミックスを提供することが可能である。   Note that the synchronized playback devices shown in the first and second embodiments can be applied not only to remixing of music but also to information having periodicity. A plurality of pieces of information having periodicity can be synchronized and reproduced. In this case, the above BPM information may be replaced with the period information and calculated as the optimum period adjustment coefficient. In Patent Literature 2, tempo estimation is performed by adding candidates obtained by multiplying tempo candidates by a power of 2, as in the present embodiment. It is not used as an index for performing BPM adjustment. Patent Document 2 proposes an interactive music playback device, but it is not a fully automatic remix. On the other hand, in this embodiment, since the back beat is automatically recognized from the BPM information of the music, it is possible to provide a remix with the least deterioration in sound quality.

(第3の実施形態)
第3の実施形態では、最適テンポ調整係数(最適調整係数)を利用した楽曲リミックスについて説明する。最適テンポ調整係数と、楽曲のビート位置情報を利用することによって、楽曲のビート感を合わせた楽曲リミックスを実現する。なお、以下の説明では、テンポ調整をする楽曲をM、テンポ調整をしない楽曲をOとして、両楽曲のBPM情報をBPM、BPM、ビート位置情報をL={lM1,lM3,lM3,・・・}、L={lO1,lO2,lO3,・・・}とする。
(Third embodiment)
In the third embodiment, a music remix using an optimum tempo adjustment coefficient (optimum adjustment coefficient) will be described. By using the optimal tempo adjustment coefficient and the beat position information of the music, the music remix that matches the beat feeling of the music is realized. In the following description, the music for which tempo adjustment is performed is M, the music for which tempo adjustment is not performed is O, BPM information for both music is BPM M , BPM O , and beat position information is L M = {l M1 , l M3 , l M3 ,..., L O = {l O1 , l O2 , l O3,.

図3は、第3の実施形態に係る楽曲リミックスの手順を示すフローチャートであり、図4は、2つの楽曲をリミックスする際の重畳区間を示す図である。また、図5は、ボリュームコントロールの様子を示す図である。まず、リミックス後の楽曲同士の重畳区間Tを定義する(ステップT1)。次に、最適テンポ調整係数foptを計算し、テンポ変調区間T(T=fopt×T)を計算する(ステップT2)。次に、楽曲Mの信号から、テンポ変調区間Tを抽出し、これをE(t)とする(ステップT3)。 FIG. 3 is a flowchart showing a procedure of music remixing according to the third embodiment, and FIG. 4 is a diagram showing an overlapping section when two music pieces are remixed. FIG. 5 is a diagram showing a state of volume control. First, define the superimposition section T M of the music with each other after the remix (step T1). Next, an optimum tempo adjustment coefficient f opt is calculated, and a tempo modulation section T (T = f opt × T M ) is calculated (step T2). Next, a tempo modulation section T is extracted from the signal of the music piece M, and this is defined as E M (t) (step T3).

次に、楽曲MのE(t)に対して、テンポ調整(fopt×BPM)を行なう(ステップT4)。テンポ調整された楽曲MのE(t)をEMm(t)とする(ステップT5)。また、楽曲Oの信号から、重畳区間Tを抽出し、これをEOm(t)とする(ステップT5)。これにより、ビート位置の調整が行なわれる。次に、EMm(t)、EOm(t)における開始ビート位置SMm、SOmを、L、Lから求める(ステップT6)。次に、ボリュームコントロールを行なって(ステップT7)、SMm、SOmを時系列上で合わせて、楽曲Mと楽曲Oとを結合させる(ステップT8)。 Next, tempo adjustment (f opt × BPM M ) is performed on E M (t) of the music piece M (step T4). E M (t) of the tune-adjusted music M is set to E Mm (t) (step T5). Further, the overlapping section TM is extracted from the signal of the music piece O, and this is set as E Om (t) (step T5). As a result, the beat position is adjusted. Next, start beat positions S Mm and S Om at E Mm (t) and E Om (t) are obtained from L M and L O (step T6). Next, volume control is performed (step T7), and S Mm and S Om are matched in time series to combine music M and music O (step T8).

ここで、ステップT7において、楽曲を結合する際に、クロスフェード等のボリュームコントロールを適用することにより、滑らかな楽曲のリミックスを行なうことが可能である。ボリュームコントロールは、図5に示すボリュームコントロール関数のように、重畳区間において、信号の振幅を徐々に減少させるような信号を乗算することによって、適用することができる。また、信号の振幅を徐々に増加させるような信号を乗算するようにしても良い。   Here, at the time of combining music pieces in step T7, it is possible to remix music pieces smoothly by applying volume control such as crossfading. Volume control can be applied by multiplying a signal that gradually decreases the amplitude of the signal in the overlap period, as in the volume control function shown in FIG. Alternatively, a signal that gradually increases the amplitude of the signal may be multiplied.

(第4の実施形態)
本実施形態では、テンポ調整の際に、2つの楽曲が重なる部分における違和感を軽減するために、第3の音源を挿入する。なお、第3の音源は、ドラム音のように、リズムのみの音であっても良いし、楽曲であっても良い。本実施形態では、前の楽曲が完全に終了する前に次の楽曲が開始する場合、すなわち、2つの楽曲が重なり合う場合について説明する。前の楽曲が完全に終了してから次の楽曲が開始する場合に第3の音源を再生する例については、後述する。図6は、第4の実施形態において第3の音源を挿入する手順を示すフローチャートであり、図7は、ビート位置に第3の音源を挿入した信号の様子を示す図である。また、図8は、第3の音源および楽曲に対するボリュームコントロールの様子を示す図である。図6において、まず、リミックス後の楽曲同士の重畳区間Tを定義する(ステップR1)。次に、最適テンポ調整係数foptを計算し、テンポ変調区間T(T=fopt×T)を計算する(ステップR2)。次に、楽曲Mの信号から、テンポ変調区間Tを抽出し、これをE(t)とする(ステップR3)。
(Fourth embodiment)
In the present embodiment, the third sound source is inserted in order to reduce a sense of incongruity at the portion where two music pieces overlap when adjusting the tempo. The third sound source may be a rhythm-only sound such as a drum sound, or may be a music piece. In this embodiment, a case where the next music starts before the previous music completely ends, that is, a case where two music pieces overlap each other will be described. An example in which the third sound source is played when the next music starts after the previous music has completely ended will be described later. FIG. 6 is a flowchart showing a procedure for inserting a third sound source in the fourth embodiment, and FIG. 7 is a diagram showing a state of a signal in which the third sound source is inserted at the beat position. FIG. 8 is a diagram showing a state of volume control for the third sound source and music. 6, first, defining a superimposition section T M of the music with each other after the remix (step R1). Next, an optimal tempo adjustment coefficient f opt is calculated, and a tempo modulation interval T (T = f opt × T M ) is calculated (step R2). Next, a tempo modulation section T is extracted from the signal of the music piece M, and this is defined as E M (t) (step R3).

次に、楽曲MのE(t)に対して、テンポ調整(fopt×BPM)を行なう(ステップR4)。テンポ調整された楽曲MのE(t)をEMm(t)とする(ステップR5)。また、楽曲Oの信号から、重畳区間Tを抽出し、これをEOm(t)とする(ステップR5)。次に、ビート位置の調整を行なう。すなわち、EMm(t)、EOm(t)における開始ビート位置SMm、SOmを、L、Lから求める(ステップR6)。次に、重畳区間内において、楽曲Mおよび楽曲Oのビート位置情報lを取得し(ステップR7)、lの位置に第3の音源を挿入する(ステップR8)。図7は、ビート位置であるlA1,lA2,lA3,・・・に第3の音源(ドラム音)を挿入した様子を示している。次に、図8に示すように、ボリュームコントロールを行なう(ステップR9)。具体的には、重畳区間内で、楽曲Mのボリュームを次第に減少させると共に、ドラム音源のボリュームを次第に上げていく。また、同時に楽曲Oのボリュームも次第に上げていく。重畳区間の中央あたりで、ドラム音源のボリュームを次第に下げていく。これにより、楽曲Mと楽曲Oとを結合させる(ステップR10)。第4の実施形態によれば、楽曲のリミックスを行なう際の違和感を軽減することが可能となる。 Next, tempo adjustment (f opt × BPM M ) is performed on E M (t) of the music piece M (step R4). E M (t) of the tune-adjusted music piece M is set to E Mm (t) (step R5). Further, the overlapping section TM is extracted from the signal of the music piece O, and this is set as E Om (t) (step R5). Next, the beat position is adjusted. That is, start beat positions S Mm and S Om at E Mm (t) and E Om (t) are obtained from L M and L O (step R6). Next, the beat position information l A of the music M and the music O is acquired in the overlapping section (step R7), and the third sound source is inserted at the position of l A (step R8). FIG. 7 shows a state in which the third sound source (drum sound) is inserted into the beat positions l A1 , l A2 , l A3,. Next, as shown in FIG. 8, volume control is performed (step R9). Specifically, the volume of the music M is gradually reduced and the volume of the drum sound source is gradually increased within the overlapping section. At the same time, the volume of the music O is gradually increased. The volume of the drum sound source is gradually lowered around the center of the overlapping section. Thereby, the music M and the music O are combined (step R10). According to the fourth embodiment, it is possible to reduce a sense of discomfort when remixing music.

(第5の実施形態)
本実施形態では、上記の第3の実施形態のステップT4において、テンポ調整係数に基づいてテンポ調整を行なう際に、徐々にテンポを調整する。図9は、第5の実施形態において、徐々にテンポを調整していく手順を示すフローチャートであり、図10は、テンポを徐々に調整していく区間を示す図である。図9において、まず、リミックス後の楽曲同士の重畳区間Tと、テンポを徐々に調整していく区間TM1とを定義する(ステップP1)。次に、最適テンポ調整係数foptを計算し、テンポ変調区間T(T=fopt×T)を計算する(ステップP2)。次に、楽曲Mの信号から、テンポ変調区間Tおよびテンポを徐々に調整していく区間TM1を抽出し、これらをそれぞれE(t)、EM1(t)とする(ステップP3)。
(Fifth embodiment)
In the present embodiment, the tempo is gradually adjusted when the tempo adjustment is performed based on the tempo adjustment coefficient in step T4 of the third embodiment. FIG. 9 is a flowchart showing a procedure for gradually adjusting the tempo in the fifth embodiment, and FIG. 10 is a diagram showing a section for gradually adjusting the tempo. 9, firstly, to define a superimposing section T M of the music with each other after remixing, the interval T M1 is gradually adjust the tempo (step P1). Next, an optimum tempo adjustment coefficient f opt is calculated, and a tempo modulation section T (T = f opt × T M ) is calculated (step P2). Next, a tempo modulation section T and a section T M1 in which the tempo is gradually adjusted are extracted from the signal of the music piece M, and these are set as E M (t) and E M1 (t), respectively (step P3).

次に、楽曲MのE(t)に対して、テンポ調整(fopt×BPM)を行ない、テンポ調整された楽曲MのE(t)をEMm(t)とする(ステップP4)。次に、EM1(t)に対して、BPMからfopt×BPMまで調整するために、徐々にテンポ調整係数fを変化させる。具体的には、テンポ調整係数fを、1からfoptまで変化させ、(fopt×BPM)を順次、計算することによって、滑らかにテンポ調整を行ない、EMm1(t)とする(ステップP5)。 Next, with respect to E M (t) of music M, performs the tempo adjustment (f opt × BPM M), to E M tempo adjusted music M a (t) and E Mm (t) (step P4 ). Next, to adjust E M1 (t) from BPM M to f opt × BPM M , the tempo adjustment coefficient f is gradually changed. Specifically, the tempo adjustment coefficient f is changed from 1 to f opt , and (f opt × BPM M ) is sequentially calculated, so that the tempo adjustment is smoothly performed to obtain E Mm1 (t) (step) P5).

具体的には、図10に示すように、TM1の区間で、テンポ調整係数を1からfoptまで変化させてテンポ調整を行なう。例えば、fopt=0.80(sec)、TM1=0.80(sec)とすると、テンポ調整係数fを、{1,0.95,0.90,0.85,0.80}と変化させる。そして、
0〜2秒の区間では、f=1.00、
2〜4秒の区間では、f=0.95、
4〜6秒の区間では、f=0.90、
6〜8秒の区間では、f=0.85、
8〜10秒の区間では、f=0.80、という調整を行なう。
Specifically, as shown in FIG. 10, the tempo adjustment is performed by changing the tempo adjustment coefficient from 1 to f opt in the interval of T M1 . For example, when f opt = 0.80 (sec) and T M1 = 0.80 (sec), the tempo adjustment coefficient f is {1, 0.95, 0.90, 0.85, 0.80}. Change. And
In the interval of 0 to 2 seconds, f = 1.00,
In the interval of 2-4 seconds, f = 0.95,
In the interval of 4-6 seconds, f = 0.90,
In the section of 6-8 seconds, f = 0.85,
In the section of 8 to 10 seconds, the adjustment of f = 0.80 is performed.

次に、重畳区間におけるEMm(t)、EOm(t)を抽出し(ステップP6)、開始ビート位置SMm、SOmを、L、Lから求める(ステップP7)。次に、SMm、SOmを時系列上で合わせて、楽曲Mと楽曲Oとを結合させる(ステップP8)。 Next, E Mm (t) and E Om (t) in the overlapping section are extracted (step P6), and the start beat positions S Mm and S Om are obtained from L M and L O (step P7). Next, S Mm and S Om are combined on the time series, and the music M and the music O are combined (step P8).

このように、テンポ調整係数fを、1からfoptまで変化させるので、最適テンポ調整係数によって求められたテンポに対して滑らかにテンポ調整を行なうことが可能となる。特に、最適テンポ調整係数のみを用いた場合と比較して、テンポ調整による違和感が軽減される。 Thus, since the tempo adjustment coefficient f is changed from 1 to f opt , it is possible to smoothly adjust the tempo with respect to the tempo determined by the optimum tempo adjustment coefficient. In particular, compared with the case where only the optimum tempo adjustment coefficient is used, the uncomfortable feeling due to the tempo adjustment is reduced.

(第6の実施形態)
本実施形態では、テンポ調整の際に、2つの楽曲が移り変わる部分における違和感を軽減するために、本実施形態は、第4の実施形態のように、第3の音源を挿入する。本実施形態においても、第3の音源は、ドラム音のように、リズムのみの音であっても良いし、楽曲であっても良い。本実施形態では、前の楽曲が完全に終了してから次の楽曲が開始する場合に第3の音源を再生する例について説明する。なお、本実施形態では、楽曲の特徴を表わす「楽曲特徴量」を、例えば、「楽曲ベクトル」を用いて説明する。また、楽曲の特徴の類似度合いを表わす「特徴類似度」、例えば、「コサイン距離」を用いて説明する。
(Sixth embodiment)
In this embodiment, at the time of adjusting the tempo, the third sound source is inserted in the present embodiment, as in the fourth embodiment, in order to reduce a sense of incongruity at the portion where two music pieces change. Also in the present embodiment, the third sound source may be a rhythm-only sound such as a drum sound, or may be a music piece. In the present embodiment, an example will be described in which the third sound source is played when the next music starts after the previous music is completely finished. In the present embodiment, the “music feature amount” representing the music feature will be described using, for example, a “music vector”. Further, the description will be made using “feature similarity” representing the degree of similarity of music features, for example, “cosine distance”.

図11は、第6の実施形態に係る同期再生装置の概略構成を示すブロック図である。同期再生装置60において、エフェクト音選択部61は、一方の楽曲情報(楽曲A)の楽曲ベクトルとのコサイン距離が最も近い楽曲ベクトルを持つエフェクト音Iと、他方の楽曲情報(楽曲B)の楽曲ベクトルとのコサイン距離が最も近い楽曲ベクトルを持つエフェクト音IIとを選択する。乗算部62は、エフェクト音Iの単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算して数値群Iを算出する。また、エフェクト音IIの単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算して数値群IIを算出する。 FIG. 11 is a block diagram showing a schematic configuration of a synchronized playback apparatus according to the sixth embodiment. In the synchronized playback device 60, the effect sound selection unit 61 includes an effect sound I having a music vector with the closest cosine distance to the music vector of one music information (music A) and a music of the other music information (music B). The effect sound II having the music vector with the closest cosine distance to the vector is selected. The multiplication unit 62 calculates the numerical value group I by multiplying the periodic accent number BPM 1 per unit time of the effect sound I by a plurality of numerical values forming a monotonically increasing number sequence. Further, the numerical value group II is calculated by multiplying the periodic accent number BPM 2 per unit time of the effect sound II by a plurality of numerical values forming a monotonically increasing number sequence.

選択部63は、数値群Iから、一方の楽曲情報(楽曲A)の単位時間当たりの周期的なアクセント数BPMに最も近い数値bopt1を選択する。また、数値群IIから、他方の楽曲情報(楽曲B)の単位時間当たりの周期的なアクセント数BPMに最も近い数値bopt2を選択する。除算部64は、一方の楽曲情報(楽曲A)の単位時間当たりの周期的なアクセント数BPMを、上記のbopt1で除算して得られる最適調整係数fopt1を出力する。また、他方の楽曲情報(楽曲B)の単位時間当たりの周期的なアクセント数BPMを、上記bopt2で除算して得られる最適調整係数fopt2を出力する。 The selection unit 63 selects a numerical value b opt1 closest to the periodic accent number BPM 3 per unit time of one piece of music information (music A) from the numerical value group I. In addition, the numerical value b opt2 closest to the periodic accent number BPM 4 per unit time of the other music information (music B) is selected from the numerical value group II. The division unit 64 outputs the optimum adjustment coefficient f opt1 obtained by dividing the periodic accent number BPM 3 per unit time of one piece of music information (music A) by the b opt1 . Also, periodic accents number BPM 4 per unit time other music information (music B), and outputs the optimal adjustment factor f opt2 obtained by dividing the above b opt2.

再生部65は、一方の楽曲情報(楽曲A)を再生し、その楽曲Aの終了前の一定期間内に、その楽曲Aと同時にエフェクト音Iに対して最適調整係数fopt1を乗じて、エフェクト音Iを再生する。ここでは、クロスフェード方式を用いて両者を重ねて再生する。これにより、楽曲AのBPMにエフェクト音IのBPMを合わせることができる。次に、再生部65は、楽曲Aが終了し、エフェクト音Iの再生中に、エフェクト音IのBPMと、エフェクト音IIのBPMとが合うようにエフェクト音同士を調整しながら、エフェクト音IIの再生を開始する。そのとき、エフェクト音Iの再生を止めても良いし、クロスフェード方式を採って両者を再生しても良い。次に、再生部65は、エフェクト音IIに対して最適調整係数fopt2を乗じて再生すると共に、他方の楽曲情報(楽曲B)を再生する。ここでも、クロスフェード方式を用いて両者を重ねて再生する。これにより、エフェクト音IIのBPMを楽曲BのBPMに合わせることができる。次に、第6の実施形態に係る同期再生装置の楽曲間処理の動作について説明する。 The reproduction unit 65 reproduces one piece of music information (music A), and multiplies the effect sound I simultaneously with the music A within a certain period before the music A ends by multiplying the effect adjustment I by the optimum adjustment coefficient f opt1. Play sound I. Here, both are reproduced by using a cross-fade method. Thereby, the BPM 1 of the effect sound I can be matched with the BPM 3 of the music piece A. Then, the reproduction unit 65 the music A is completed, during the reproduction of the effect sound I, the BPM 1 of effect sound I, while adjusting the effect sound together as the BPM 2 effect sound II matches, effect Start playing sound II. At that time, the reproduction of the effect sound I may be stopped, or both may be reproduced using a crossfade method. Next, the reproduction unit 65 reproduces the effect sound II by multiplying the optimum adjustment coefficient f opt2 and reproduces the other music information (music B). Again, both are reproduced using the crossfade method. Thereby, the BPM 2 of the effect sound II can be matched with the BPM 4 of the music B. Next, the operation of the inter-music processing of the synchronized playback device according to the sixth embodiment will be described.

図12は、第6の実施形態に係る楽曲間処理の様子を示す図である。第6の実施形態では、まず、(1)前後の楽曲の特徴量を取得する。すなわち、再生中の楽曲(楽曲A)と次に再生される楽曲(楽曲B)のBPM、ビート位置、楽曲ベクトルを取得する。楽曲ベクトルとは、音楽データのMFCCからツリーベクトル量子化手法(TreeQ)を用いて得たヒストグラムを指すものである。また、ここでは、BPM、ビート位置は既知とする。次に、(2)エフェクトの選択を行なう。BPM、ビート位置、ベクトルが既知のエフェクト音を用意する。そして、楽曲Bのベクトルとのコサイン距離が最も近い楽曲ベクトルを持つエフェクト(エフェクトII)を選択する。次に、楽曲AのベクトルおよびエフェクトIIのベクトルとのコサイン距離の平均が一番大きいエフェクト(エフェクトI)を選択する。   FIG. 12 is a diagram illustrating a state of the inter-music processing according to the sixth embodiment. In the sixth embodiment, first, (1) the feature quantities of the previous and subsequent music pieces are acquired. That is, the BPM, beat position, and music vector of the music being played (music A) and the music to be played next (music B) are acquired. The music vector refers to a histogram obtained from the MFCC of music data using a tree vector quantization method (TreeQ). Here, it is assumed that the BPM and beat position are known. Next, (2) effect selection is performed. An effect sound with known BPM, beat position, and vector is prepared. Then, an effect (effect II) having a music vector having the closest cosine distance to the vector of music B is selected. Next, the effect (effect I) having the largest average cosine distance between the music A vector and the effect II vector is selected.

次に、(3)エフェクトのテンポ変更を行なう。すなわち、エフェクト再生部分で、テンポが楽曲AのBPMから楽曲BのBPMへ徐々に推移するようエフェクトI、IIのテンポを変動させるのである。最後に、(4)ビート位置合わせを行なう。音源が重なる部分のビート位置が揃うように、後ろの音源を挿入するタイミングを調整する。図12は、このような楽曲間処理の様子を示す。図12に示すように、楽曲AからエフェクトI、エフェクトIIと再生され、楽曲Bの順につなげて連続再生を行なう。楽曲Aの最後の部分と、エフェクトIの最初の部分と、エフェクトIIの最後の部分と楽曲Bの最初の部分は、クロスフェードとされる。   Next, (3) the effect tempo is changed. That is, in the effect playback portion, the tempo of the effects I and II is changed so that the tempo gradually changes from the BPM of the music A to the BPM of the music B. Finally, (4) beat alignment is performed. Adjust the timing to insert the back sound source so that the beat positions of the overlapping sound sources are aligned. FIG. 12 shows the state of such inter-music processing. As shown in FIG. 12, music A is played back as effect I and effect II, and music B is connected in this order for continuous playback. The last part of music A, the first part of effect I, the last part of effect II, and the first part of music B are crossfade.

なお、本実施形態では、エフェクト音のみに最適調整係数を乗算する例を示したが、本発明は、これに限定されるわけではない。上記の各実施形態のように、楽曲Aおよび楽曲Bに最適調整係数を乗算する手法を採ることも可能である。   In the present embodiment, an example in which only the effect sound is multiplied by the optimum adjustment coefficient is shown, but the present invention is not limited to this. As in each of the above-described embodiments, it is also possible to adopt a method of multiplying the music piece A and the music piece B by the optimum adjustment coefficient.

第6の実施形態によれば、エフェクトIおよびIIによってテンポ調整を行なうことができるため、楽曲信号の伸縮操作が不要となる。その結果、楽曲の音質劣化が軽減される。   According to the sixth embodiment, since the tempo can be adjusted by the effects I and II, the music signal expansion / contraction operation becomes unnecessary. As a result, the sound quality deterioration of the music is reduced.

(第7の実施形態)
本実施形態では、上記の同期再生装置を備えた楽曲自動リミックスシステムについて説明する。図13は、第7の実施形態に係る楽曲自動リミックスシステムの概略構成を示すブロック図である。この楽曲自動リミックスシステム110は、同期再生装置1と、楽曲を選択する楽曲選択部111と、音楽データとしての複数の楽曲を格納する楽曲データベース(DB)112と、から構成される。
(Seventh embodiment)
In the present embodiment, a music automatic remix system including the above-described synchronized playback device will be described. FIG. 13: is a block diagram which shows schematic structure of the music automatic remix system which concerns on 7th Embodiment. The automatic music remix system 110 includes a synchronized playback device 1, a music selection unit 111 that selects music, and a music database (DB) 112 that stores a plurality of music as music data.

楽曲選択部111は、ユーザの操作を受け付けて、リミックスする楽曲を選択する。例えば、楽曲データベース112に格納されている楽曲またはそのリストをユーザに提示する。ユーザは、楽曲選択部111に対して、いずれかの楽曲を選択する操作を行なう。また、ユーザが直接楽曲を選択するのではなく、楽曲の雰囲気、例えば、明るい楽曲、静かな楽曲等の楽曲の属性情報を入力することもできる。この場合は、入力された属性情報と、楽曲データベース112に格納されている楽曲メタ情報等とを比較して、リミックスを行なう楽曲を選出することができる。   The music selection unit 111 receives a user operation and selects music to be remixed. For example, the music stored in the music database 112 or a list thereof is presented to the user. The user performs an operation for selecting one of the music pieces on the music selection unit 111. In addition, instead of the user selecting music directly, it is also possible to input the music atmosphere, for example, attribute information of music such as bright music and quiet music. In this case, it is possible to select the music to be remixed by comparing the input attribute information with the music meta information stored in the music database 112 or the like.

楽曲データベース112には、本システムで利用される楽曲および楽曲に関する情報が格納されている。例えば、楽曲データ、楽曲テンポ情報、楽曲ビート位置情報、さらに楽曲に付されたメタ情報などが格納されている。同期再生装置1は、上記各実施形態で説明した手法で、楽曲選択部111で選択された楽曲のリミックスを行なう。同期再生装置1において、最終的に結合されたリミックス用音楽信号は、スピーカ113で可聴音として出力される。また、データファイルとして、出力することも可能である。   The music database 112 stores music used in the present system and information related to music. For example, music data, music tempo information, music beat position information, and meta information attached to music are stored. The synchronized playback apparatus 1 performs remixing of the music selected by the music selection unit 111 by the method described in the above embodiments. In the synchronized playback device 1, the finally combined remix music signal is output as an audible sound by the speaker 113. It can also be output as a data file.

なお、楽曲自動リミックスシステム110において、楽曲テンポ情報、楽曲ビート位置情報については、既知であるものとする。   In the music automatic remix system 110, the music tempo information and the music beat position information are already known.

(第8の実施形態)
本実施形態では、楽曲テンポ情報、楽曲ビート位置情報が未知である場合の形態を説明する。図14は、第8の実施形態に係る楽曲自動リミックスシステムの概略構成を示すブロック図である。この楽曲自動リミックスシステム120は、第7の実施形態と同様に、同期再生装置1と、楽曲選択部111と、楽曲データベース112とを備えている。更に、楽曲取得・解析部121を備えている。この楽曲取得・解析部121は、楽曲データベース112に格納されている楽曲を取得し、解析して、解析結果を楽曲情報データベース122に格納する。楽曲取得・解析部121は、例えば、非特許文献1に開示されている技術を利用して、楽曲テンポ情報、楽曲ビート位置情報等を解析する。また、楽曲データベース112に格納されている楽曲データ、楽曲情報データ等も取得し、解析のために利用することができる。
(Eighth embodiment)
In the present embodiment, a mode in which the music tempo information and the music beat position information are unknown will be described. FIG. 14 is a block diagram showing a schematic configuration of a music automatic remix system according to the eighth embodiment. This automatic music remix system 120 includes the synchronized playback device 1, a music selection unit 111, and a music database 112, as in the seventh embodiment. Furthermore, a music acquisition / analysis unit 121 is provided. The music acquisition / analysis unit 121 acquires and analyzes the music stored in the music database 112 and stores the analysis result in the music information database 122. The music acquisition / analysis unit 121 analyzes the music tempo information, the music beat position information, and the like using the technology disclosed in Non-Patent Document 1, for example. In addition, music data, music information data, and the like stored in the music database 112 can be acquired and used for analysis.

楽曲情報データベース122は、楽曲取得・解析部121において解析された、楽曲に関する情報が格納される。例えば、楽曲テンポ情報、楽曲ビート位置情報等のデータが格納される。また、楽曲データベース112内の情報や、楽曲データを格納することも可能である。   The music information database 122 stores information about music analyzed by the music acquisition / analysis unit 121. For example, data such as music tempo information and music beat position information is stored. It is also possible to store information in the music database 112 and music data.

本実施形態によれば、楽曲テンポ情報、楽曲ビート位置情報が未知である場合であっても、楽曲データベース112に格納されている情報に基づいて、これらを得ることができる。   According to the present embodiment, even if the music tempo information and the music beat position information are unknown, these can be obtained based on the information stored in the music database 112.

第1の実施形態に係る同期再生装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the synchronous reproduction apparatus which concerns on 1st Embodiment. 第1および第2の実施形態に係る同期再生装置の動作を示すフローチャートである。It is a flowchart which shows operation | movement of the synchronous reproduction apparatus which concerns on 1st and 2nd embodiment. 第3の実施形態に係る楽曲リミックスの手順を示すフローチャートである。It is a flowchart which shows the procedure of the music remix which concerns on 3rd Embodiment. 2つの楽曲をリミックスする際の重畳区間を示す図である。It is a figure which shows the superimposition area at the time of remixing two music. ボリュームコントロールの様子を示す図である。It is a figure which shows the mode of volume control. 第4の実施形態において第3の音源を挿入する手順を示すフローチャートである。It is a flowchart which shows the procedure which inserts the 3rd sound source in 4th Embodiment. ビート位置に第3の音源を挿入した信号の様子を示す図である。It is a figure which shows the mode of the signal which inserted the 3rd sound source in the beat position. 第3の音源および楽曲に対するボリュームコントロールの様子を示す図である。It is a figure which shows the mode of the volume control with respect to a 3rd sound source and a music. 第5の実施形態において、徐々にテンポを調整していく手順を示すフローチャートである。14 is a flowchart showing a procedure for gradually adjusting the tempo in the fifth embodiment. テンポを徐々に調整していく区間を示す図である。It is a figure which shows the area which adjusts a tempo gradually. 第6の実施形態に係る同期再生装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the synchronous reproduction apparatus which concerns on 6th Embodiment. 第6の実施形態に係る楽曲間処理の様子を示す図である。It is a figure which shows the mode of the process between music concerning 6th Embodiment. 第7の実施形態に係る楽曲自動リミックスシステムの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the music automatic remix system which concerns on 7th Embodiment. 第8の実施形態に係る楽曲自動リミックスシステムの概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the music automatic remix system which concerns on 8th Embodiment.

符号の説明Explanation of symbols

1 同期再生装置
2 乗算部
3 選択部
4 除算部
5 再生部
6 相加平均算出部
110 楽曲自動リミックスシステム
111 楽曲選択部
112 楽曲データベース
113 スピーカ
120 楽曲自動リミックスシステム
121 楽曲取得・解析部
122 楽曲情報データベース
DESCRIPTION OF SYMBOLS 1 Synchronous reproduction apparatus 2 Multiplication part 3 Selection part 4 Division part 5 Reproduction part 6 Arithmetic average calculation part 110 Music automatic remix system 111 Music selection part 112 Music database 113 Speaker 120 Music automatic remix system 121 Music acquisition and analysis part 122 Music information The database

Claims (11)

2つの楽曲情報を再生時に同期させる同期再生装置であって、
一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する乗算部と、
前記乗算により得られた数値群から、他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する選択部と、
前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力する除算部と、
前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生する再生部と、を備え
前記再生部は、前記一方の楽曲情報の再生時に、前記楽曲情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴とする同期再生装置。
A synchronized playback device that synchronizes two pieces of music information during playback,
A multiplying section for multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of one of the music information time,
A selection unit for selecting a numerical value b opt closest to the periodic accent number BPM O per unit time of the other music information from the numerical value group obtained by the multiplication;
A division unit for outputting an optimal adjustment coefficient f opt obtained by dividing the periodic accent number BPM O per unit time of the other music information by the b opt ;
A reproduction unit that reproduces the one audiovisual information by multiplying at least the optimum adjustment coefficient f opt and simultaneously reproduces the other audiovisual information ,
The synchronous playback apparatus characterized in that the playback unit changes an adjustment coefficient to be multiplied to the music information from 1 to an optimum adjustment coefficient with the passage of time when the one piece of music information is played back.
2つの楽曲情報を再生時に同期させる同期再生装置であって、
一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する乗算部と、
前記乗算により得られた数値群から、他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する選択部と、
前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出する相加平均算出部と、
前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力すると共に、前記相加平均BPMaimを前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力する除算部と、
前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生し、それと同時に前記他方の視聴覚情報に対して少なくとも前記最適調整係数foptOを乗じて再生する再生部と、を備え
前記再生部は、前記一方または他方の楽曲情報の再生時に、前記楽曲情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴とする同期再生装置。
A synchronized playback device that synchronizes two pieces of music information during playback,
A multiplying section for multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of one of the music information time,
A selection unit for selecting a numerical value b opt closest to the periodic accent number BPM O per unit time of the other music information from the numerical value group obtained by the multiplication;
An arithmetic average calculating unit for calculating an arithmetic average BPM aim of the periodic accent number BPM O per unit time of the other music information and the b opt ;
An optimal adjustment coefficient f optM obtained by dividing the arithmetic mean BPM aim by the b opt is output, and the arithmetic mean BPM aim is calculated as the periodic accent number BPM O per unit time of the other music information. A division unit for outputting an optimum adjustment coefficient f optO obtained by dividing by
A reproduction unit that reproduces the one audiovisual information by multiplying at least the optimum adjustment coefficient f optM and simultaneously reproduces the other audiovisual information by multiplying the other audiovisual information by the optimum adjustment coefficient f optO ,
The synchronous playback apparatus characterized in that the playback unit changes an adjustment coefficient to be multiplied to the music information from 1 to an optimal adjustment coefficient with the passage of time when the one or the other music information is played back.
前記再生部は、前記最適調整係数が乗じられた楽曲情報のアクセントの周期に合致した周期のアクセントを有する第三の楽曲情報を、前記各楽曲情報と同時に再生することを特徴とする請求項1または請求項2記載の同期再生装置。 The playback unit plays back the third music information having an accent with a period that matches the period of the accent of the music information multiplied by the optimum adjustment coefficient simultaneously with each piece of music information. Or the synchronous reproduction apparatus of Claim 2. 前記再生部は、前記一方の楽曲情報の再生が終了する前に前記他方の楽曲情報の再生を開始することを特徴とする請求項1から請求項3のいずれかに記載の同期再生装置。 The reproduction unit, synchronized playback apparatus according to any one of claims 1 to 3, characterized in that the reproduction of the one music information starts reproduction of the other music information before exiting. 2つの楽曲情報間の処理を行なう同期再生装置であって、
予め選択されたエフェクト音Iおよびエフェクト音IIについて、前記エフェクト音Iの単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算して数値群Iを算出すると共に、前記エフェクト音IIの単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算して数値群IIを算出する乗算部と、
前記数値群Iから、前記一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値bopt1を選択すると共に、前記数値群IIから、前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値bopt2を選択する選択部と、
前記一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記bopt1で除算して得られる最適調整係数fopt1を出力すると共に、前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記bopt2で除算して得られる最適調整係数fopt2を出力する除算部と、
前記一方の楽曲情報を再生すると共に、前記エフェクト音Iに対して前記最適調整係数fopt1を乗じて再生し、前記エフェクト音IIに対して前記最適調整係数fopt2を乗じて再生すると共に、前記他方の楽曲情報を再生する再生部と、を備えることを特徴とする同期再生装置。
A synchronized playback device that performs processing between two pieces of music information,
For the effect sound I and effect sound II selected in advance, the numerical value group I is calculated by multiplying the periodic accent number BPM 1 per unit time of the effect sound I by a plurality of numerical values forming a monotonically increasing number sequence. And a multiplier for calculating a numerical value group II by multiplying a periodic accent number BPM 2 per unit time of the effect sound II by a plurality of numerical values forming a monotonically increasing number sequence,
From the numerical value group I, the numerical value b opt1 closest to the periodic accent number BPM 3 per unit time of the one piece of music information is selected, and from the numerical value group II, the other piece of music information per unit time A selection unit for selecting a numerical value b opt2 closest to the periodic accent number BPM 4 ;
Periodic accents number BPM 3 per unit of the one of the music information time, and outputs the optimal adjustment factor f opt1 obtained by dividing by the b opt1, periodic per unit time of the other music information A division unit that outputs an optimal adjustment coefficient f opt2 obtained by dividing the number of accents BPM 4 by the b opt2 ;
The one piece of music information is reproduced, the effect sound I is reproduced by multiplying the optimum adjustment coefficient f opt1 , the effect sound II is reproduced by multiplying the optimum adjustment coefficient f opt2, and And a playback unit that plays back the other piece of music information.
一方の楽曲情報の楽曲特徴量との特徴類似度が最も近い楽曲特徴量を持つエフェクト音Iと、他方の楽曲情報の楽曲特徴量との特徴類似度が最も近い楽曲特徴量を持つエフェクト音IIとを選択するエフェクト音選択部を更に備えることを特徴とする請求項5記載の同期再生装置。 The effect sound I having the closest music feature quantity with the music feature quantity of one music information and the effect sound II having the closest music feature quantity with the music feature quantity of the other music information The synchronized playback apparatus according to claim 5 , further comprising an effect sound selection unit for selecting. 複数の楽曲データを格納する楽曲データベースと、
ユーザの操作を契機としていずれか2つの楽曲データを選択する楽曲選択部と、
請求項1から請求項4のいずれかに記載の同期再生装置と、
前記同期再生装置により再生される楽曲データを音声として出力する出力部と、を備えることを特徴とする楽曲自動リミックスシステム。
A music database that stores multiple music data;
A music selection unit that selects any two music data triggered by a user operation;
A synchronized playback apparatus according to any one of claims 1 to 4 ,
An automatic music remix system, comprising: an output unit that outputs music data reproduced by the synchronous reproduction device as sound.
2つの楽曲情報を再生時に同期させる同期再生方法であって、
乗算部において、一方の視聴覚情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算するステップと、
選択部において、前記乗算により得られた数値群から、他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択するステップと、
除算部において、前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して得られる最適調整係数foptを出力するステップと、
再生部において、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生するステップと、を少なくとも含み、
前記一方の楽曲情報の再生時に、前記楽曲情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴とする同期再生方法。
A synchronized playback method that synchronizes two pieces of music information during playback,
In the multiplication unit, and a step of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of time one audiovisual information,
A step of selecting a numerical value b opt closest to the periodic accent number BPM O per unit time of the other music information from the numerical value group obtained by the multiplication in the selection unit;
A step of outputting an optimum adjustment coefficient f opt obtained by dividing a periodic accent number BPM O per unit time of the other music information by the b opt in the division unit;
In the reproduction unit, at least it viewed including the steps of at least the reproduced by multiplying the optimum adjustment factor f opt, therewith to reproduce the other audiovisual information at the same time, against the one audiovisual information,
A synchronous reproduction method characterized in that an adjustment coefficient to be multiplied with the music information is changed from 1 to an optimum adjustment coefficient with the passage of time when the one piece of music information is reproduced .
2つの楽曲情報を再生時に同期させる同期再生方法であって、
乗算部において、一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算するステップと、
選択部において、前記乗算により得られた数値群から、他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択するステップと、
相加平均算出部において、前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出するステップと、
除算部において、前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力すると共に、前記相加平均BPMaimを前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMで除算して得られる最適調整係数foptOを出力するステップと、
再生部において、前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生し、それと同時に前記他方の視聴覚情報に対して少なくとも前記最適調整係数foptOを乗じて再生するステップと、を少なくとも含み、
前記一方または他方の楽曲情報の再生時に、前記楽曲情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴とする同期再生方法。
A synchronized playback method that synchronizes two pieces of music information during playback,
In the multiplication unit, and a step of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of time one of the music information,
A step of selecting a numerical value b opt closest to the periodic accent number BPM O per unit time of the other music information from the numerical value group obtained by the multiplication in the selection unit;
In the arithmetic mean calculation unit, calculating the arithmetic mean BPM aim of the periodic accent number BPM O per unit time of the other music information and the b opt ;
In the division unit, an optimal adjustment coefficient f optM obtained by dividing the arithmetic average BPM aim by the b opt is output, and the arithmetic average BPM aim is periodically calculated per unit time of the other music information. Outputting an optimum adjustment coefficient f optO obtained by dividing by the number of accents BPM O ;
In the reproduction unit, the one audiovisual information is reproduced by multiplying at least the optimum adjustment coefficient f optM , and at the same time, the other audiovisual information is reproduced by multiplying at least the optimum adjustment coefficient f optO ; at least look at including the,
A synchronous reproduction method characterized in that an adjustment coefficient to be multiplied with the music information is changed from 1 to an optimum adjustment coefficient with the passage of time when the music information of one or the other is reproduced.
コンピュータにロードされることによって、2つの楽曲情報を再生時に同期させる同期再生プログラムであって、
一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する処理と、
前記乗算で得られる数値群から、他方の楽曲の2つの楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する処理と、
前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMを、前記boptで除算して最適調整係数foptを出力する処理と、
前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptを乗じて再生し、それと同時に前記他方の視聴覚情報を再生する処理と、を少なくとも含み、
前記一方の楽曲情報の再生時に、前記楽曲情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴とする同期再生プログラム。
A synchronized playback program that synchronizes two pieces of music information during playback by being loaded on a computer,
A process of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of one of the music information time,
A process of selecting a numerical value b opt closest to the periodic accent number BPM O per unit time of two pieces of music information of the other music piece from the numerical value group obtained by the multiplication;
A process of outputting the optimum adjustment coefficient f opt by dividing the periodic accent number BPM O per unit time of the other music information by the b opt ;
At least viewed free play by multiplying at least the optimum adjustment factor f opt, therewith a process for reproducing the other of audiovisual information at the same time, against the one audiovisual information,
A synchronous reproduction program characterized in that an adjustment coefficient to be multiplied with the music information is changed from 1 to an optimum adjustment coefficient with the passage of time when the one piece of music information is reproduced .
コンピュータにロードされることによって、2つの楽曲情報を再生時に同期させる同期再生プログラムであって、
一方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに対して単調増加数列を形成する複数の数値を乗算する処理と、
前記乗算で得られる数値群から、他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMに最も近い数値boptを選択する処理と、
前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMと、前記boptとの相加平均BPMaimを算出する処理と、
前記相加平均BPMaimを前記boptで除算して得られる最適調整係数foptMを出力すると共に、前記相加平均BPMaimを前記他方の楽曲情報の単位時間当たりの周期的なアクセント数BPMで除算して得られた最適調整係数foptOを出力する処理と、
前記一方の視聴覚情報に対して少なくとも前記最適調整係数foptMを乗じて再生し、それと同時に前記他方の視聴覚情報に対して少なくとも前記最適調整係数foptOを乗じて再生する処理と、を少なくとも含み、
前記一方または他方の楽曲情報の再生時に、前記楽曲情報に対して乗ずる調整係数を、時間経過に応じて1から最適調整係数まで変化させることを特徴とする同期再生プログラム。
A synchronized playback program that synchronizes two pieces of music information during playback by being loaded on a computer,
A process of multiplying a plurality of numerical values forming a monotonically increasing sequence against periodic accents number BPM M per unit of one of the music information time,
A process of selecting a numerical value b opt closest to the periodic accent number BPM O per unit time of the other music information from the numerical value group obtained by the multiplication;
A process of calculating an arithmetic average BPM aim of the periodic accent number BPM O per unit time of the other music information and the b opt ;
An optimal adjustment coefficient f optM obtained by dividing the arithmetic mean BPM aim by the b opt is output, and the arithmetic mean BPM aim is calculated as the periodic accent number BPM O per unit time of the other music information. A process of outputting the optimum adjustment coefficient f optO obtained by dividing by
The reproduced by multiplying at least the optimum adjustment factor f OPTM to one audiovisual information, therewith at least seen including a process of reproducing by multiplying at least the optimum adjustment factor f OPTO, against the other audiovisual information at the same time ,
A synchronous reproduction program characterized in that an adjustment coefficient to be multiplied with the music information is changed from 1 to an optimum adjustment coefficient with the passage of time when the music information of one or the other is reproduced.
JP2008047335A 2008-02-28 2008-02-28 Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program Active JP5060341B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008047335A JP5060341B2 (en) 2008-02-28 2008-02-28 Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008047335A JP5060341B2 (en) 2008-02-28 2008-02-28 Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program

Publications (2)

Publication Number Publication Date
JP2009204907A JP2009204907A (en) 2009-09-10
JP5060341B2 true JP5060341B2 (en) 2012-10-31

Family

ID=41147240

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008047335A Active JP5060341B2 (en) 2008-02-28 2008-02-28 Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program

Country Status (1)

Country Link
JP (1) JP5060341B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011149993A (en) * 2010-01-19 2011-08-04 Kddi Corp Replay order determination device, replay order determination method and replay order determination program
US20240201941A1 (en) * 2021-04-30 2024-06-20 Alphatheta Corporation Acoustic device, acoustic device control method, and program

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3112778B2 (en) * 1993-08-25 2000-11-27 富士電機株式会社 Token re-generation method
JP2001243692A (en) * 2000-02-25 2001-09-07 Teac Corp Recording medium reproducing device
JP4069601B2 (en) * 2001-09-07 2008-04-02 ソニー株式会社 Music playback device and method for controlling music playback device
JP2003228963A (en) * 2002-02-05 2003-08-15 Sony Corp Recording medium, device and method for data recording, and device and method for data editing

Also Published As

Publication number Publication date
JP2009204907A (en) 2009-09-10

Similar Documents

Publication Publication Date Title
US11314936B2 (en) System and method for assembling a recorded composition
US20210326102A1 (en) Method and device for determining mixing parameters based on decomposed audio data
GB2573597A (en) Media-media augmentation system and method of composing a media product
US10388290B2 (en) Multifunctional audio signal generation apparatus
JP2012103603A (en) Information processing device, musical sequence extracting method and program
JP2007033851A (en) Beat extraction device and method, music synchronized image display device and method, tempo value detecting device and method, rhythm tracking device and method, and music synchronized display device and method
JPWO2007066818A1 (en) Music editing apparatus and music editing method
JP2007292847A (en) Musical piece editing/reproducing device
Marchini et al. Rethinking reflexive looper for structured pop music.
US10354630B2 (en) Performance information processing device and method
CN102811330B (en) Moving image reproducer reproducing moving image in synchronization with musical piece and method thereof
JP2008286946A (en) Data reproduction device, data reproduction method, and program
JP5060341B2 (en) Synchronized playback apparatus, automatic music remix system, synchronized playback method and synchronized playback program
JP2009063714A (en) Audio playback device and audio fast forward method
JP2018155936A (en) Sound data edition method
JP6171393B2 (en) Acoustic synthesis apparatus and acoustic synthesis method
JP4862003B2 (en) Playback order determination device, music playback system, and playback order determination method
Driedger Time-scale modification algorithms for music audio signals
JP2001155031A (en) Input data processing method and data input device for music retrieval system
JP5588129B2 (en) Synchronized playback apparatus, synchronized playback method, and synchronized playback program
JP3915517B2 (en) Multimedia system, playback apparatus and playback recording apparatus
JP3804536B2 (en) Musical sound reproduction recording apparatus, recording apparatus and recording method
WO2012153709A1 (en) Replaying device, replaying method, and replaying program
JP6114492B2 (en) Data processing apparatus and program
JP3867579B2 (en) Multimedia system and playback apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100726

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120322

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120710

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120803

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150810

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5060341

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150