JP2012015809A - 楽曲選択装置、楽曲選択方法および楽曲選択プログラム - Google Patents

楽曲選択装置、楽曲選択方法および楽曲選択プログラム Download PDF

Info

Publication number
JP2012015809A
JP2012015809A JP2010150464A JP2010150464A JP2012015809A JP 2012015809 A JP2012015809 A JP 2012015809A JP 2010150464 A JP2010150464 A JP 2010150464A JP 2010150464 A JP2010150464 A JP 2010150464A JP 2012015809 A JP2012015809 A JP 2012015809A
Authority
JP
Japan
Prior art keywords
music
time
series feature
video
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010150464A
Other languages
English (en)
Inventor
Hiromi Ishisaki
広海 石先
Keiichiro Hoashi
啓一郎 帆足
Yasuhiro Takishima
康弘 滝嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2010150464A priority Critical patent/JP2012015809A/ja
Publication of JP2012015809A publication Critical patent/JP2012015809A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Reverberation, Karaoke And Other Acoustics (AREA)
  • Electrophonic Musical Instruments (AREA)
  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Abstract

【課題】映像に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化する。
【解決手段】映像に同期させて再生するための楽曲を選択する楽曲選択装置1であって、ユーザにより選択された映像の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する楽曲検索モジュール13を備える。また、楽曲検索モジュール13において、選択した映像の時系列特徴量に対する、同期再生の候補となる各楽曲の時系列特徴量の相関値を算出する。また、楽曲検索モジュール13において、選択した映像と同期再生の候補となる各楽曲の各時系列特徴量の相互相関係数を相関値として算出する。
【選択図】図1

Description

本発明は、映像に同期させて再生するための楽曲を選択する楽曲選択装置、楽曲選択方法および楽曲選択プログラムに関する。
従来から、携帯電話機やビデオカメラなどで、ショートムービーを撮影し、編集することが一般になってきている。例えば、映像にBGMを付与し、映像と同期をさせて同時に再生することで、映像に対する印象を操作し、魅力度を向上させることが行なわれている。
特許文献1には、利用者の意向に合った背景映像を表示させる音楽再生装置を提供するために、音楽が与えられたときに、映像データベースに含まれている映像から、対象となる映像を選出し、同期させて再生させる音楽再生装置が開示されている。
また、特許文献2には、楽曲データを映像の長さに同期させて再生するための、音楽と映像の同期再生装置および音楽と映像の同期再生方法が開示されている。この技術では、楽曲データを時間方向に区間分割し、映像の長さに合わせて音楽の長さを調整することで、映像と音楽を同期させて再生している。
また、特許文献3には、同時に演奏される音楽の拍位置と映像切り替えタイミングとを常に同期させる映像処理装置が開示されている。この技術では、音楽のテンポに合わせて映像のシーンを切り替えることによって同期を実現している。
また、非特許文献1には、入力となる映像に対して最適な音楽の検索するために、音楽と映像の美しさ(Aesthetic)を表現する検索空間を構築し、空間上で近接する映像と音楽を結び付けることによって、最適な音楽検索を実現する技術が開示されている。この技術では、検索空間は、映像の美しさを表現するために、事前に設定した重要な特徴量種別(ルール)を定義する。さらに手動で、上記Aestheticに記載された特徴量に対し、動画と音楽特徴成分を大・中・小の3カテゴリに分類し、学習データとする。最終的に、学習データから生起確率分布に従うと仮定して、Fuzzy Membership関数を計算し、メンバシップ関数に対する帰属度を計算し、ベクトル空間を作成することで、音楽検索を実現している。
また、非特許文献2には、ユーザ指定の音楽とビデオに対して、リズムや映像ショット切り替え、構造解析結果を特徴量として、音楽特徴量のパターンと映像特徴量のパターンマッチングによって、映像の部分区間を音楽に付与する技術が開示されている。この技術によれば、映像を素材としたミュージックビデオが作成できる。
また、非特許文献3には、非特許文献2と同様に、映像の部分区間を音楽に付与する技術が開示されている。非特許文献3では、映像の異なる部分は、主に特徴量の種別やマッチングの取り方が異なる音楽が付与される。
特開2006−163077号公報 特開2005−292243号公報 特開2005−141018号公報
Philippe Mulhem, Mohan S.Kankanhalli, Ji Yi and Hadi Hassan, Pivot Vector Space Approach for Audio-Video Mixing, IEEE Multimedia 2003, Vol.10, No.2, pp.28-40, 2003. Xian-Sheng HUA, Lie LU, Hong-Jiang ZHANG, Automatic Music Video Generation Based on Temporal Pattern Analysis, ACM MM’04, pp,472-475, October 10.16, 2004, New York, NY, USA. Jonathan Foote, Matthew Cooper, and Andreas Girgensohn, , ACM MM’02, pp.553-560, December 1-6, 2002, Juan-les-Pins, France.
しかしながら、従来の技術では、映像に音楽を付加しようとしても操作に熟練を要するため、非熟練者にとっては使いやすい技術であるとは言えなかった。また、特許文献1から3に開示された技術は、いずれも入力された音楽と映像とを同期させるための技術であるが、ユーザが予め音楽を選択しておく必要があるため、非熟練者にとっては、作業は容易ではない。
また、非特許文献1に開示された技術によれば、映像に適した音楽をBGMとして付与することができるが、精密な同期を取るところまでは検討されていない。ある映像にある音楽が適していたとしても、映像と音楽との同期がとれていなければ、ユーザにとって心地よい映像と音楽の再生とならないことがある。
また、非特許文献2および3に開示された技術では、入力された音楽を映像に同期させることはできるが、ユーザが予め音楽を選択しておく必要がある。このため、映像に適した音楽を選択するという点で、非熟練者にとって難易度の高い作業となってしまっている。また、非特許文献1に開示された技術によって得られた音楽に対し、非特許文献2および3に開示された技術を適用して、映像と音楽とを同期させることは可能だが、同期をさせる上で最適な音楽を選択することはできない。
本発明は、このような事情に鑑みてなされたものであり、映像に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化することができる楽曲選択装置、楽曲選択方法および楽曲選択プログラムを提供することを目的とする。
(1)上記の目的を達成するため、本発明は、以下のような手段を講じた。すなわち、本発明の楽曲選択装置は、動画に同期させて再生するための楽曲を選択する楽曲選択装置であって、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する楽曲選択部を備えることを特徴とする。
このように、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するので、動画に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化することが可能となる。
(2)また、本発明の楽曲選択装置は、前記選択された動画の時系列特徴量に対する、同期再生の候補となる各楽曲の時系列特徴量の相関値を算出する相関値算出部を更に備えることを特徴とする。
このように、選択された動画の時系列特徴量に対する、同期再生の候補となる各楽曲の時系列特徴量の相関値を算出するので、動画に付加するために好適な楽曲を選択することが可能となる。
(3)また、本発明の楽曲選択装置において、前記相関値算出部は、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量の相互相関係数を相関値として算出することを特徴とする。
このように、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量の相互相関係数を相関値として算出するので、動画に付加するために好適な楽曲を選択することが可能となる。
(4)また、本発明の楽曲選択装置において、前記相関値算出部は、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量のピークの合致数を相関値として算出することを特徴とする。
このように、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量のピークの合致数を相関値として算出するので、動画と楽曲との同期を確立させることが可能となる。
(5)また、本発明の楽曲選択装置において、前記相関値算出部は、前記選択された動画の時系列特徴量に対して、楽曲の時系列特徴量を時系列上で所定時間ずつ移動させて相関値を算出することを特徴とする。
このように、前記選択された動画の時系列特徴量に対して、楽曲の時系列特徴量を時系列上で所定時間ずつ移動させて相関値を算出するので、動画と楽曲との同期を確立させることが可能となる。
(6)また、本発明の楽曲選択装置は、ユーザによる感情情報の入力を受け付ける入力部と、前記入力された感情情報を属性情報として伴う楽曲を楽曲選択の候補として抽出する楽曲抽出部を更に備えることを特徴とする。
このように、ユーザによる感情情報の入力を受け付けて、前記入力された感情情報を属性情報として伴う楽曲を楽曲選択の候補として抽出するので、動画に同期させて再生するための好適な楽曲を自動的に選択することが可能となる。
(7)また、本発明の楽曲選択装置は、前記選択された動画および前記選択された楽曲の各時系列特徴量に基づいて前記選択された動画と前記選択された楽曲とを同期処理する同期処理部と、前記同期処理された動画および楽曲を同期させて再生する再生部と、を更に備えることを特徴とする。
このように、選択された動画および選択された楽曲の各時系列特徴量に基づいて選択された動画と選択された楽曲とを同期処理し、同期処理された動画および楽曲を同期させて再生するので、動画と楽曲とが同期し、ユーザにとって心地よい再生が可能となる。
(8)また、本発明の楽曲選択装置は、動画から時系列特徴量を抽出する動画特徴量抽出部と、前記時系列特徴量を抽出された動画データに前記抽出された時系列特徴量を対応付けて記憶する動画データベースと、楽曲から時系列特徴量を抽出する楽曲特徴量抽出部と、前記時系列特徴量を抽出された楽曲データに前記抽出された時系列特徴量を対応付けて記憶する楽曲データベースと、を更に備えることを特徴とする。
この構成により、動画に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化することが可能となる。
(9)また、本発明の楽曲選択方法は、動画に同期させて再生するための楽曲を選択する楽曲選択方法であって、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するステップを含むことを特徴とする。
このように、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するので、動画に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化することが可能となる。
(10)また、本発明の楽曲選択プログラムは、コンピュータに実行させることで、動画に同期させて再生するための楽曲を選択する楽曲選択プログラムであって、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する処理を含むことを特徴とする。
このように、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するので、動画に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化することが可能となる。
本発明によれば、ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するので、動画に同期させて再生するための楽曲を自動的に選択し、ユーザの楽曲選別作業を自動化することが可能となる。
本実施形態に係る楽曲選択装置の概略構成を示すブロック図である。 楽曲検索モジュール13の動作の概要を示すフローチャートである。 映像の特徴量について、Motion Actibityの変化度を用いて示したグラフである。 RMS特徴の変化度を示すグラフである。 RMS特徴の変化度を示すグラフである。 映像の特徴量と楽曲の特徴量とについて、特異スペクトル変換をして得られた相互相関を示すグラフである。 映像の特徴量と楽曲の特徴量とについて、特異スペクトル変換をして得られた相互相関を示すグラフである。
次に、本発明の実施の形態について、図面を参照しながら説明する。説明の理解を容易にするため、各図面において同一の構成要素に対しては同一の参照番号を付し、重複する説明は省略する。
本実施形態に係る楽曲選択装置は、映像に対して最も同期性の高い楽曲を自動で抽出し、同期性を算出する際の指標を同期再生処理時にも利用する手段を備える。なお、本明細書において、映像とは、動画を意味する。ただし、静止画像に対して適用することも可能である。
図1は、本実施形態に係る楽曲選択装置の概略構成を示すブロック図である。図1に示すように、本実施形態に係る楽曲選択装置は、2つのデータベースと、6つのモジュールとによって構成することができる。すなわち、楽曲選択装置1は、映像データベース3、音楽データベース5、入力モジュール7、映像解析モジュール9、音楽解析モジュール11、楽曲検索モジュール13、同期処理モジュール15、および再生モジュール17によって構成される。なお、楽曲検索モジュール13は、楽曲抽出部、相関値算出部および楽曲選択部を構成する。
映像データベース3は、通信によって得られたデータや、ユーザが撮影した映像ファイルを格納する。また、映像に関連付けられたメタ情報、特徴量、通信によって得られたデータ等を格納することができる。ここで、メタ情報は、例えば、感情を表現する様なラベルデータ(Happy、Sad、Anger、Tender、Sleepy、Excited)である。なお、本発明は、これに限定されるわけではない。
音楽データベース5は、通信によって得られたデータや、ユーザが所有する音楽データを格納する。また、音楽に関連付けられたメタ情報、特徴量、通信によって得られたデータ等を格納することができる。ここで、メタ情報は、映像データベースと同様に、例えば、感情を表現する様な感情ラベル(Happy、Sad、Anger、Tender、Sleepy、Excited)である。なお、本発明は、これに限定されるわけではない。
入力モジュール7は、ユーザからの入力を受け付けて、映像の選択結果や、映像に付与したい効果としての感情ラベルの選択結果を示す信号を出力する。
映像解析モジュール9は、映像と音楽とを同期させるための特徴量を抽出する。映像特徴量としては、例えば、Motion Activity、Motion Intensity、Sound Energy 等が挙げられる。これらの映像特徴量の抽出は、次の関連技術文献に開示された技術を利用することによって行なうことが可能である。
(関連技術文献1)
OpenCV http://opencv.jp/
さらに、映像特徴量を用いて、映像の時系列での変化を表現するための時系列特徴量を計算することができる。例えば、映像特徴量を時系列で加算した関数、一次差分を適用した関数、特異スペクトル変換等を適用した時系列の関数を利用することができる。
音楽解析モジュール11は、音楽と映像を同期させるために必要な特徴量を抽出し、感情情報を付与する。例えば、楽曲特徴量として、次の関連技術文献に開示された技術を利用して、Root Mean Square(RMS)、Spectral Centroid、CQT、MFCC、Spectrogram、Chromagram、KEY Strength等を抽出することができる。
(関連技術文献2)
Olivier Lartillot, Petri Toiviainen, "MIR in Matlab (II): A Toolbox for Musical Feature Extraction From Audio",?Proc. of ISMIR2007, Vienna, 2007.Bray, Stuart, Tzanetakis, George, “Distributed Audio Feature Extraction for Music”, Proc. of ISMIR2005, pp. 434-437, 2005
(関連技術文献3)
MATLAB http://www.mathworks.co.jp/
さらに、音楽に対して感情ラベルを付与することもできる。次の関連技術文献に開示された技術を利用して、楽曲の感情空間に対する分布に基づいて感情ラベルを付与することが可能である。
(関連技術文献4)
Tuomas Eerola, Olivier Lartillot, Petri Toiviainen, "Prediction of Multidimensional Emotional Ratings in Music From Audio Using Multivariate Regression Models", Proc. of ISMIR2009, Kobe, 2009.
(関連技術文献5)
Yi-Hsuan Yang, Yu-Ching Lin, Ya-Fan Su, and Homer H. Chen, “MUSIC EMOTION CLASSIFICATION: A REGRESSION APPROACH”, Proc. of ICME2007, pp.208-211.
音楽解析モジュール11においても、時系列特徴量を計算することが可能であり、音楽の時系列上での変化を表現する時系列特徴量を楽曲特徴量から計算する。例えば、RMSとSpectral Centroidを時系列で加算をした特徴量等を利用することが出来る。また、RMSやSpectral Centroid等を単体で利用することが可能である。そのほかにも、一次差分を適用した関数、特異スペクトル変換等を適用した時系列の関数を利用することができる。なお、本発明は、これらに限定されるわけではない。
楽曲検索モジュール13は、ユーザが入力した感情ラベルに基づいて、映像に付与するための音楽をデータベースより検索する。例えば、以下の手順にて実現することができる。
図2は、楽曲検索モジュール13の動作の概要を示すフローチャートである。
(第1ステップ)
ユーザが入力した感情情報に該当する楽曲群M及び各楽曲時系列特徴量を楽曲データベースから抽出する。以降、Mに属するある楽曲xの時系列特徴量をmx(t)と表記する(tは時刻)。
(第2ステップ)
ユーザが指定した映像及び映像時系列特徴量を映像データベースから抽出する。以下、ある映像yの時系列特徴量をvy(t)と表記する。
(第3ステップ)
全てのxに対して、mx(t)とvy(t)の相関を計算し、最も相関値の高い楽曲を選択する。例えば、mx(t)とvy(t)の最大相互相関係数を計算し、最大となる楽曲を選択することができる。また、そのほかにも、mx(t)とvy(t)からピーク時刻を抽出し、ピークの合致数を基準として最大となる楽曲を選択することなどが可能である。なお、相互相関係数は、以下の数式で算出することができる。次式において、相互相関関数Z(τ)のうち、τはずらし時間を表し、tは時刻を表す。相互相関関数Z(τ)は、二つの信号の類似性を表現している。Z(τ)が最大となるτを、最大相互相関係数τ_maxとして出力する。
Figure 2012015809

(第4ステップ)
相関が最大となる場合の時刻t_max及び、楽曲IDを出力する。
同期処理モジュール15は、映像データと、楽曲検索モジュールによって得られた楽曲IDに基づいて、楽曲とt_maxを取得し、t_maxに基づいて楽曲と映像を同期させる。楽曲において、時刻t_maxから映像データの長さ分だけの音楽データをクリッピングし、映像データにおける音声データとの加算により、映像データの音声データを更新する等により実現することができる。なお、必ずしも加算する必要はなく、音声データを入れ替えることなども可能である。
例えば、関連技術文献1において、mmread関数を利用することによって、映像から画像データと音声データを読みこむことが可能である。音声データにクリッピングされた音楽データを加算・置き換え、mmwrite関数を利用することで同期をとることができる。また、そのほかにも、非特許文献2等を利用して、ファイル出力・同期再生を実現することができる。
再生モジュール17は、同期処理モジュール15によって得られたファイルや、同期がとられた映像と音声データを実際に再生する。これにより、音楽と映像を同期再生することができる。
図3は、映像の特徴量について、Motion Actibityの変化度を用いて示したグラフである。図4は、RMS特徴の変化度を示すグラフであり、本実施形態において、良い例であるとする。図5は、RMS特徴の変化度を示すグラフであり、本実施形態において、悪い例であるとする。次に、映像と楽曲との相関を取る場合に、特異スペクトル変換を行なう。図6は、映像の特徴量と楽曲の特徴量とについて、特異スペクトル変換をして得られた相互相関を示すグラフであり、本実施形態において、良い例であるとする。すなわち、映像と楽曲との相関性が高い場合である。一方、図7は、映像の特徴量と楽曲の特徴量とについて、特異スペクトル変換をして得られた相互相関を示すグラフであり、本実施形態において、悪い例であるとする。すなわち、映像と楽曲との相関性が低い場合である。
以上説明したように、本実施形態に係る楽曲選択装置によれば、映像に対して最も同期性の高い楽曲を自動で選択することが可能となり、ユーザの楽曲選別の作業を自動化することができる。さらに、ユーザが指定した感情ラベルに基づいて、第一の楽曲抽出により得られた楽曲群から最も同期性の高い楽曲を抽出することで、ユーザ意図に適した同期再生が可能となる。
本発明に係るプログラムは、本発明に関わる上記実施形態の機能を実現するように、CPU等を制御するプログラム(コンピュータを機能させるプログラム)である。そして、これら装置で取り扱われる情報は、その処理時に一時的にRAMに蓄積され、その後、各種ROMやHDDに格納され、必要に応じてCPUによって読み出し、修正・書き込みが行なわれる。プログラムを格納する記録媒体としては、半導体媒体(例えば、ROM、不揮発性メモリカード等)、光記録媒体(例えば、DVD、MO、MD、CD、BD等)、磁気記録媒体(例えば、磁気テープ、フレキシブルディスク等)等のいずれであってもよい。
また、ロードしたプログラムを実行することにより、上述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、オペレーティングシステムあるいは他のアプリケーションプログラム等と共同して処理することにより、本発明の機能が実現される場合もある。また市場に流通させる場合には、可搬型の記録媒体にプログラムを格納して流通させたり、インターネット等のネットワークを介して接続されたサーバコンピュータに転送したりすることができる。この場合、サーバコンピュータの記憶装置も本発明に含まれる。
また、上述した楽曲選択装置の一部、または全部を典型的には集積回路であるLSIとして実現してもよい。楽曲選択装置の各機能ブロックは個別にチップ化してもよいし、一部、または全部を集積してチップ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現しても良い。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いることも可能である。
以上、この発明の実施形態を、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も特許請求の範囲に含まれる。
1 楽曲選択装置
3 映像データベース(DB)
5 音楽データベース(DB)
7 入力モジュール
9 映像解析モジュール
11 音楽解析モジュール
13 楽曲検索モジュール
15 同期処理モジュール
17 再生モジュール

Claims (10)

  1. 動画に同期させて再生するための楽曲を選択する楽曲選択装置であって、
    ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する楽曲選択部を備えることを特徴とする楽曲選択装置。
  2. 前記選択された動画の時系列特徴量に対する、同期再生の候補となる各楽曲の時系列特徴量の相関値を算出する相関値算出部を更に備えることを特徴とする請求項1記載の楽曲選択装置。
  3. 前記相関値算出部は、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量の相互相関係数を相関値として算出することを特徴とする請求項2記載の楽曲選択装置。
  4. 前記相関値算出部は、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量のピークの合致数を相関値として算出することを特徴とする請求項2記載の楽曲選択装置。
  5. 前記相関値算出部は、前記選択された動画の時系列特徴量に対して、楽曲の時系列特徴量を時系列上で所定時間ずつ移動させて相関値を算出することを特徴とする請求項2から請求項4のいずれかに記載の楽曲選択装置。
  6. ユーザによる感情情報の入力を受け付ける入力部と、
    前記入力された感情情報を属性情報として伴う楽曲を楽曲選択の候補として抽出する楽曲抽出部を更に備えることを特徴とする請求項1から請求項5のいずれかに記載の楽曲選択装置。
  7. 前記選択された動画および前記選択された楽曲の各時系列特徴量に基づいて前記選択された動画と前記選択された楽曲とを同期処理する同期処理部と、
    前記同期処理された動画および楽曲を同期させて再生する再生部と、を更に備えることを特徴とする請求項1から請求項6のいずれかに記載の楽曲選択装置。
  8. 動画から時系列特徴量を抽出する動画特徴量抽出部と、
    前記時系列特徴量を抽出された動画データに前記抽出された時系列特徴量を対応付けて記憶する動画データベースと、
    楽曲から時系列特徴量を抽出する楽曲特徴量抽出部と、
    前記時系列特徴量を抽出された楽曲データに前記抽出された時系列特徴量を対応付けて記憶する楽曲データベースと、を更に備えることを特徴とする請求項1から請求項7のいずれかに記載の楽曲選択装置。
  9. 動画に同期させて再生するための楽曲を選択する楽曲選択方法であって、
    ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するステップを含むことを特徴とする楽曲選択方法。
  10. コンピュータに実行させることで、動画に同期させて再生するための楽曲を選択する楽曲選択プログラムであって、
    ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する処理を含むことを特徴とする楽曲選択プログラム。
JP2010150464A 2010-06-30 2010-06-30 楽曲選択装置、楽曲選択方法および楽曲選択プログラム Pending JP2012015809A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010150464A JP2012015809A (ja) 2010-06-30 2010-06-30 楽曲選択装置、楽曲選択方法および楽曲選択プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010150464A JP2012015809A (ja) 2010-06-30 2010-06-30 楽曲選択装置、楽曲選択方法および楽曲選択プログラム

Publications (1)

Publication Number Publication Date
JP2012015809A true JP2012015809A (ja) 2012-01-19

Family

ID=45601709

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010150464A Pending JP2012015809A (ja) 2010-06-30 2010-06-30 楽曲選択装置、楽曲選択方法および楽曲選択プログラム

Country Status (1)

Country Link
JP (1) JP2012015809A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012032677A (ja) * 2010-08-02 2012-02-16 Sony Corp テンポ検出装置、テンポ検出方法およびプログラム
DE102013201145A1 (de) 2012-01-27 2013-08-01 Gs Yuasa International Ltd. Energiespeicher-Element, Metallkomponente sowie Verfahren zum Herstellen eines Energiespeicher-Elementes
CN106227840A (zh) * 2016-07-26 2016-12-14 广东小天才科技有限公司 歌曲搜索方法及装置
JP2019096189A (ja) * 2017-11-27 2019-06-20 Kddi株式会社 楽曲選択装置、楽曲選択方法及びプログラム
JP2019526987A (ja) * 2016-09-01 2019-09-19 フェイスブック,インク. 宣言命令に基づいてビデオコンテンツを動的に提供するためのシステムおよび方法
CN111625685A (zh) * 2019-02-27 2020-09-04 阿里巴巴集团控股有限公司 音乐电台呈现方法与装置、视频数据分类方法与装置

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1169290A (ja) * 1997-08-15 1999-03-09 Nippon Telegr & Teleph Corp <Ntt> 映像制作方法及び装置及びこの方法を記録した記録媒体
JP2001184357A (ja) * 1999-12-24 2001-07-06 Victor Co Of Japan Ltd マルチメディア素材検索装置
JP2003131659A (ja) * 2001-10-23 2003-05-09 Casio Comput Co Ltd 楽音発生装置および楽音発生方法
JP2003302971A (ja) * 2002-04-08 2003-10-24 Yamaha Corp 映像データ処理装置及び映像データ処理プログラム
JP2005204021A (ja) * 2004-01-15 2005-07-28 Matsushita Electric Ind Co Ltd 静止画再生装置
JP2005316943A (ja) * 2003-10-09 2005-11-10 Pioneer Electronic Corp 選曲装置及び方法
JP2006155042A (ja) * 2004-11-26 2006-06-15 Tokyo Denki Univ マルチメディア情報検索システム及びプログラム
JP2006301471A (ja) * 2005-04-25 2006-11-02 Sony Corp 音楽コンテンツの再生装置および音楽コンテンツ再生方法
WO2007037427A1 (ja) * 2005-09-30 2007-04-05 Pioneer Corporation コンテンツ検索装置、検索機能付きコンテンツ出力装置及びコンテンツ検索方法
JP2007171772A (ja) * 2005-12-26 2007-07-05 Clarion Co Ltd 音楽情報処理装置、音楽情報処理方法および制御プログラム
JP2008193561A (ja) * 2007-02-07 2008-08-21 Casio Comput Co Ltd 画像同期システム及び画像同期方法
JP2010044756A (ja) * 2008-07-18 2010-02-25 Univ Of Electro-Communications 情報処理装置、情報処理方法、及びプログラム
JP2010124475A (ja) * 2009-12-21 2010-06-03 Sony Corp 情報処理装置、情報処理方法、およびプログラム

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1169290A (ja) * 1997-08-15 1999-03-09 Nippon Telegr & Teleph Corp <Ntt> 映像制作方法及び装置及びこの方法を記録した記録媒体
JP2001184357A (ja) * 1999-12-24 2001-07-06 Victor Co Of Japan Ltd マルチメディア素材検索装置
JP2003131659A (ja) * 2001-10-23 2003-05-09 Casio Comput Co Ltd 楽音発生装置および楽音発生方法
JP2003302971A (ja) * 2002-04-08 2003-10-24 Yamaha Corp 映像データ処理装置及び映像データ処理プログラム
JP2005316943A (ja) * 2003-10-09 2005-11-10 Pioneer Electronic Corp 選曲装置及び方法
JP2005204021A (ja) * 2004-01-15 2005-07-28 Matsushita Electric Ind Co Ltd 静止画再生装置
JP2006155042A (ja) * 2004-11-26 2006-06-15 Tokyo Denki Univ マルチメディア情報検索システム及びプログラム
JP2006301471A (ja) * 2005-04-25 2006-11-02 Sony Corp 音楽コンテンツの再生装置および音楽コンテンツ再生方法
WO2007037427A1 (ja) * 2005-09-30 2007-04-05 Pioneer Corporation コンテンツ検索装置、検索機能付きコンテンツ出力装置及びコンテンツ検索方法
JP2007171772A (ja) * 2005-12-26 2007-07-05 Clarion Co Ltd 音楽情報処理装置、音楽情報処理方法および制御プログラム
JP2008193561A (ja) * 2007-02-07 2008-08-21 Casio Comput Co Ltd 画像同期システム及び画像同期方法
JP2010044756A (ja) * 2008-07-18 2010-02-25 Univ Of Electro-Communications 情報処理装置、情報処理方法、及びプログラム
JP2010124475A (ja) * 2009-12-21 2010-06-03 Sony Corp 情報処理装置、情報処理方法、およびプログラム

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
CSNG200900070005; 浜脇 修平、外4名: '楽曲の音響的特徴空間視覚化を利用した音楽検索システム' 情報処理学会研究報告 第2009巻、第13号, 20090211, p.29-34, 社団法人情報処理学会 *
CSNJ200910054115; 舟澤 慎太郎、外4名: '歌詞の印象に基づく楽曲検索のための楽曲自動分類に関する検討' 情報処理学会第71回(平成21年)全国大会講演論文集(2) 人工知能と認知科学 , 20090310, p.2-233 - 2-234, 社団法人情報処理学会 *
CSNJ201010051065; 小野 佑大、外4名: 'ホームビデオへの自動BGM付与のための心理学に基づく音楽分類手法' 情報処理学会創立50周年記念第72回(平成22年)全国大会講演論文集(2) 人工知能と認知科学 , 20100308, p.2-129 - 2-130, 社団法人情報処理学会 *
JPN6014002982; 浜脇 修平、外4名: '楽曲の音響的特徴空間視覚化を利用した音楽検索システム' 情報処理学会研究報告 第2009巻、第13号, 20090211, p.29-34, 社団法人情報処理学会 *
JPN6014002983; 舟澤 慎太郎、外4名: '歌詞の印象に基づく楽曲検索のための楽曲自動分類に関する検討' 情報処理学会第71回(平成21年)全国大会講演論文集(2) 人工知能と認知科学 , 20090310, p.2-233 - 2-234, 社団法人情報処理学会 *
JPN6014002984; 小野 佑大、外4名: 'ホームビデオへの自動BGM付与のための心理学に基づく音楽分類手法' 情報処理学会創立50周年記念第72回(平成22年)全国大会講演論文集(2) 人工知能と認知科学 , 20100308, p.2-129 - 2-130, 社団法人情報処理学会 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012032677A (ja) * 2010-08-02 2012-02-16 Sony Corp テンポ検出装置、テンポ検出方法およびプログラム
DE102013201145A1 (de) 2012-01-27 2013-08-01 Gs Yuasa International Ltd. Energiespeicher-Element, Metallkomponente sowie Verfahren zum Herstellen eines Energiespeicher-Elementes
CN106227840A (zh) * 2016-07-26 2016-12-14 广东小天才科技有限公司 歌曲搜索方法及装置
JP2019526987A (ja) * 2016-09-01 2019-09-19 フェイスブック,インク. 宣言命令に基づいてビデオコンテンツを動的に提供するためのシステムおよび方法
JP2019096189A (ja) * 2017-11-27 2019-06-20 Kddi株式会社 楽曲選択装置、楽曲選択方法及びプログラム
CN111625685A (zh) * 2019-02-27 2020-09-04 阿里巴巴集团控股有限公司 音乐电台呈现方法与装置、视频数据分类方法与装置
CN111625685B (zh) * 2019-02-27 2023-04-07 阿里巴巴集团控股有限公司 音乐电台呈现方法与装置、视频数据分类方法与装置

Similar Documents

Publication Publication Date Title
Lee et al. Music similarity-based approach to generating dance motion sequence
US10089392B2 (en) Automatically selecting thematically representative music
EP2203869B1 (en) Generating music playlist based on facial expression
EP1745463B1 (en) Method of and system for classification of an audio signal
US7777121B2 (en) Information processing apparatus, information processing method, and computer program
US8321412B2 (en) Digital data processing method for personalized information retrieval and computer readable storage medium and information retrieval system thereof
Gillet et al. On the correlation of automatic audio and visual segmentations of music videos
JP2012015809A (ja) 楽曲選択装置、楽曲選択方法および楽曲選択プログラム
CN103714104B (zh) 使用环境上下文回答问题
Kuo et al. Background music recommendation for video based on multimodal latent semantic analysis
US9576050B1 (en) Generating a playlist based on input acoustic information
US10104356B2 (en) Scenario generation system, scenario generation method and scenario generation program
US20210082382A1 (en) Method and System for Pairing Visual Content with Audio Content
US20130132988A1 (en) System and method for content recommendation
JP2008090612A (ja) 情報処理装置および方法、プログラム、並びに記録媒体
CN113781989A (zh) 一种音频的动画播放、节奏卡点识别方法及相关装置
JP2003084783A (ja) 音楽データ再生装置、音楽データ再生方法、音楽データ再生プログラム、並びに音楽データ再生プログラムを記録した記録媒体
CN110070891A (zh) 一种歌曲识别方法、装置以及存储介质
US11410706B2 (en) Content pushing method for display device, pushing device and display device
KR20120021174A (ko) 감정 모델을 이용한 음악 검색 장치 및 방법
JP2010044756A (ja) 情報処理装置、情報処理方法、及びプログラム
Xu et al. Automatic generation of music slide show using personal photos
WO2017107309A1 (zh) 控制方法、控制装置、终端及音频同步播放系统
JP4597714B2 (ja) 情報検索装置および方法ならびにコンピュータプログラム
Doğan et al. A flexible and scalable audio information retrieval system for mixed‐type audio signals

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140117

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140403

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150115

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20150728