JP2012015809A - 楽曲選択装置、楽曲選択方法および楽曲選択プログラム - Google Patents
楽曲選択装置、楽曲選択方法および楽曲選択プログラム Download PDFInfo
- Publication number
- JP2012015809A JP2012015809A JP2010150464A JP2010150464A JP2012015809A JP 2012015809 A JP2012015809 A JP 2012015809A JP 2010150464 A JP2010150464 A JP 2010150464A JP 2010150464 A JP2010150464 A JP 2010150464A JP 2012015809 A JP2012015809 A JP 2012015809A
- Authority
- JP
- Japan
- Prior art keywords
- music
- time
- series feature
- video
- moving image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Reverberation, Karaoke And Other Acoustics (AREA)
- Electrophonic Musical Instruments (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】映像に同期させて再生するための楽曲を選択する楽曲選択装置1であって、ユーザにより選択された映像の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する楽曲検索モジュール13を備える。また、楽曲検索モジュール13において、選択した映像の時系列特徴量に対する、同期再生の候補となる各楽曲の時系列特徴量の相関値を算出する。また、楽曲検索モジュール13において、選択した映像と同期再生の候補となる各楽曲の各時系列特徴量の相互相関係数を相関値として算出する。
【選択図】図1
Description
(関連技術文献1)
OpenCV http://opencv.jp/
(関連技術文献2)
Olivier Lartillot, Petri Toiviainen, "MIR in Matlab (II): A Toolbox for Musical Feature Extraction From Audio",?Proc. of ISMIR2007, Vienna, 2007.Bray, Stuart, Tzanetakis, George, “Distributed Audio Feature Extraction for Music”, Proc. of ISMIR2005, pp. 434-437, 2005
(関連技術文献3)
MATLAB http://www.mathworks.co.jp/
Tuomas Eerola, Olivier Lartillot, Petri Toiviainen, "Prediction of Multidimensional Emotional Ratings in Music From Audio Using Multivariate Regression Models", Proc. of ISMIR2009, Kobe, 2009.
(関連技術文献5)
Yi-Hsuan Yang, Yu-Ching Lin, Ya-Fan Su, and Homer H. Chen, “MUSIC EMOTION CLASSIFICATION: A REGRESSION APPROACH”, Proc. of ICME2007, pp.208-211.
(第1ステップ)
ユーザが入力した感情情報に該当する楽曲群M及び各楽曲時系列特徴量を楽曲データベースから抽出する。以降、Mに属するある楽曲xの時系列特徴量をmx(t)と表記する(tは時刻)。
ユーザが指定した映像及び映像時系列特徴量を映像データベースから抽出する。以下、ある映像yの時系列特徴量をvy(t)と表記する。
全てのxに対して、mx(t)とvy(t)の相関を計算し、最も相関値の高い楽曲を選択する。例えば、mx(t)とvy(t)の最大相互相関係数を計算し、最大となる楽曲を選択することができる。また、そのほかにも、mx(t)とvy(t)からピーク時刻を抽出し、ピークの合致数を基準として最大となる楽曲を選択することなどが可能である。なお、相互相関係数は、以下の数式で算出することができる。次式において、相互相関関数Z(τ)のうち、τはずらし時間を表し、tは時刻を表す。相互相関関数Z(τ)は、二つの信号の類似性を表現している。Z(τ)が最大となるτを、最大相互相関係数τ_maxとして出力する。
3 映像データベース(DB)
5 音楽データベース(DB)
7 入力モジュール
9 映像解析モジュール
11 音楽解析モジュール
13 楽曲検索モジュール
15 同期処理モジュール
17 再生モジュール
Claims (10)
- 動画に同期させて再生するための楽曲を選択する楽曲選択装置であって、
ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する楽曲選択部を備えることを特徴とする楽曲選択装置。 - 前記選択された動画の時系列特徴量に対する、同期再生の候補となる各楽曲の時系列特徴量の相関値を算出する相関値算出部を更に備えることを特徴とする請求項1記載の楽曲選択装置。
- 前記相関値算出部は、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量の相互相関係数を相関値として算出することを特徴とする請求項2記載の楽曲選択装置。
- 前記相関値算出部は、前記選択された動画と前記同期再生の候補となる各楽曲の各時系列特徴量のピークの合致数を相関値として算出することを特徴とする請求項2記載の楽曲選択装置。
- 前記相関値算出部は、前記選択された動画の時系列特徴量に対して、楽曲の時系列特徴量を時系列上で所定時間ずつ移動させて相関値を算出することを特徴とする請求項2から請求項4のいずれかに記載の楽曲選択装置。
- ユーザによる感情情報の入力を受け付ける入力部と、
前記入力された感情情報を属性情報として伴う楽曲を楽曲選択の候補として抽出する楽曲抽出部を更に備えることを特徴とする請求項1から請求項5のいずれかに記載の楽曲選択装置。 - 前記選択された動画および前記選択された楽曲の各時系列特徴量に基づいて前記選択された動画と前記選択された楽曲とを同期処理する同期処理部と、
前記同期処理された動画および楽曲を同期させて再生する再生部と、を更に備えることを特徴とする請求項1から請求項6のいずれかに記載の楽曲選択装置。 - 動画から時系列特徴量を抽出する動画特徴量抽出部と、
前記時系列特徴量を抽出された動画データに前記抽出された時系列特徴量を対応付けて記憶する動画データベースと、
楽曲から時系列特徴量を抽出する楽曲特徴量抽出部と、
前記時系列特徴量を抽出された楽曲データに前記抽出された時系列特徴量を対応付けて記憶する楽曲データベースと、を更に備えることを特徴とする請求項1から請求項7のいずれかに記載の楽曲選択装置。 - 動画に同期させて再生するための楽曲を選択する楽曲選択方法であって、
ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択するステップを含むことを特徴とする楽曲選択方法。 - コンピュータに実行させることで、動画に同期させて再生するための楽曲を選択する楽曲選択プログラムであって、
ユーザにより選択された動画の時系列特徴量に対して相関の高い時系列特徴量を有する楽曲を選択する処理を含むことを特徴とする楽曲選択プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010150464A JP2012015809A (ja) | 2010-06-30 | 2010-06-30 | 楽曲選択装置、楽曲選択方法および楽曲選択プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010150464A JP2012015809A (ja) | 2010-06-30 | 2010-06-30 | 楽曲選択装置、楽曲選択方法および楽曲選択プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2012015809A true JP2012015809A (ja) | 2012-01-19 |
Family
ID=45601709
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010150464A Pending JP2012015809A (ja) | 2010-06-30 | 2010-06-30 | 楽曲選択装置、楽曲選択方法および楽曲選択プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2012015809A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012032677A (ja) * | 2010-08-02 | 2012-02-16 | Sony Corp | テンポ検出装置、テンポ検出方法およびプログラム |
DE102013201145A1 (de) | 2012-01-27 | 2013-08-01 | Gs Yuasa International Ltd. | Energiespeicher-Element, Metallkomponente sowie Verfahren zum Herstellen eines Energiespeicher-Elementes |
CN106227840A (zh) * | 2016-07-26 | 2016-12-14 | 广东小天才科技有限公司 | 歌曲搜索方法及装置 |
JP2019096189A (ja) * | 2017-11-27 | 2019-06-20 | Kddi株式会社 | 楽曲選択装置、楽曲選択方法及びプログラム |
JP2019526987A (ja) * | 2016-09-01 | 2019-09-19 | フェイスブック,インク. | 宣言命令に基づいてビデオコンテンツを動的に提供するためのシステムおよび方法 |
CN111625685A (zh) * | 2019-02-27 | 2020-09-04 | 阿里巴巴集团控股有限公司 | 音乐电台呈现方法与装置、视频数据分类方法与装置 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1169290A (ja) * | 1997-08-15 | 1999-03-09 | Nippon Telegr & Teleph Corp <Ntt> | 映像制作方法及び装置及びこの方法を記録した記録媒体 |
JP2001184357A (ja) * | 1999-12-24 | 2001-07-06 | Victor Co Of Japan Ltd | マルチメディア素材検索装置 |
JP2003131659A (ja) * | 2001-10-23 | 2003-05-09 | Casio Comput Co Ltd | 楽音発生装置および楽音発生方法 |
JP2003302971A (ja) * | 2002-04-08 | 2003-10-24 | Yamaha Corp | 映像データ処理装置及び映像データ処理プログラム |
JP2005204021A (ja) * | 2004-01-15 | 2005-07-28 | Matsushita Electric Ind Co Ltd | 静止画再生装置 |
JP2005316943A (ja) * | 2003-10-09 | 2005-11-10 | Pioneer Electronic Corp | 選曲装置及び方法 |
JP2006155042A (ja) * | 2004-11-26 | 2006-06-15 | Tokyo Denki Univ | マルチメディア情報検索システム及びプログラム |
JP2006301471A (ja) * | 2005-04-25 | 2006-11-02 | Sony Corp | 音楽コンテンツの再生装置および音楽コンテンツ再生方法 |
WO2007037427A1 (ja) * | 2005-09-30 | 2007-04-05 | Pioneer Corporation | コンテンツ検索装置、検索機能付きコンテンツ出力装置及びコンテンツ検索方法 |
JP2007171772A (ja) * | 2005-12-26 | 2007-07-05 | Clarion Co Ltd | 音楽情報処理装置、音楽情報処理方法および制御プログラム |
JP2008193561A (ja) * | 2007-02-07 | 2008-08-21 | Casio Comput Co Ltd | 画像同期システム及び画像同期方法 |
JP2010044756A (ja) * | 2008-07-18 | 2010-02-25 | Univ Of Electro-Communications | 情報処理装置、情報処理方法、及びプログラム |
JP2010124475A (ja) * | 2009-12-21 | 2010-06-03 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
-
2010
- 2010-06-30 JP JP2010150464A patent/JP2012015809A/ja active Pending
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1169290A (ja) * | 1997-08-15 | 1999-03-09 | Nippon Telegr & Teleph Corp <Ntt> | 映像制作方法及び装置及びこの方法を記録した記録媒体 |
JP2001184357A (ja) * | 1999-12-24 | 2001-07-06 | Victor Co Of Japan Ltd | マルチメディア素材検索装置 |
JP2003131659A (ja) * | 2001-10-23 | 2003-05-09 | Casio Comput Co Ltd | 楽音発生装置および楽音発生方法 |
JP2003302971A (ja) * | 2002-04-08 | 2003-10-24 | Yamaha Corp | 映像データ処理装置及び映像データ処理プログラム |
JP2005316943A (ja) * | 2003-10-09 | 2005-11-10 | Pioneer Electronic Corp | 選曲装置及び方法 |
JP2005204021A (ja) * | 2004-01-15 | 2005-07-28 | Matsushita Electric Ind Co Ltd | 静止画再生装置 |
JP2006155042A (ja) * | 2004-11-26 | 2006-06-15 | Tokyo Denki Univ | マルチメディア情報検索システム及びプログラム |
JP2006301471A (ja) * | 2005-04-25 | 2006-11-02 | Sony Corp | 音楽コンテンツの再生装置および音楽コンテンツ再生方法 |
WO2007037427A1 (ja) * | 2005-09-30 | 2007-04-05 | Pioneer Corporation | コンテンツ検索装置、検索機能付きコンテンツ出力装置及びコンテンツ検索方法 |
JP2007171772A (ja) * | 2005-12-26 | 2007-07-05 | Clarion Co Ltd | 音楽情報処理装置、音楽情報処理方法および制御プログラム |
JP2008193561A (ja) * | 2007-02-07 | 2008-08-21 | Casio Comput Co Ltd | 画像同期システム及び画像同期方法 |
JP2010044756A (ja) * | 2008-07-18 | 2010-02-25 | Univ Of Electro-Communications | 情報処理装置、情報処理方法、及びプログラム |
JP2010124475A (ja) * | 2009-12-21 | 2010-06-03 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
Non-Patent Citations (6)
Title |
---|
CSNG200900070005; 浜脇 修平、外4名: '楽曲の音響的特徴空間視覚化を利用した音楽検索システム' 情報処理学会研究報告 第2009巻、第13号, 20090211, p.29-34, 社団法人情報処理学会 * |
CSNJ200910054115; 舟澤 慎太郎、外4名: '歌詞の印象に基づく楽曲検索のための楽曲自動分類に関する検討' 情報処理学会第71回(平成21年)全国大会講演論文集(2) 人工知能と認知科学 , 20090310, p.2-233 - 2-234, 社団法人情報処理学会 * |
CSNJ201010051065; 小野 佑大、外4名: 'ホームビデオへの自動BGM付与のための心理学に基づく音楽分類手法' 情報処理学会創立50周年記念第72回(平成22年)全国大会講演論文集(2) 人工知能と認知科学 , 20100308, p.2-129 - 2-130, 社団法人情報処理学会 * |
JPN6014002982; 浜脇 修平、外4名: '楽曲の音響的特徴空間視覚化を利用した音楽検索システム' 情報処理学会研究報告 第2009巻、第13号, 20090211, p.29-34, 社団法人情報処理学会 * |
JPN6014002983; 舟澤 慎太郎、外4名: '歌詞の印象に基づく楽曲検索のための楽曲自動分類に関する検討' 情報処理学会第71回(平成21年)全国大会講演論文集(2) 人工知能と認知科学 , 20090310, p.2-233 - 2-234, 社団法人情報処理学会 * |
JPN6014002984; 小野 佑大、外4名: 'ホームビデオへの自動BGM付与のための心理学に基づく音楽分類手法' 情報処理学会創立50周年記念第72回(平成22年)全国大会講演論文集(2) 人工知能と認知科学 , 20100308, p.2-129 - 2-130, 社団法人情報処理学会 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012032677A (ja) * | 2010-08-02 | 2012-02-16 | Sony Corp | テンポ検出装置、テンポ検出方法およびプログラム |
DE102013201145A1 (de) | 2012-01-27 | 2013-08-01 | Gs Yuasa International Ltd. | Energiespeicher-Element, Metallkomponente sowie Verfahren zum Herstellen eines Energiespeicher-Elementes |
CN106227840A (zh) * | 2016-07-26 | 2016-12-14 | 广东小天才科技有限公司 | 歌曲搜索方法及装置 |
JP2019526987A (ja) * | 2016-09-01 | 2019-09-19 | フェイスブック,インク. | 宣言命令に基づいてビデオコンテンツを動的に提供するためのシステムおよび方法 |
JP2019096189A (ja) * | 2017-11-27 | 2019-06-20 | Kddi株式会社 | 楽曲選択装置、楽曲選択方法及びプログラム |
CN111625685A (zh) * | 2019-02-27 | 2020-09-04 | 阿里巴巴集团控股有限公司 | 音乐电台呈现方法与装置、视频数据分类方法与装置 |
CN111625685B (zh) * | 2019-02-27 | 2023-04-07 | 阿里巴巴集团控股有限公司 | 音乐电台呈现方法与装置、视频数据分类方法与装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Lee et al. | Music similarity-based approach to generating dance motion sequence | |
US10089392B2 (en) | Automatically selecting thematically representative music | |
EP2203869B1 (en) | Generating music playlist based on facial expression | |
EP1745463B1 (en) | Method of and system for classification of an audio signal | |
US7777121B2 (en) | Information processing apparatus, information processing method, and computer program | |
US8321412B2 (en) | Digital data processing method for personalized information retrieval and computer readable storage medium and information retrieval system thereof | |
Gillet et al. | On the correlation of automatic audio and visual segmentations of music videos | |
JP2012015809A (ja) | 楽曲選択装置、楽曲選択方法および楽曲選択プログラム | |
CN103714104B (zh) | 使用环境上下文回答问题 | |
Kuo et al. | Background music recommendation for video based on multimodal latent semantic analysis | |
US9576050B1 (en) | Generating a playlist based on input acoustic information | |
US10104356B2 (en) | Scenario generation system, scenario generation method and scenario generation program | |
US20210082382A1 (en) | Method and System for Pairing Visual Content with Audio Content | |
US20130132988A1 (en) | System and method for content recommendation | |
JP2008090612A (ja) | 情報処理装置および方法、プログラム、並びに記録媒体 | |
CN113781989A (zh) | 一种音频的动画播放、节奏卡点识别方法及相关装置 | |
JP2003084783A (ja) | 音楽データ再生装置、音楽データ再生方法、音楽データ再生プログラム、並びに音楽データ再生プログラムを記録した記録媒体 | |
CN110070891A (zh) | 一种歌曲识别方法、装置以及存储介质 | |
US11410706B2 (en) | Content pushing method for display device, pushing device and display device | |
KR20120021174A (ko) | 감정 모델을 이용한 음악 검색 장치 및 방법 | |
JP2010044756A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
Xu et al. | Automatic generation of music slide show using personal photos | |
WO2017107309A1 (zh) | 控制方法、控制装置、终端及音频同步播放系统 | |
JP4597714B2 (ja) | 情報検索装置および方法ならびにコンピュータプログラム | |
Doğan et al. | A flexible and scalable audio information retrieval system for mixed‐type audio signals |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130306 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140204 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140403 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20141118 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150115 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150728 |