CN108766463A - 电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 - Google Patents
电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 Download PDFInfo
- Publication number
- CN108766463A CN108766463A CN201810403208.6A CN201810403208A CN108766463A CN 108766463 A CN108766463 A CN 108766463A CN 201810403208 A CN201810403208 A CN 201810403208A CN 108766463 A CN108766463 A CN 108766463A
- Authority
- CN
- China
- Prior art keywords
- music
- dynamics
- sample
- model
- music dynamics
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 238000013135 deep learning Methods 0.000 title claims abstract description 38
- 238000012549 training Methods 0.000 claims abstract description 68
- 238000012360 testing method Methods 0.000 claims description 45
- 230000002457 bidirectional effect Effects 0.000 claims description 35
- 230000015654 memory Effects 0.000 claims description 19
- 238000003062 neural network model Methods 0.000 claims description 17
- 238000013528 artificial neural network Methods 0.000 claims description 14
- 210000002569 neuron Anatomy 0.000 claims description 12
- 238000005259 measurement Methods 0.000 claims description 11
- 238000012545 processing Methods 0.000 claims description 5
- 230000000694 effects Effects 0.000 abstract description 9
- 230000006870 function Effects 0.000 description 14
- 238000004891 communication Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 210000004218 nerve net Anatomy 0.000 description 4
- 230000008451 emotion Effects 0.000 description 2
- 230000002996 emotional effect Effects 0.000 description 2
- 230000002085 persistent effect Effects 0.000 description 2
- 230000002787 reinforcement Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000011017 operating method Methods 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
- G10H2210/00—Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
- G10H2210/031—Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
- G10H2210/00—Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
- G10H2210/031—Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
- G10H2210/071—Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for rhythm pattern analysis or rhythm style recognition
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- Human Computer Interaction (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Auxiliary Devices For Music (AREA)
Abstract
本发明公开了一种电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质,所述方法通过获取待演奏的乐曲对应的乐谱;根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;根据标注的音乐力度,确定该乐曲的演奏风格。能够提高演奏初学者的学习效率及效果,且该方法简单灵活实用性强。
Description
技术领域
本发明涉互深度学习领域,尤其涉及一种电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质。
背景技术
音乐力度标记,是作曲家对音乐作品中音的强弱程度的标记,可作为表演力度的提示信号,通过这些提示信号,演奏者会更有依据地领会乐曲的总体表演力度、结构和逻辑。所以,音乐力度标记对演奏好乐曲起着非常重要的作用。但是,在实际应用中,音乐力度标记通常是非常概括的,且乐曲中真正存在着的细微、复杂的力度关系,是无法准确标记的,导致演奏者很难准确地演奏出乐曲的风格,且影响演奏初学者的学习效率及效果。
发明内容
有鉴于此,本发明提出一种电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质,能够快速准确地标记出乐谱中的音乐力度,使得演奏者准确演奏乐曲风格,提高演奏初学者的学习效率及效果。
首先,为实现上述目的,本发明提出一种电子装置,所述电子装置包括存储器、及与所述存储器连接的处理器,所述处理器用于执行所述存储器上存储的基于深度学习的乐曲演奏风格识别程序,所述基于深度学习的乐曲演奏风格识别程序被所述处理器执行时实现如下步骤:
获取待演奏的乐曲对应的乐谱;
根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
根据标注的音乐力度,确定该乐曲的演奏风格。
进一步地,所述预先确定的音乐力度标注模型包括模型训练过程及模型测试过程,所述模型训练过程包括如下步骤:
E、从预先确定的数据源中获取预设数量的标注了音乐力度的乐谱,构成预设数量的样本;
F、将所述样本分为第一比例的训练子集和第二比例的测试子集;
G、利用所述训练子集中的样本训练所述音乐力度标注模型,以得到训练好的音乐力度标注模型;
H、利用所述测试子集中的样本对所述训练好的音乐力度标注模型进行测试,若测试通过,则训练结束,或者,若测试不通过,则增加所述测试子集中的样本数量并重新执行上述步骤E、F、G、H。
进一步地,所述模型测试过程包括如下步骤:
利用训练好的音乐力度标注模型分别对所述测试子集中的样本进行音乐力度标注,以得到标注了音乐力度的样本;
分别将各个标注了音乐力度的样本与预存的各个样本的标准音乐力度进行比较;
若标注了音乐力度的样本与预存的各个样本的标准音乐力度相比,误差率大于预设的误差阈值的标注了音乐力度的样本数大于预设的样本数阈值,则确定针对该音乐力度标注模型的测试不通过;
或者,若分析得到的误差率小于或等于预设的误差阈值的标注了音乐力度的样本数小于预设的样本数阈值,则确定针对该音乐力度标注模型的测试通过。
进一步地,所述预先确定的音乐力度标注模型为预先训练完成的双向循环神经网络模型;所述双向循环神经网络模型包括双向循环神经网络的神经元节点以及全链接层;
所述双向循环神经网络的神经元节点包括四层,分别为输入层,前向层、反馈层、以及输出层;所述前向层和所述反馈层共同构成隐含层,所述隐含层包括两个输出通道,其中,一个输出通道与所述输出层连接,另一个输出通道与所述隐含层的输入通道连接;所述输出层与所述全链接层连接,输出带有音乐力度标注的乐谱。
进一步地,双向循环神经网络模型为Lest长短记忆双向循环神经网络模型。
此外,为实现上述目的,本发明还提供一种基于深度学习的乐曲演奏风格识别方法,该方法包括如下步骤:
获取待演奏的乐曲对应的乐谱;
根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
根据标注的音乐力度,确定该乐曲的演奏风格。
进一步地,所述预先确定的音乐力度标注模型包括模型训练过程及模型测试过程,所述模型训练过程包括如下步骤:
E、从预先确定的数据源中获取预设数量的标注了音乐力度的乐谱,构成预设数量的样本;
F、将所述样本分为第一比例的训练子集和第二比例的测试子集;
G、利用所述训练子集中的样本训练所述音乐力度标注模型,以得到训练好的音乐力度标注模型;
H、利用所述测试子集中的样本对所述训练好的音乐力度标注模型进行测试,若测试通过,则训练结束,或者,若测试不通过,则增加所述测试子集中的样本数量并重新执行上述步骤E、F、G、H。
进一步地,所述模型测试过程包括如下步骤:
利用训练好的音乐力度标注模型分别对所述测试子集中的样本进行音乐力度标注,以得到标注了音乐力度的样本;
分别将各个标注了音乐力度的样本与预存的各个样本的标准音乐力度进行比较;
若标注了音乐力度的样本与预存的各个样本的标准音乐力度相比,误差率大于预设的误差阈值的标注了音乐力度的样本数大于预设的样本数阈值,则确定针对该音乐力度标注模型的测试不通过;
或者,若分析得到的误差率小于或等于预设的误差阈值的标注了音乐力度的样本数小于预设的样本数阈值,则确定针对该音乐力度标注模型的测试通过。
进一步地,所述预先确定的音乐力度标注模型为预先训练完成的双向循环神经网络模型;所述双向循环神经网络模型包括双向循环神经网络的神经元节点以及全链接层;
所述双向循环神经网络的神经元节点包括四层,分别为输入层,前向层、反馈层、以及输出层;所述前向层和所述反馈层共同构成隐含层,所述隐含层包括两个输出通道,其中,一个输出通道与所述输出层连接,另一个输出通道与所述隐含层的输入通道连接;所述输出层与所述全链接层连接,输出带有音乐力度标注的乐谱。
此外,为实现上述目的,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质存储基于深度学习的乐曲演奏风格识别程序,所述基于深度学习的乐曲演奏风格识别程序可被至少一个处理器执行,以使所述至少一个处理器执行如上述的基于深度学习的乐曲演奏风格识别方法的步骤。
相较于现有技术,本发明所提出的电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质,所述方法通过获取待演奏的乐曲对应的乐谱;根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;根据标注的音乐力度,确定该乐曲的演奏风格。能够提高演奏初学者的学习效率及效果,且该方法简单灵活实用性强。
附图说明
图1是本发明提出的电子装置一可选的硬件架构的示意图;
图2是本发明电子装置一实施例中基于深度学习的乐曲演奏风格识别程序的程序模块示意图;
图3是本发明基于深度学习的乐曲演奏风格识别方法较佳实施例的实施流程图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在本发明中涉及“第一”、“第二”等的描述仅用于描述目的,而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外,各个实施例之间的技术方案可以相互结合,但是必须是以本领域普通技术人员能够实现为基础,当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在,也不在本发明要求的保护范围之内。
参阅图1所示,是本发明提出的电子装置一可选的硬件架构示意图。本实施例中,电子装置10可包括,但不仅限于,可通过通信总线14相互通信连接存储器11、处理器12、网络接口13。需要指出的是,图1仅示出了具有组件11-14的电子装置10,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。
其中,存储器11至少包括一种类型的计算机可读存储介质,计算机可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,存储器11可以是电子装置10的内部存储单元,例如电子装置10的硬盘或内存。在另一些实施例中,存储器11也可以是电子装置10的外包存储设备,例如电子装置10上配备的插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。当然,存储器11还可以既包括电子装置10的内部存储单元也包括其外包存储设备。本实施例中,存储器11通常用于存储安装于电子装置10的操作系统和各类应用软件,例如基于深度学习的乐曲演奏风格识别程序等。此外,存储器11还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器12在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。处理器12通常用于控制电子装置10的总体操作。本实施例中,处理器12用于运行存储器11中存储的程序代码或者处理数据,例如运行的基于深度学习的乐曲演奏风格识别程序等。
网络接口13可包括无线网络接口或有线网络接口,网络接口13通常用于在电子装置10与其他电子设备之间建立通信连接。
通信总线14用于实现组件11-13之间的通信连接。
图1仅示出了具有组件11-14以及基于深度学习的乐曲演奏风格识别程序的电子装置10,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。
可选地,电子装置10还可以包括用户接口(图1中未示出),用户接口可以包括显示器、输入单元比如键盘,其中,用户接口还可以包括标准的有线接口、无线接口等。
可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED触摸器等。进一步地,显示器也可称为显示屏或显示单元,用于显示在电子装置10中处理信息以及用于显示可视化的用户界面。
在一实施例中,存储器11中存储的基于深度学习的乐曲演奏风格识别程序被处理器12执行时,实现如下操作:
获取待演奏的乐曲对应的乐谱;
根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
根据标注的音乐力度,确定该乐曲的演奏风格。
通常,乐谱指的是用大量的特殊符号来标记乐曲中音长和音高,以及借用其他方式来记录音乐的方法,但是音乐是一种有着丰富情感表达的艺术形式,乐谱仅仅能够帮助人们机械的记录和“阅读”音乐。如果想要更好地表现出音乐的表现力,就必须对音乐加入一些标记,该标记可以是作曲家在乐谱上做的笔记,或者是演奏者做的标记,目的都是表达或者理解音乐的深层内涵,通常将该标记称为音乐力度。
音乐力度即音乐中音的强弱程度。音乐力度的标记可以是,例如强弱程度固定的、逐渐改变强度的、改变强度的等;其中,强弱程度固定的音乐力度包括:强、中强、极强、弱、中弱、极弱;逐渐改变强度的音乐力度包括:加强、逐渐加强、减弱、逐渐减弱;改变强度的音乐力度包括:较强、强度较差、个别音的加强。
通常,音乐中标注的音乐力度可以表达作品所需的感情基调乃至音乐主题、音乐意境、音乐作用,例如摇篮曲的总体力度肯定是弱的,而表现英勇奋战的音乐作品的总体力度肯定是强的,等等。此外,有的作品通过增加力度对比,从而增加了戏剧性,让音乐生动传神。有的时候,音乐分好几个声部,如果作曲家想要突出某个声部,那么可以在那个声部处标注上强奏的力度记号,在其他声部上标注弱奏的力度记号,从而达到主次分明。还有很多很多情况。总之,力度标记对于音乐表现有着巨大作用,例如演奏者可以根据标注的音乐力度,确定对应乐曲的演奏风格等。
在本实施例中,首先获取待演奏的乐曲对应的乐谱,然后根据预先训练完成的音乐力度标注模型对获取的乐谱进行力度标注,以标注出待演奏的乐曲对应的乐谱中的音乐力度,最后根据标注的音乐力度,确定该乐曲的演奏风格。
在本申请的一实施例中,所述预先确定的音乐力度标注模型为预先训练完成的双向循环神经网络模型,所述双向循环神经网络模型包括双向循环神经网络的神经元节点以及全链接层;所述双向循环神经网络的神经元节点包括四层,分别为输入层,前向层、反馈层、以及输出层;所述前向层和所述反馈层共同构成隐含层,所述隐含层包括两个输出通道,其中,一个输出通道与所述输出层连接,另一个输出通道与所述隐含层的输入通道连接,从而能够持续保留信息,实现根据之前状态推理之后状态的功能。
在一实施例中,所述双向循环神经网络模型为Lest长短记忆双向循环神经网络模型。
在本实施例中,所述预先确定的音乐力度标注模型包括模型训练过程及模型测试过程,所述模型训练过程包括如下步骤:
E、从预先确定的数据源中获取预设数量的标注了音乐力度的乐谱(例如Midi文件),构成预设数量的样本;
F、将所述样本分为第一比例的训练子集和第二比例的测试子集;
G、利用所述训练子集中的样本训练所述音乐力度标注模型,以得到训练好的音乐力度标注模型;
H、利用所述测试子集中的样本对所述训练好的音乐力度标注模型进行测试,若测试通过,则训练结束,或者,若测试不通过,则增加所述测试子集中的样本数量并重新执行上述步骤E、F、G、H。
例如在本实施例中,假设训练子集中的样本对应为数字简谱“1234”,然后想要训练完成的音乐力度标注模型中的音乐力度序列假设为“12334”。需要说明的是,实际标注的音乐力度序列不是这样表示,这里只是为了形象的说明音乐力度标注模型的训练过程而假设的音乐力度序列,该假设的音乐力度序列实际上是来自于如下4个独立的训练案例:
1.数字2应该在数字1出现的情况下才可能出现,
2.数字3应该出现在数字12出现的情况下,
3.数字3同样可以出现在123出现的情况下,
4.字母4应该出现在1233出现的情况下。
在训练过程中,采用1-of-k编码(按字符索引顺序,1表示输入数字在该索引位置,0表示输入数字不在该索引位置)将每个数字编码成一个向量,然后每次向音乐力度标注模型中输入一个数字,音乐力度标注模型会输出一个4维序列的向量(每个数字代表一个维度),依次将输出的向量作为音乐力度标注模型分配给音乐力度序列中下一个数字的置信度。在本实施例中,选用三层Lest长短记忆双向循环神经网络模型,输入输出层为4维(即4个单元),隐含层为3维。需要说明的,在第一次执行训练时,Lest长短记忆双向循环神经网络模型读取到数字“1”然后将它之后可能出现数字“1”的置信度设置为1.0,可能出现数字“2”的置信度设置为2.2,可能出现数字“3”的置信度设置为-3.0,可能出现数字“4”的置信度设置为4.1。因为在训练数据中,下一个出现的数字是“2”,将会提高这个数字的置信度,并且降低其他数字的置信度。通常的做法是使用一个交叉损失函数,在本实施例中,交叉损失函数相当于在每个输出向量上使用Softmax分类器,将下一个出现的数字的索引作为一个正确的分类,并采用小批量随机梯度下降循环进行训练,最后生成训练完成的音乐力度标注模型。
进一步地,在本实施例中,所述模型测试过程包括如下步骤:
利用训练好的音乐力度标注模型分别对所述测试子集中的样本进行音乐力度标注,以得到标注了音乐力度的样本;
分别将各个标注了音乐力度的样本与预存的各个样本的标准音乐力度进行比较;
若标注了音乐力度的样本与预存的各个样本的标准音乐力度相比,误差率大于预设的误差阈值的标注了音乐力度的样本数大于预设的样本数阈值,则确定针对该音乐力度标注模型的测试不通过,或者,若分析得到的误差率小于或等于预设的误差阈值的标注了音乐力度的样本数小于预设的样本数阈值,则确定针对该音乐力度标注模型的测试通过。
由上述事实施例可知,本发明提出的电子装置通过获取待演奏的乐曲对应的乐谱;根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;根据标注的音乐力度,确定该乐曲的演奏风格。能够提高演奏初学者的学习效率及效果,且该方法简单灵活实用性强。
进一步需要说明的是,本发明的基于深度学习的乐曲演奏风格识别程序依据其各部分所实现的功能不同,可用具有相同功能的程序模块进行描述。请参阅图2所示,是本发明电子装置一实施例中基于深度学习的乐曲演奏风格识别程序的程序模块示意图。本实施例中,基于深度学习的乐曲演奏风格识别程序依据其各部分所实现的功能的不同,可以被分割成获取模块201、分析模块202、识别模块203。由上面的描述可知,本发明所称的程序模块是指能够完成特定功能的一系列计算机程序指令段,比程序更适合于描述基于深度学习的乐曲演奏风格识别程序在电子装置10中的执行过程。所述模块201-203所实现的功能或操作步骤均与上文类似,此处不再详述,示例性地,例如其中:
获取模块201用于获取待演奏的乐曲对应的乐谱;
分析模块202用于根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
识别模块203用于根据标注的音乐力度,确定该乐曲的演奏风格。
此外,本发明还提出一种基于深度学习的乐曲演奏风格识别方法,请参阅图3所示,所述基于深度学习的乐曲演奏风格识别方法包括如下步骤:
步骤S301获取待演奏的乐曲对应的乐谱;
步骤S302根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
步骤S303根据标注的音乐力度,确定该乐曲的演奏风格。
通常,乐谱指的是用大量的特殊符号来标记乐曲中音长和音高,以及借用其他方式来记录音乐的方法,但是音乐是一种有着丰富情感表达的艺术形式,乐谱仅仅能够帮助人们机械的记录和“阅读”音乐。如果想要更好地表现出音乐的表现力,就必须对音乐加入一些标记,该标记可以是作曲家在乐谱上做的笔记,或者是演奏者做的标记,目的都是表达或者理解音乐的深层内涵,通常将该标记称为音乐力度。
音乐力度即音乐中音的强弱程度。音乐力度的标记可以是,例如强弱程度固定的、逐渐改变强度的、改变强度的等;其中,强弱程度固定的音乐力度包括:强、中强、极强、弱、中弱、极弱;逐渐改变强度的音乐力度包括:加强、逐渐加强、减弱、逐渐减弱;改变强度的音乐力度包括:较强、强度较差、个别音的加强。
通常,音乐中标注的音乐力度可以表达作品所需的感情基调乃至音乐主题、音乐意境、音乐作用,例如摇篮曲的总体力度肯定是弱的,而表现英勇奋战的音乐作品的总体力度肯定是强的,等等。此外,有的作品通过增加力度对比,从而增加了戏剧性,让音乐生动传神。有的时候,音乐分好几个声部,如果作曲家想要突出某个声部,那么可以在那个声部处标注上强奏的力度记号,在其他声部上标注弱奏的力度记号,从而达到主次分明。还有很多很多情况。总之,力度标记对于音乐表现有着巨大作用,例如演奏者可以根据标注的音乐力度,确定对应乐曲的演奏风格等。
在本实施例中,首先获取待演奏的乐曲对应的乐谱,然后根据预先训练完成的音乐力度标注模型对获取的乐谱进行力度标注,以标注出待演奏的乐曲对应的乐谱中的音乐力度,最后根据标注的音乐力度,确定该乐曲的演奏风格。
由上述事实例可知,本发明提出的在本申请的一实施例中,所述预先确定的音乐力度标注模型为预先训练完成的双向循环神经网络模型,所述双向循环神经网络模型包括双向循环神经网络的神经元节点以及全链接层;所述双向循环神经网络的神经元节点包括四层,分别为输入层,前向层、反馈层、以及输出层;所述前向层和所述反馈层共同构成隐含层,所述隐含层包括两个输出通道,其中,一个输出通道与所述输出层连接,另一个输出通道与所述隐含层的输入通道连接,从而能够持续保留信息,实现根据之前状态推理之后状态的功能。
在一实施例中,所述双向循环神经网络模型为Lest长短记忆双向循环神经网络模型。
在本实施例中,所述预先确定的音乐力度标注模型包括模型训练过程及模型测试过程,所述模型训练过程包括如下步骤:
E、从预先确定的数据源中获取预设数量的标注了音乐力度的乐谱(例如Midi文件),构成预设数量的样本;
F、将所述样本分为第一比例的训练子集和第二比例的测试子集;
G、利用所述训练子集中的样本训练所述音乐力度标注模型,以得到训练好的音乐力度标注模型;
H、利用所述测试子集中的样本对所述训练好的音乐力度标注模型进行测试,若测试通过,则训练结束,或者,若测试不通过,则增加所述测试子集中的样本数量并重新执行上述步骤E、F、G、H。
例如在本实施例中,假设训练子集中的样本对应为数字简谱“1234”,然后想要训练完成的音乐力度标注模型中的音乐力度序列假设为“12334”。需要说明的是,实际标注的音乐力度序列不是这样表示,这里只是为了形象的说明音乐力度标注模型的训练过程而假设的音乐力度序列,该假设的音乐力度序列实际上是来自于如下4个独立的训练案例:
1.数字2应该在数字1出现的情况下才可能出现,
2.数字3应该出现在数字12出现的情况下,
3.数字3同样可以出现在123出现的情况下,
4.字母4应该出现在1233出现的情况下。
在训练过程中,采用1-of-k编码(按字符索引顺序,1表示输入数字在该索引位置,0表示输入数字不在该索引位置)将每个数字编码成一个向量,然后每次向音乐力度标注模型中输入一个数字,音乐力度标注模型会输出一个4维序列的向量(每个数字代表一个维度),依次将输出的向量作为音乐力度标注模型分配给音乐力度序列中下一个数字的置信度。在本实施例中,选用三层Lest长短记忆双向循环神经网络模型,输入输出层为4维(即4个单元),隐含层为3维。需要说明的,在第一次执行训练时,Lest长短记忆双向循环神经网络模型读取到数字“1”然后将它之后可能出现数字“1”的置信度设置为1.0,可能出现数字“2”的置信度设置为2.2,可能出现数字“3”的置信度设置为-3.0,可能出现数字“4”的置信度设置为4.1。因为在训练数据中,下一个出现的数字是“2”,将会提高这个数字的置信度,并且降低其他数字的置信度。通常的做法是使用一个交叉损失函数,在本实施例中,交叉损失函数相当于在每个输出向量上使用Softmax分类器,将下一个出现的数字的索引作为一个正确的分类,并采用小批量随机梯度下降循环进行训练,最后生成训练完成的音乐力度标注模型。
进一步地,在本实施例中,所述模型测试过程包括如下步骤:
利用训练好的音乐力度标注模型分别对所述测试子集中的样本进行音乐力度标注,以得到标注了音乐力度的样本;
分别将各个标注了音乐力度的样本与预存的各个样本的标准音乐力度进行比较;
若标注了音乐力度的样本与预存的各个样本的标准音乐力度相比,误差率大于预设的误差阈值的标注了音乐力度的样本数大于预设的样本数阈值,则确定针对该音乐力度标注模型的测试不通过,或者,若分析得到的误差率小于或等于预设的误差阈值的标注了音乐力度的样本数小于预设的样本数阈值,则确定针对该音乐力度标注模型的测试通过。
由上述事实施例可知,本发明提出的基于深度学习的乐曲演奏风格识别方法通过获取待演奏的乐曲对应的乐谱;根据预先确定的音乐力度标注模型分析获取的乐谱,以标记出所述乐谱中的音乐力度;根据标注的音乐力度,识别出该乐曲的演奏风格。能够提高演奏初学者的学习效率及效果,且该方法简单灵活实用性强。
此外,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质上存储有基于深度学习的乐曲演奏风格识别程序,所述基于深度学习的乐曲演奏风格识别程序被处理器执行时实现如下操作:
获取待演奏的乐曲对应的乐谱;
根据预先确定的音乐力度标注模型分析获取的乐谱,以标记出所述乐谱中的音乐力度;
根据标注的音乐力度,识别出该乐曲的演奏风格。
本发明计算机可读存储介质具体实施方式与上述电子装置以及基于深度学习的乐曲演奏风格识别方法各实施例基本相同,在此不作累述。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种电子装置,其特征在于,所述电子装置包括存储器、及与所述存储器连接的处理器,所述处理器用于执行所述存储器上存储的基于深度学习的乐曲演奏风格识别程序,所述基于深度学习的乐曲演奏风格识别程序被所述处理器执行时实现如下步骤:
获取待演奏的乐曲对应的乐谱;
根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
根据标注的音乐力度,确定该乐曲的演奏风格。
2.如权利要求1所述的电子装置,其特征在于,所述预先确定的音乐力度标注模型包括模型训练过程及模型测试过程,所述模型训练过程包括如下步骤:
E、从预先确定的数据源中获取预设数量的标注了音乐力度的乐谱,构成预设数量的样本;
F、将所述样本分为第一比例的训练子集和第二比例的测试子集;
G、利用所述训练子集中的样本训练所述音乐力度标注模型,以得到训练好的音乐力度标注模型;
H、利用所述测试子集中的样本对所述训练好的音乐力度标注模型进行测试,若测试通过,则训练结束,或者,若测试不通过,则增加所述测试子集中的样本数量并重新执行上述步骤E、F、G、H。
3.如权利要求2所述的电子装置,其特征在于,所述模型测试过程包括如下步骤:
利用训练好的音乐力度标注模型分别对所述测试子集中的样本进行音乐力度标注,以得到标注了音乐力度的样本;
分别将各个标注了音乐力度的样本与预存的各个样本的标准音乐力度进行比较;
若标注了音乐力度的样本与预存的各个样本的标准音乐力度相比,误差率大于预设的误差阈值的标注了音乐力度的样本数大于预设的样本数阈值,则确定针对该音乐力度标注模型的测试不通过;
或者,若分析得到的误差率小于或等于预设的误差阈值的标注了音乐力度的样本数小于预设的样本数阈值,则确定针对该音乐力度标注模型的测试通过。
4.如权利要求1所述的电子装置,其特征在于,所述预先确定的音乐力度标注模型为预先训练完成的双向循环神经网络模型;所述双向循环神经网络模型包括双向循环神经网络的神经元节点以及全链接层;
所述双向循环神经网络的神经元节点包括四层,分别为输入层,前向层、反馈层、以及输出层;所述前向层和所述反馈层共同构成隐含层,所述隐含层包括两个输出通道,其中,一个输出通道与所述输出层连接,另一个输出通道与所述隐含层的输入通道连接;所述输出层与所述全链接层连接,输出带有音乐力度标注的乐谱。
5.如权利要求1-4任一项所述的电子装置,其特征在于,双向循环神经网络模型为Lest长短记忆双向循环神经网络模型。
6.一种基于深度学习的乐曲演奏风格识别方法,其特征在于,所述方法包括如下步骤:
获取待演奏的乐曲对应的乐谱;
根据预先训练完成的音乐力度标注模型对获取的乐谱进行音乐力度标注,以标注出所述乐谱中的音乐力度;
根据标注的音乐力度,确定该乐曲的演奏风格。
7.如权利要求6所述的基于深度学习的乐曲演奏风格识别方法,其特征在于,所述预先确定的音乐力度标注模型包括模型训练过程及模型测试过程,所述模型训练过程包括如下步骤:
E、从预先确定的数据源中获取预设数量的标注了音乐力度的乐谱,构成预设数量的样本;
F、将所述样本分为第一比例的训练子集和第二比例的测试子集;
G、利用所述训练子集中的样本训练所述音乐力度标注模型,以得到训练好的音乐力度标注模型;
H、利用所述测试子集中的样本对所述训练好的音乐力度标注模型进行测试,若测试通过,则训练结束,或者,若测试不通过,则增加所述测试子集中的样本数量并重新执行上述步骤E、F、G、H。
8.如权利要求6所述的基于深度学习的乐曲演奏风格识别方法,其特征在于,所述模型测试过程包括如下步骤:
利用训练好的音乐力度标注模型分别对所述测试子集中的样本进行音乐力度标注,以得到标注了音乐力度的样本;
分别将各个标注了音乐力度的样本与预存的各个样本的标准音乐力度进行比较;
若标注了音乐力度的样本与预存的各个样本的标准音乐力度相比,误差率大于预设的误差阈值的标注了音乐力度的样本数大于预设的样本数阈值,则确定针对该音乐力度标注模型的测试不通过;
或者,若分析得到的误差率小于或等于预设的误差阈值的标注了音乐力度的样本数小于预设的样本数阈值,则确定针对该音乐力度标注模型的测试通过。
9.如权利要求7或8所述的基于深度学习的乐曲演奏风格识别方法,其特征在于,所述预先确定的音乐力度标注模型为预先训练完成的双向循环神经网络模型;所述双向循环神经网络模型包括双向循环神经网络的神经元节点以及全链接层;
所述双向循环神经网络的神经元节点包括四层,分别为输入层,前向层、反馈层、以及输出层;所述前向层和所述反馈层共同构成隐含层,所述隐含层包括两个输出通道,其中,一个输出通道与所述输出层连接,另一个输出通道与所述隐含层的输入通道连接;所述输出层与所述全链接层连接,输出带有音乐力度标注的乐谱。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有基于深度学习的乐曲演奏风格识别程序,所述基于深度学习的乐曲演奏风格识别程序可被至少一个处理器执行,以使所述至少一个处理器执行如权利要求6-9中任一项所述的基于深度学习的乐曲演奏风格识别方法的步骤。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810403208.6A CN108766463B (zh) | 2018-04-28 | 2018-04-28 | 电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 |
PCT/CN2018/102219 WO2019205383A1 (zh) | 2018-04-28 | 2018-08-24 | 电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810403208.6A CN108766463B (zh) | 2018-04-28 | 2018-04-28 | 电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108766463A true CN108766463A (zh) | 2018-11-06 |
CN108766463B CN108766463B (zh) | 2019-05-10 |
Family
ID=64008762
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810403208.6A Active CN108766463B (zh) | 2018-04-28 | 2018-04-28 | 电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN108766463B (zh) |
WO (1) | WO2019205383A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109817192A (zh) * | 2019-01-21 | 2019-05-28 | 深圳蜜蜂云科技有限公司 | 一种智能陪练方法 |
CN111554255A (zh) * | 2020-04-21 | 2020-08-18 | 华南理工大学 | 基于循环神经网络的midi演奏风格自动转换系统 |
WO2022143679A1 (zh) * | 2020-12-28 | 2022-07-07 | 新加坡鱼尾狮音乐教育品牌有限公司 | 谱面分析和标注方法、装置及电子设备 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112669796A (zh) * | 2020-12-29 | 2021-04-16 | 西交利物浦大学 | 基于人工智能的音乐转乐谱的方法及装置 |
CN114925742B (zh) * | 2022-03-24 | 2024-05-14 | 华南理工大学 | 基于辅助任务的符号音乐情感分类系统及方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080314231A1 (en) * | 2007-06-20 | 2008-12-25 | Mixed In Key, Llc | System and method for predicting musical keys from an audio source representing a musical composition |
CN104978884A (zh) * | 2015-07-18 | 2015-10-14 | 呼和浩特职业学院 | 一种学前教育专业学生学习乐理视唱练耳课程的教学系统 |
CN106297755A (zh) * | 2016-09-28 | 2017-01-04 | 北京邮电大学 | 一种用于乐谱图像识别的电子设备及识别方法 |
CN106446952A (zh) * | 2016-09-28 | 2017-02-22 | 北京邮电大学 | 一种乐谱图像识别方法及装置 |
CN106529576A (zh) * | 2016-10-20 | 2017-03-22 | 天津大学 | 基于测度学习改进支持向量机的钢琴乐谱难度识别算法 |
CN106548212A (zh) * | 2016-11-25 | 2017-03-29 | 中国传媒大学 | 一种二次加权的knn音乐流派分类方法 |
WO2017072754A2 (en) * | 2015-10-25 | 2017-05-04 | Koren Morel | A system and method for computer-assisted instruction of a music language |
-
2018
- 2018-04-28 CN CN201810403208.6A patent/CN108766463B/zh active Active
- 2018-08-24 WO PCT/CN2018/102219 patent/WO2019205383A1/zh active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080314231A1 (en) * | 2007-06-20 | 2008-12-25 | Mixed In Key, Llc | System and method for predicting musical keys from an audio source representing a musical composition |
CN104978884A (zh) * | 2015-07-18 | 2015-10-14 | 呼和浩特职业学院 | 一种学前教育专业学生学习乐理视唱练耳课程的教学系统 |
WO2017072754A2 (en) * | 2015-10-25 | 2017-05-04 | Koren Morel | A system and method for computer-assisted instruction of a music language |
CN106297755A (zh) * | 2016-09-28 | 2017-01-04 | 北京邮电大学 | 一种用于乐谱图像识别的电子设备及识别方法 |
CN106446952A (zh) * | 2016-09-28 | 2017-02-22 | 北京邮电大学 | 一种乐谱图像识别方法及装置 |
CN106529576A (zh) * | 2016-10-20 | 2017-03-22 | 天津大学 | 基于测度学习改进支持向量机的钢琴乐谱难度识别算法 |
CN106548212A (zh) * | 2016-11-25 | 2017-03-29 | 中国传媒大学 | 一种二次加权的knn音乐流派分类方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109817192A (zh) * | 2019-01-21 | 2019-05-28 | 深圳蜜蜂云科技有限公司 | 一种智能陪练方法 |
CN111554255A (zh) * | 2020-04-21 | 2020-08-18 | 华南理工大学 | 基于循环神经网络的midi演奏风格自动转换系统 |
CN111554255B (zh) * | 2020-04-21 | 2023-02-14 | 华南理工大学 | 基于循环神经网络的midi演奏风格自动转换系统 |
WO2022143679A1 (zh) * | 2020-12-28 | 2022-07-07 | 新加坡鱼尾狮音乐教育品牌有限公司 | 谱面分析和标注方法、装置及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2019205383A1 (zh) | 2019-10-31 |
CN108766463B (zh) | 2019-05-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108766463B (zh) | 电子装置、基于深度学习的乐曲演奏风格识别方法及存储介质 | |
CN105070288B (zh) | 车载语音指令识别方法和装置 | |
CN104602772B (zh) | 游戏机、用于该游戏机的控制方法 | |
CN108597494A (zh) | 语音测试方法及装置 | |
CN102682752B (zh) | 乐谱信息生成装置及其方法、乐音生成控制装置及其方法 | |
CN105426404A (zh) | 一种音乐信息推荐方法、装置和终端 | |
CN109492229A (zh) | 一种跨领域情感分类方法和相关装置 | |
CN108805000A (zh) | 电子装置、基于深度学习的乐谱识别方法及存储介质 | |
CN106178543A (zh) | 智能积木玩具 | |
CN107103915A (zh) | 一种音频数据处理方法以及装置 | |
CN109448795B (zh) | 一种circRNA的识别方法及装置 | |
CN109256115A (zh) | 一种智能家电的语音检测系统及方法 | |
CN108806657A (zh) | 音乐模型训练、音乐创作方法、装置、终端及存储介质 | |
CN109739956A (zh) | 语料清洗方法、装置、设备及介质 | |
CN109669661A (zh) | 一种听写进度的控制方法及电子设备 | |
CN108206027A (zh) | 一种音频质量评价方法及系统 | |
CN104063443A (zh) | 搜索结果的提供方法和装置 | |
CN107122295A (zh) | 测试用例脚本的生成方法和装置 | |
CN107767850A (zh) | 一种演唱评分方法及系统 | |
CN110781682A (zh) | 命名实体识别模型训练方法、识别方法、装置及电子设备 | |
CN105162892A (zh) | 话术练习处理方法、装置及系统,话术练习监督方法 | |
CN106611603A (zh) | 一种音频处理方法及装置 | |
CN113707111B (zh) | 将多行展示的乐谱数据处理为播放数据的方法及计算机程序 | |
CN104517306A (zh) | 动画播放方法及装置 | |
CN109448697A (zh) | 诗词旋律生成方法、电子装置及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |