CN110362696A - 歌词生成方法、系统、计算机设备及计算机可读存储介质 - Google Patents

歌词生成方法、系统、计算机设备及计算机可读存储介质 Download PDF

Info

Publication number
CN110362696A
CN110362696A CN201910501247.4A CN201910501247A CN110362696A CN 110362696 A CN110362696 A CN 110362696A CN 201910501247 A CN201910501247 A CN 201910501247A CN 110362696 A CN110362696 A CN 110362696A
Authority
CN
China
Prior art keywords
generated
long term
neural network
recognition
lyrics
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910501247.4A
Other languages
English (en)
Inventor
刘奡智
李阳
王健宗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Technology Shenzhen Co Ltd
Original Assignee
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Technology Shenzhen Co Ltd filed Critical Ping An Technology Shenzhen Co Ltd
Priority to CN201910501247.4A priority Critical patent/CN110362696A/zh
Publication of CN110362696A publication Critical patent/CN110362696A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43—Querying
    • G06F16/432—Query formulation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43—Querying
    • G06F16/438—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Machine Translation (AREA)

Abstract

本发明实施例提供了一种歌词生成方法，包括以下步骤：接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度；基于双向长短期记忆的循环神经网络模型对向量数据和已生成的字组成的输入序列进行编码，以将输入序列转换为一组隐状态；基于包含汉语语言模型N‑grams的长短期记忆的循环神经网络模型对隐状态进行解码，以生成待生成歌曲的当前字；重复执行上述步骤，以生成待生成歌曲的全部句子。本发明实施例还提供了歌词生成系统、计算机设备和计算机可存储介质。本发明实施例可以自动生成待生成歌曲的歌词，使得普通人或组织可以创作出比较专业的歌词。

Description

歌词生成方法、系统、计算机设备及计算机可读存储介质
技术领域
本发明实施例涉及人工智能领域，尤其涉及一种歌词生成方法、系统、计算机设备及计算机可读存储介质。
背景技术
在待生成歌曲的歌词创作过程中对于待生成歌曲的歌词有诸多要求，这些要求限制了普通人或组织创作个性化歌曲的可能性。在很多情况中，普通人或组织如果想要获得定制的歌曲，往往需要求助于具有专业作词和作曲能力的人或组织。随着计算机时代的到来，特别是随着人工智能的不断进步，期望能够自动地生成期望的歌曲，例如生成待生成歌曲的歌词。
发明内容
有鉴于此，本发明实施例的目的是提供一种歌词生成方法、系统、计算机设备及计算机可读存储介质，使得普通人或组织可以创作出比较专业的歌词。
为实现上述目的，本发明实施例提供了一种歌词生成方法，包括以下步骤：
步骤1、接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度；
步骤2、基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成的字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及
步骤3、基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字；
步骤4、重复执行步骤2和步骤3，以生成所述待生成歌曲的全部句子。
进一步地，所述基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态的步骤包括：
基于正向长短期记忆的循环神经网络模型对所述输入序列进行正向编码以生成正向隐状态；
基于反向长短期记忆的循环神经网络模型对所述输入序列进行正反向编码以生成反向隐状态；
拼接所述正向隐状态与所述反向隐状态，以生成所述一组隐状态。
进一步地，所述基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字的步骤包括：
基于所述汉语语言模型N-grams获取所述隐状态对应的信息向量；
根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字。
进一步地，所述基于所述汉语语言模型N-grams获取所述隐状态对应的信息向量的步骤包括：
基于所述汉语语言模型N-grams获取所述隐状态对应的各个信息向量的注意力得分；及
将具有最高注意力得分的信息向量作为所述隐状态对应的信息向量。
进一步地，所述的歌词生成方法还包括：
训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
进一步地，所述训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型的步骤包括：
获取主题样本和所述主题样本对应的歌词样本；及
根据所述主题样本和所述歌词样本训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
进一步地，当不存在所述已生成字时，基于双向长短期记忆的循环神经网络模型对所述向量数据进行编码，以将所述输入序列转换为一组隐状态。
为实现上述目的，本发明实施例还提供了一种歌词生成系统，包括：
接收模块，用于接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度；
编码模块，用于基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及
解码模块，用于基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字。
为实现上述目的，本发明实施例还提供了一种计算机设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上所述歌词生成方法的步骤。
为实现上述目的，本发明实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序可被至少一个处理器所执行，以使所述至少一个处理器执行如上所述的歌词生成方法的步骤。
本发明实施例提供的歌词生成方法、系统、计算机设备及计算机可读存储介质，通过接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度；基于双向长短期记忆的循环神经网络模型对向量数据和已生成的字组成的输入序列进行编码，以将输入序列转换为一组隐状态；基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对隐状态进行解码，以生成待生成歌曲的当前字；重复执行上述步骤，以生成待生成歌曲的全部句子。这样，利用双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以及利用包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，从而可以自动生成待生成歌曲的歌词，使得普通人或组织可以创作出比较专业的歌词。
附图说明
图1为本发明歌词生成方法第一实施例的实施流程示意图。
图2为本发明中基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态的步骤的细化流程示意图。
图3为本发明中基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字的步骤的细化流程示意图。
图4为本发明歌词生成方法第二实施例的实施流程示意图。
图5为本发明一实施方式的歌词生成系统的程序模块示意图。
图6为本发明一实施方式的计算机设备的硬件结构示意图。
附图标记
歌词生成系统 500、604
接收模块 501
编码模块 502
解码模块 503
计算机设备 600
存储器 601
处理器 602
网络接口 603
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
参阅图1，示出了本发明实施例一之歌词生成方法的流程图。可以理解，本方法实施例中的流程图不用于对执行步骤的顺序进行限定。下面以歌词生成系统(下文以“生成系统”简称)为执行主体进行示例性描述，所述生成系统可以应用于服计算机设备中。具体如下：
步骤S100，接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度。
具体地，用户的输入信息可以为文本信息、图片信息、音频信息等，该输入信息中包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度。在本实施例中，所述歌曲的主题为用户对于该歌曲的创作意图。例如，若用户输入的输入信息为文本格式的“大海”，则表明用户期望生成的待生成歌曲的歌词是有关大海的；若用户输入的信息为文本格式的“天空”，则表明用户期望生成的待生成歌曲的歌词是有关天空的；若用户的输入信息是一张全家福图片，则表明用户期望生成的待生成歌曲的歌词是有关家庭的；若用户的输入信息为音频格式的“大海”，则先将该音频转换为文本信息，然后根据转换后的文本信息确定待生成歌曲的主题为有关大海的。该待生成的歌曲的句子数量为该待生成的歌曲总共由多少个句子组成，该每个句子的数量为每句歌词包含多少个字。
在本实施例中，在将所述输入信息转换为对应的向量数据时，首先需要对该输入信息进行预处理。具体地，在所述输入信息为文本信息时，可以先对输入的文本信息进行分词处理，转换为一定长度的多个句子，然后可以通过嵌入层(Embedding层)将分词后得到的句子转换为所述向量数据；当用户的输入信息为图像信息时，则先需要对该图像信息进行文本化处理，输出可识别和可处理的纯文本数据，之后再对该纯文本数据进行分词处理，以将其转换为长度的多个句子，最后通过嵌入层(Embedding层)将分词后得到的句子转换为所述向量数据；当用户的输入信息为音频信息时，则可以先将该音频信息转换为文本信息，之后对得到的文本信息进行分词以及向量化处理，从而得到所述向量数据。
在一实施方式中，所述接收用户的输入信息，并将所述输入信息转换为对应的向量数据的步骤包括：
接收所述用户的输入信息，并从所述输入信息中提取所述待生成歌曲的主题；及
将所述主题转换为对应的向量数据。
在本实施例中，用户的输入信息除了所述待生成歌曲的主题之外，可能还包含其他信息，因此，为了避免将除了待生成歌曲的主题之外的其他信息转换为所述向量数据，在接收到所述输入信息之后，需要对该输入信息进行处理，以提取到该输入信息中所包含的待生成歌曲的主题，则对于其他信息可以舍弃。具体地，可以将该输入信息与预设的主题模板进行匹配，以从所述输入信息中提取出所述待生成歌曲的主题，比如，用户的输入信息为一张大海的图片，则在对该图片进行文本化处理之后，可以得到文本信息“一张大海的图片”，在将该文本信息与预设主题模板进行匹配后，可以从预设主题模板库中匹配出主题“大海”。
在提取出待生成歌曲的主题之后，将该主题转换为对应的向量数据，具体转换过程，在上文已做详细描述，在本实施例中不在赘述。
步骤S102，基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态。
具体地，双向长短期记忆的循环神经网络(Bi-directional LSTM RNN)模型是RNN(Recurrent Neural Network，循环神经网络)模型的一种改进模型，在双向长短期记忆(LSTM)的循环神经网络模型中，利用存储单元代替RNN模型中的常规神经元，每个存储单元与一个输入门、一个输出门和一个跨越时间步骤无干扰送入自身的内部状态相关联。双向长短期记忆的循环神经网络，能够学习长期依赖性，不是仅使用单个神经网络层(通常是tanh层)，而是使用三个门来调节(添加或移除)LSTM的状态变量，LSTM保存LSTM单元的存储器。
在本实施例中，首先将所述向量数据和已生成字按照顺序组成一个输入序列，然后利用双向长短期记忆循环神经网络模型对输入序列进行编码，以将输入序列转换为一组隐状态。
举例而言，假设将所述向量数据和已生成字按照顺序组合后，形成一个长度为T的输入序列，记为：X＝(x1，x2，…，xT)，将该输入序列输入至双向长短期记忆循环神经网络模型中进行编码，即可获得一组隐状态，记为：Y＝(y1,y2,...yT)。
需要说明的是，在生成第一个歌词时，由于此前没有已生成字，因此，此时只将所述向量数据作为所述输入序列输入至双向长短期记忆循环神经网络模型中进行编码来将其转换为一组隐状态。
请参阅图2，在一实施方式中，所述基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态的步骤包括：
步骤S200，基于正向长短期记忆的循环神经网络模型对所述输入序列进行正向编码以生成正向隐状；
步骤S202，基于反向长短期记忆的循环神经网络模型对所述输入序列进行正反向编码以生成反向隐状态；
步骤S204，拼接所述正向隐状态与所述反向隐状态，以生成所述一组隐状态。
在本实施例中，在将所述向量数据和已生成字组成输入序列之后，基于正向长短期记忆的循环神经网络模型对所述输入序列进行正向编码生成正向隐状；基于反向长短期记忆的循环神经网络模型对所述输入序列进行正反向编码生成反向隐状态。
需要说明的是，本实施例中获取正向隐状和反向隐状态的步骤可以同时进行，也可以是先后进行的，本发明对此不作限定。
在获取到正向隐状态与反向隐状态之后，拼接该正向隐状态与该反向隐状态，从而生成所述输入序列对应的一组隐状态。
步骤S104，基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字。
具体地，在发明实施例中，将歌词生成问题作为创建单词序列的概率分布并从中随机抽样。为了对这种概率分布进行建模，可以从现有的歌词中学习下一个词的调节对前一个词序列的概率分布。换句话说，需要知道句子S在歌词样本语料库出现的可能性，即也就是数学上所说的概率P(S)，其中，句子S由一串特定顺序排列的词wn，wn-1，...，w2，w1组成，n是句子的长度。
根据概率链规则，其中wi代表歌词文档中的第i个单词。
原则上可以从训练数据中导出每个单词的条件分布，然而，将这些分布中的每一个分配到第一个单词是不切实际的。更易处理的方法是仅使用之前的N-1个单词，即：P(wn|wn-1,…w1)≈P(wn|wn-1,…wn-N+1)。基于该算法，可以通过首先滑动长度为N的窗口来实现该算法。
具体地，通过训练文本获得一系列短词序列(N-grams)，然后计算在N-grams集合中每个N-1个单词之后每个可能的最后一个单词的出现次数，通过这种方式，我们获得P(wn|wn-1,…w1)的近似值P(wn|wn-1,…wn-N+1)。为了生成新的歌词，可以根据条件分布不断选择新单词。
在本实施例中，在获得所述向量数据与已生成歌词组成的输入序列对应的隐状态之后，基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对获得的隐状态进行解码，即可生成所述待生成歌曲的当前字。
请参阅图3，在一实施方式中，所述基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字的步骤包括：
步骤S300，基于所述汉语语言模型N-grams获取所述隐状态对应的信息向量。
具体地，通过所述汉语语言模型N-grams可以获取隐状态对应的各个信息向量的注意力得分，所述注意力得分为所述汉语语言模型N-grams根据所述隐状态所预测得到的各个单词对应的信息向量所对应的概率。在获取到各个信息向量的注意力得分之后，将具有最高得分的信息向量作为所述隐状态对应的信息向量。
举例如下：根据所述隐状态：Y＝(y1,y2,...yT)得到的信息向量为：Y1，Y2，Y3，Y4等，且Y1，Y2，Y3，Y4的注意力得分依次为0.7，0.9，0.4，0.6，则可将信息向量Y2作为所述隐状态对应的信息向量。
步骤S302，根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字。
在本实施例中，在获得所述信息向量之后，即可根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字。
在一实施方式中，当第一次生成当前字时，由于不存在前一个生成字，即不存在已生成字，则直接基于双向长短期记忆的循环神经网络模型对所述向量数据进行编码，以将所述输入序列转换为一组隐状态，而不用先将所述向量数据与以生成的字组成输入序列，然后在对该输入系列序列进行编码，从而将该输入序列转换为一组隐状态。
在本发明实施例中，在生成当前字之后，需要将该当前生成的字与之前的信息向量进行拼接组成新的序列向量输入至包含汉语语言模型N-grams的长短期记忆循环神经网络模型中，以生成下一个字，重复上述步骤，直到完成所有歌词句子的生成。
在本发明实施中，在生成当前字之后，会根据输入信息中的待生成歌曲的句子数量以及每个句子的长度来判断当前字是否已经生成完毕，若没有生成完毕，则会继续执行步骤S102-S104，直至所有的句子生成完成。
例如，若待生成的歌曲的句子数量为10句，每个句子的长度为6，则总的待生成字为60个，当根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字之后，即会判断该当前字是否为最后一个当前字，若该当前字为最后一个当前字，则会停止当前字的生成，即完成对所述待生成歌曲的生成；若当前字不是最后一个当前字时，则会继续执行上述步骤S102-S104。
在完成所有歌词句子的生成之后，即可将生成的多个字组合成所述待生成歌曲的歌词句子。
举例而言，假设，采用本实施例中的歌词生成方法生成的生成字分别为“你”、“是”、“我”、“的”、“天”、“空”，则将这些字组合可以获得歌词“你是我的天空”。
通过上述步骤S100-S104，本发明所提出的歌词生成方法，通过接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题；基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的歌词。这样，利用双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以及利用包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，从而可以自动生成待生成歌曲的歌词，使得普通人或组织可以创作出比较专业的歌词。
参阅图4，是本发明歌词生成方法第二实施例的实施流程示意图。在本实施例中，根据不同的需求，图4所示的流程图中的步骤的执行顺序可以改变，某些步骤可以省略。下面以歌词生成系统(下文以“生成系统”简称)为执行主体进行示例性描述，所述生成系统可以应用于服务器中。具体如下：
步骤S400，训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
具体地，为了能够利用所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型生成歌词，需要对上述两个模型进行训练。
在一实施方式中，所述训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型的步骤包括：
获取主题样本和所述主题样本对应的歌词样本；及
根据所述主题样本和所述歌词样本训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
在本实施例中，所述主题样本为包括多个主题的数据集合，所述主题为用户期望的歌曲的歌词的创作意图。该主题样本可以从现有的歌词库中的句歌词中进行提取，同时可以将该句歌词作为歌词样本。
在使用主题样本和所述歌词样本训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型时，随着训练样本数据的输入，双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型会自动调整其中的参数，直到得到符合要求的模型为止。
在本实施例中，在训练所述双向长短期记忆循环神经网络模型及所述包含汉语语言模型N-grams的长短期记忆循环神经网络模型时，使用小批量梯度下降法训练模型，其中学习率α(i)随着时期数而衰减，α(i)＝α0*(rd)t，其中α0＝1是初始学习率，rd＝0.85是衰减率，并且时期的数量为t＝50。在本实施方式中，可以使用80％的歌词样本用于训练，10％歌词样本用于验证，另外10％歌词样本用于测试。随着时期数的增加，RNN开始以正确的语法输出正确的单词。
在对模型训练时，可以通过以下几个方面来评估模型的效果：
(1)复杂度
使用复杂度perplexity作为模型表现：
其中N是序列的长度，Ptarget是在RNN之后通过N-gram或softmax回归输出的第i个字或字符的概率。
(2)隐藏尺寸
没有跳出的情况下，较大的隐藏层大小会降低训练复杂度，但会增加验证复杂度，这是过度拟合的标志。RNN的这种行为是可解释的，因为具有较大隐藏尺寸的RNN具有比具有较小隐藏尺寸的RNN更多的参数，这使得模型更可能过度拟合数据。
(3)批量尺寸
没有跳出的情况下，较大的批量尺寸具有更快的训练速度并且导致训练过程中的过度拟合。
(4)跳出率
跳出在每次迭代中随机禁用某一部分神经元以避免过度拟合。
实验中发现，较大的隐藏尺寸具有引起过度拟合的风险，因为更多参数被引入到模型中。这可以通过使用跳出降低风险。字符级RNN似乎擅长捕获句子的语法，但在生成在上下文中有意义的文本时可能很弱。因此在训练中需要使用更大的数据集。
步骤S402，接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题；
步骤S404，基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及
步骤S406，基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字。
具体地，上述步骤S402-S406与步骤S100-S104类似，在本实施方式中不再赘述。
通过上述步骤S400-S406，本发明所提出的歌词生成方法，训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型；接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题；基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的歌词。这样，利用训练好的双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以及利用包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，从而可以自动生成待生成歌曲的歌词，使得普通人或组织可以创作出比较专业的歌词。
请参阅图5，示出了本发明实施例之歌词生成系统500(以下简称为“生成系统”500)的程序模块示意图。在本实施例中，生成系统500可以包括或被分割成一个或多个程序模块，一个或者多个程序模块被存储于存储介质中，并由一个或多个处理器所执行，以完成本发明，并可实现上述歌词生成方法。本发明实施例所称的程序模块是指能够完成特定功能的一系列计算机程序指令段，比程序本身更适合于描述歌词生成方法在存储介质中的执行过程。以下描述将具体介绍本实施例各程序模块的功能：
接收模块501，接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度。
具体地，用户的输入信息可以为文本信息、图片信息、音频信息等，该输入信息中包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度。在本实施例中，所述歌曲的主题为用户对于该歌曲的创作意图。例如，若用户输入的输入信息为文本格式的“大海”，则表明用户期望生成的待生成歌曲的歌词是有关大海的；若用户输入的信息为文本格式的“天空”，则表明用户期望生成的待生成歌曲的歌词是有关天空的；若用户的输入信息是一张全家福图片，则表明用户期望生成的待生成歌曲的歌词是有关家庭的；若用户的输入信息为音频格式的“大海”，则先将该音频转换为文本信息，然后根据转换后的文本信息确定待生成歌曲的主题为有关大海的。该待生成的歌曲的句子数量为该待生成的歌曲总共由多少个句子组成，该每个句子的数量为每句歌词包含多少个字。
在本实施例中，在将所述输入信息转换为对应的向量数据时，首先需要对该输入信息进行预处理。具体地，在所述输入信息为文本信息时，可以先对输入的文本信息进行分词处理，转换为一定长度的多个句子，然后可以通过嵌入层(Embedding层)将分词后得到的句子转换为所述向量数据；当用户的输入信息为图像信息时，则先需要对该图像信息进行文本化处理，输出可识别和可处理的纯文本数据，之后再对该纯文本数据进行分词处理，以将其转换为长度的多个句子，最后通过嵌入层(Embedding层)将分词后得到的句子转换为所述向量数据；当用户的输入信息为音频信息时，则可以先将该音频信息转换为文本信息，之后对得到的文本信息进行分词以及向量化处理，从而得到所述向量数据。
在一实施方式中，所述接收用户的输入信息，并将所述输入信息转换为对应的向量数据的步骤包括：接收所述用户的输入信息，并从所述输入信息中提取所述待生成歌曲的主题；及将所述主题转换为对应的向量数据。
在本实施例中，用户的输入信息除了所述待生成歌曲的主题之外，可能还包含其他信息，因此，为了避免将除了待生成歌曲的主题之外的其他信息转换为所述向量数据，在接收到所述输入信息之后，需要对该输入信息进行处理，以提取到该输入信息中所包含的待生成歌曲的主题，则对于其他信息可以舍弃。具体地，可以将该输入信息与预设的主题模板进行匹配，以从所述输入信息中提取出所述待生成歌曲的主题，比如，用户的输入信息为一张大海的图片，则在对该图片进行文本化处理之后，可以得到文本信息“一张大海的图片”，在将该文本信息与预设主题模板进行匹配后，可以从预设主题模板库中匹配出主题“大海”。
在提取出待生成歌曲的主题之后，将该主题转换为对应的向量数据，具体转换过程，在上文已做详细描述，在本实施例中不在赘述。
编码模块502，基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态。
具体地，双向长短期记忆的循环神经网络(Bi-directional LSTM RNN)模型是RNN(Recurrent Neural Network，循环神经网络)模型的一种改进模型，在双向长短期记忆(LSTM)的循环神经网络模型中，利用存储单元代替RNN模型中的常规神经元，每个存储单元与一个输入门、一个输出门和一个跨越时间步骤无干扰送入自身的内部状态相关联。双向长短期记忆的循环神经网络，能够学习长期依赖性，不是仅使用单个神经网络层(通常是tanh层)，而是使用三个门来调节(添加或移除)LSTM的状态变量，LSTM保存LSTM单元的存储器。
在本实施例中，首先将所述向量数据和已生成字按照顺序组成一个输入序列，然后利用双向长短期记忆循环神经网络模型对输入序列进行编码，以将输入序列转换为一组隐状态。
举例而言，假设将所述向量数据和已生成字按照顺序组合后，形成一个长度为T的输入序列，记为：X＝(x1，x2，…，xT)，将该输入序列输入至双向长短期记忆循环神经网络模型中进行编码，即可获得一组隐状态，记为：Y＝(y1,y2,...yT)。
需要说明的是，在生成第一个歌词时，由于此前没有已生成字，因此，此时只将所述向量数据作为所述输入序列输入至双向长短期记忆循环神经网络模型中进行编码来将其转换为一组隐状态。
在一实施方式中，所述基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态的步骤包括：基于正向长短期记忆的循环神经网络模型对所述输入序列进行正向编码以生成正向隐状；基于反向长短期记忆的循环神经网络模型对所述输入序列进行正反向编码以生成反向隐状态；拼接所述正向隐状态与所述反向隐状态，以生成所述一组隐状态。
在本实施例中，在将所述向量数据和已生成字组成输入序列之后，基于正向长短期记忆的循环神经网络模型对所述输入序列进行正向编码生成正向隐状；基于反向长短期记忆的循环神经网络模型对所述输入序列进行正反向编码生成反向隐状态。
需要说明的是，本实施例中获取正向隐状和反向隐状态的步骤可以同时进行，也可以是先后进行的，本发明对此不作限定。
在获取到正向隐状态与反向隐状态之后，拼接该正向隐状态与该反向隐状态，从而生成所述输入序列对应的一组隐状态。
解码模块503，用于基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字。
具体地，在发明实施例中，将歌词生成问题作为创建单词序列的概率分布并从中随机抽样。为了对这种概率分布进行建模，可以从现有的歌词中学习下一个词的调节对前一个词序列的概率分布。换句话说，需要知道句子S在歌词样本语料库出现的可能性，即也就是数学上所说的概率P(S)，其中，句子S由一串特定顺序排列的词wn，wn-1，...，w2，w1组成，n是句子的长度。
根据概率链规则，其中wi代表歌词文档中的第i个单词。
原则上可以从训练数据中导出每个单词的条件分布，然而，将这些分布中的每一个分配到第一个单词是不切实际的。更易处理的方法是仅使用之前的N-1个单词，即：P(wn|wn-1,…w1)≈P(wn|wn-1,…wn-N+1)。基于该算法，可以通过首先滑动长度为N的窗口来实现该算法。
具体地，通过训练文本获得一系列短词序列(N-grams)，然后计算在N-grams集合中每个N-1个单词之后每个可能的最后一个单词的出现次数，通过这种方式，我们获得P(wn|wn-1,…w1)的近似值P(wn|wn-1,…wn-N+1)。为了生成新的歌词，可以根据条件分布不断选择新单词。
在本实施例中，在获得所述向量数据与已生成歌词组成的输入序列对应的隐状态之后，基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对获得的隐状态进行解码，即可生成所述待生成歌曲的当前字。
在一实施方式中，所述基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字的步骤包括：
步骤1、基于所述汉语语言模型N-grams获取所述隐状态对应的信息向量。
具体地，通过所述汉语语言模型N-grams可以获取隐状态对应的各个信息向量的注意力得分，所述注意力得分为所述汉语语言模型N-grams根据所述隐状态所预测得到的各个单词对应的信息向量所对应的概率。在获取到各个信息向量的注意力得分之后，将具有最高得分的信息向量作为所述隐状态对应的信息向量。
举例如下：根据所述隐状态：Y＝(y1,y2,...yT)得到的信息向量为：Y1，Y2，Y3，Y4等，且Y1，Y2，Y3，Y4的注意力得分依次为0.7，0.9，0.4，0.6，则可将信息向量Y2作为所述隐状态对应的信息向量。
步骤2、根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字。
在本实施例中，在获得所述信息向量之后，即可根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字。
在一实施方式中，当第一次生成当前字时，由于不存在前一个生成字，即不存在已生成字，则直接基于双向长短期记忆的循环神经网络模型对所述向量数据进行编码，以将所述输入序列转换为一组隐状态，而不用先将所述向量数据与以生成的字组成输入序列，然后在对该输入系列序列进行编码，从而将该输入序列转换为一组隐状态。
在本发明实施例中，在生成当前字之后，需要将该当前生成的字与之前的信息向量进行拼接组成新的序列向量输入至包含汉语语言模型N-grams的长短期记忆循环神经网络模型中，以生成下一个字，重复上述步骤，直到完成所有歌词句子的生成。
在本发明实施中，在生成当前字之后，会根据输入信息中的待生成歌曲的句子数量以及每个句子的长度来判断当前字是否已经生成完毕，若没有生成完毕，则会继续基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成的字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态，以及会继续基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字，直至所有的句子生成完成。
例如，若待生成的歌曲的句子数量为10句，每个句子的长度为6，则总的待生成字为60个，当根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字之后，即会判断该当前字是否为最后一个当前字，若该当前字为最后一个当前字，则会停止当前字的生成，即完成对所述待生成歌曲的生成；若当前字不是最后一个当前字时，则会继续基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成的字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态，以及会继续基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字。
在完成所有歌词句子的生成之后，即可将生成的多个字组合成所述待生成歌曲的歌词。
举例而言，假设，采用本实施例中的歌词生成方法生成的生成字分别为“你”、“是”、“我”、“的”、“天”、“空”，则将这些字组合可以获得歌词“你是我的天空”。
在本发明另一实施方式中，所述生成系统500还包括：
训练模块，用于训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
具体地，为了能够利用所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型生成歌词，需要对上述两个模型进行训练。
在一实施方式中，所述训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型的步骤包括：
获取主题样本和所述主题样本对应的歌词样本；及
根据所述主题样本和所述歌词样本训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
在本实施例中，所述主题样本为包括多个主题的数据集合，所述主题为用户期望的歌曲的歌词的创作意图。该主题样本可以从现有的歌词库中的句歌词中进行提取，同时可以将该句歌词作为歌词样本。
在使用主题样本和所述歌词样本训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型时，随着训练样本数据的输入，双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型会自动调整其中的参数，直到得到符合要求的模型为止。
通过上述程序模块501-503，本发明所提出的歌词生成系统，训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型；接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题；基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的歌词。这样，利用训练好的双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以及利用包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，从而可以自动生成待生成歌曲的歌词，使得普通人或组织可以创作出比较专业的歌词。
参阅图6，是本发明实施例之计算机设备600的硬件架构示意图。在本实施例中，所述计算机设备600是一种能够按照事先设定或者存储的指令，自动进行数值计算和/或信息处理的设备。如图所示，所述计算机设备600至少包括，但不限于，可通过系统总线相互通信连接存储器601、处理器602、网络接口603、以及问答系统中的问题答案查询604。其中：
本实施例中，存储器601至少包括一种类型的计算机可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，存储器601可以是计算机设备600的内部存储单元，例如该计算机设备600的硬盘或内存。在另一些实施例中，存储器601也可以是计算机设备600的外部存储设备，例如该计算机设备600上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。当然，存储器601还可以既包括计算机设备600的内部存储单元也包括其外部存储设备。本实施例中，存储器601通常用于存储安装于计算机设备600的操作系统和各类应用软件，例如歌词生成系统604的程序代码等。此外，存储器601还可以用于暂时地存储已经输出或者将要输出的各类数据。
处理器602在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器602通常用于控制计算机设备600的总体操作。本实施例中，处理器602用于运行存储器601中存储的程序代码或者处理数据，例如运行问答系统中的问题答案生成系统604，以实现实施例一中的歌词生成方法。
所述网络接口603可包括无线网络接口或有线网络接口，该网络接口603通常用于在所述计算机设备600与其他电子装置之间建立通信连接。例如，所述网络接口603用于通过网络将所述计算机设备600与外部终端相连，在所述计算机设备600与外部终端之间的建立数据传输通道和通信连接等。所述网络可以是企业内部网(Intranet)、互联网(Internet)、全球移动通讯系统(Global System of Mobile communication，GSM)、宽带码分多址(Wideband Code Division Multiple Access，WCDMA)、4G网络、5G网络、蓝牙(Bluetooth)、Wi-Fi等无线或有线网络。
需要指出的是，图6仅示出了具有部件601-604的计算机设备600，但是应理解的是，并不要求实施所有示出的部件，可以替代的实施更多或者更少的部件。
在本实施例中，存储于存储器601中的所述运行问答系统中的问题答案生成系统604还可以被分割为一个或者多个程序模块，所述一个或者多个程序模块被存储于存储器601中，并由一个或多个处理器(本实施例为处理器602)所执行，以完成本发明歌词生成方法。
本实施例还提供一种计算机可读存储介质，如闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘、服务器、App应用商城等等，其上存储有计算机程序，程序被处理器执行时实现相应功能。本实施例的计算机可读存储介质用于存储歌词生成系统500或604，以被处理器执行时实现本发明之运行歌词生成方法。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种歌词生成方法，其特征在于，包括以下步骤：
步骤1、接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度；
步骤2、基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及
步骤3、基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字；
步骤4、重复执行步骤2和步骤3，以生成所述待生成歌曲的全部句子。
2.如权利要求1所述的歌词生成方法，其特征在于，所述基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态的步骤包括：
基于正向长短期记忆的循环神经网络模型对所述输入序列进行正向编码以生成正向隐状态；
基于反向长短期记忆的循环神经网络模型对所述输入序列进行正反向编码以生成反向隐状态；
拼接所述正向隐状态与所述反向隐状态，以生成所述一组隐状态。
3.如权利要求1所述的歌词生成方法，其特征在于，所述基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字的步骤包括：
基于所述汉语语言模型N-grams获取所述隐状态对应的信息向量；
根据所述汉语语言模型N-grams、所述信息向量和前一个字生成当前字。
4.如权利要求3所述的歌词生成方法，其特征在于，所述基于所述汉语语言模型N-grams获取所述隐状态对应的信息向量的步骤包括：
基于所述汉语语言模型N-grams获取所述隐状态对应的各个信息向量的注意力得分；及
将具有最高注意力得分的信息向量作为所述隐状态对应的信息向量。
5.如权利要求1至4任一项所述的歌词生成方法，其特征在于，所述的歌词生成方法还包括：
训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
6.如权利要求5所述的歌词生成方法，其特征在于，所述训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型的步骤包括：
获取主题样本和所述主题样本对应的歌词样本；及
根据所述主题样本和所述歌词样本训练所述双向长短期记忆的循环神经网络模型和包含汉语语言模型N-grams的长短期记忆的循环神经网络模型。
7.如权利要求1至4任一项所述的歌词生成方法，其特征在于，所述歌词生成还包括：
当不存在所述已生成字时，基于双向长短期记忆的循环神经网络模型对所述向量数据进行编码，以将所述输入序列转换为一组隐状态。
8.一种歌词生成系统，其特征在于，包括：
接收模块，用于接收用户的输入信息，并将所述输入信息转换为对应的向量数据，其中，所述输入信息包括待生成歌曲的主题、待生成歌曲的句子数量以及每个句子的长度；
编码模块，用于基于双向长短期记忆的循环神经网络模型对所述向量数据和已生成字组成的输入序列进行编码，以将所述输入序列转换为一组隐状态；及
解码模块，用于基于包含汉语语言模型N-grams的长短期记忆的循环神经网络模型对所述隐状态进行解码，以生成所述待生成歌曲的当前字。
9.一种计算机设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的歌词生成方法的步骤。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序可被至少一个处理器所执行，以使所述至少一个处理器执行如权利要求1-7中任一项所述的歌词生成方法的步骤。
CN201910501247.4A 2019-06-11 2019-06-11 歌词生成方法、系统、计算机设备及计算机可读存储介质 Pending CN110362696A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910501247.4A CN110362696A (zh) 2019-06-11 2019-06-11 歌词生成方法、系统、计算机设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910501247.4A CN110362696A (zh) 2019-06-11 2019-06-11 歌词生成方法、系统、计算机设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN110362696A true CN110362696A (zh) 2019-10-22

Family

ID=68217069

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910501247.4A Pending CN110362696A (zh) 2019-06-11 2019-06-11 歌词生成方法、系统、计算机设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN110362696A (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111428487A (zh) * 2020-02-27 2020-07-17 支付宝(杭州)信息技术有限公司 模型训练方法、歌词生成方法、装置、电子设备及介质
CN112184861A (zh) * 2020-12-01 2021-01-05 成都极米科技股份有限公司 歌词编辑、显示方法、装置及存储介质
CN112487153A (zh) * 2020-12-17 2021-03-12 广州华多网络科技有限公司 歌词内容生成方法及其相应的装置、设备、介质
CN112632906A (zh) * 2020-12-30 2021-04-09 北京达佳互联信息技术有限公司 歌词生成方法、装置、电子设备、计算机可读存储介质
CN112669815A (zh) * 2020-12-17 2021-04-16 广州华多网络科技有限公司 歌曲定制生成方法及其相应的装置、设备、介质
CN112783334A (zh) * 2019-11-08 2021-05-11 阿里巴巴集团控股有限公司 文本生成方法和装置、电子设备以及计算机可读存储介质
CN113312448A (zh) * 2021-04-02 2021-08-27 新大陆数字技术股份有限公司 一种诗歌生成方法、系统及可读存储介质
CN113450433A (zh) * 2020-03-26 2021-09-28 阿里巴巴集团控股有限公司 图片生成方法、装置、计算机设备和介质
CN113515592A (zh) * 2021-04-23 2021-10-19 平安科技（深圳）有限公司 文本预测方法、装置、电子设备及存储介质
CN114023286A (zh) * 2021-10-15 2022-02-08 天翼爱音乐文化科技有限公司 一种说唱音乐生成方法、系统、装置与存储介质
CN114186545A (zh) * 2021-11-10 2022-03-15 北京达佳互联信息技术有限公司 歌词生成方法、装置、电子设备及存储介质
WO2022111242A1 (zh) * 2020-11-26 2022-06-02 北京有竹居网络技术有限公司 旋律生成方法、装置、可读介质及电子设备
CN115114474A (zh) * 2021-03-17 2022-09-27 北京达佳互联信息技术有限公司 歌词生成模型训练方法、歌词生成方法、装置及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106528858A (zh) * 2016-11-29 2017-03-22 北京百度网讯科技有限公司 歌词生成方法及装置
CN108932342A (zh) * 2018-07-18 2018-12-04 腾讯科技（深圳）有限公司 一种语义匹配的方法、模型的学习方法及服务器

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106528858A (zh) * 2016-11-29 2017-03-22 北京百度网讯科技有限公司 歌词生成方法及装置
CN108932342A (zh) * 2018-07-18 2018-12-04 腾讯科技（深圳）有限公司 一种语义匹配的方法、模型的学习方法及服务器

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112783334A (zh) * 2019-11-08 2021-05-11 阿里巴巴集团控股有限公司 文本生成方法和装置、电子设备以及计算机可读存储介质
CN111428487B (zh) * 2020-02-27 2023-04-07 支付宝(杭州)信息技术有限公司 模型训练方法、歌词生成方法、装置、电子设备及介质
CN111428487A (zh) * 2020-02-27 2020-07-17 支付宝(杭州)信息技术有限公司 模型训练方法、歌词生成方法、装置、电子设备及介质
CN113450433A (zh) * 2020-03-26 2021-09-28 阿里巴巴集团控股有限公司 图片生成方法、装置、计算机设备和介质
WO2022111242A1 (zh) * 2020-11-26 2022-06-02 北京有竹居网络技术有限公司 旋律生成方法、装置、可读介质及电子设备
CN112184861B (zh) * 2020-12-01 2021-07-30 成都极米科技股份有限公司 歌词编辑、显示方法、装置及存储介质
CN112184861A (zh) * 2020-12-01 2021-01-05 成都极米科技股份有限公司 歌词编辑、显示方法、装置及存储介质
CN112487153B (zh) * 2020-12-17 2024-04-05 广州华多网络科技有限公司 歌词内容生成方法及其相应的装置、设备、介质
CN112669815B (zh) * 2020-12-17 2023-05-19 广州华多网络科技有限公司 歌曲定制生成方法及其相应的装置、设备、介质
CN112669815A (zh) * 2020-12-17 2021-04-16 广州华多网络科技有限公司 歌曲定制生成方法及其相应的装置、设备、介质
CN112487153A (zh) * 2020-12-17 2021-03-12 广州华多网络科技有限公司 歌词内容生成方法及其相应的装置、设备、介质
WO2022142946A1 (zh) * 2020-12-30 2022-07-07 北京达佳互联信息技术有限公司 歌词生成方法及装置
CN112632906A (zh) * 2020-12-30 2021-04-09 北京达佳互联信息技术有限公司 歌词生成方法、装置、电子设备、计算机可读存储介质
CN115114474A (zh) * 2021-03-17 2022-09-27 北京达佳互联信息技术有限公司 歌词生成模型训练方法、歌词生成方法、装置及存储介质
CN113312448A (zh) * 2021-04-02 2021-08-27 新大陆数字技术股份有限公司 一种诗歌生成方法、系统及可读存储介质
CN113515592A (zh) * 2021-04-23 2021-10-19 平安科技（深圳）有限公司 文本预测方法、装置、电子设备及存储介质
CN113515592B (zh) * 2021-04-23 2024-01-09 平安科技（深圳）有限公司 文本预测方法、装置、电子设备及存储介质
CN114023286A (zh) * 2021-10-15 2022-02-08 天翼爱音乐文化科技有限公司 一种说唱音乐生成方法、系统、装置与存储介质
CN114186545A (zh) * 2021-11-10 2022-03-15 北京达佳互联信息技术有限公司 歌词生成方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN110362696A (zh) 歌词生成方法、系统、计算机设备及计算机可读存储介质
CN111159416B (zh) 语言任务模型训练方法、装置、电子设备及存储介质
US20210390271A1 (en) Neural machine translation systems
US20220028375A1 (en) Speech recognition with attention-based recurrent neural networks
CN110366734B (zh) 优化神经网络架构
US10409908B2 (en) Generating parse trees of text segments using neural networks
CN109710915B (zh) 复述语句生成方法及装置
CN104143327B (zh) 一种声学模型训练方法和装置
US9400955B2 (en) Reducing dynamic range of low-rank decomposition matrices
CN108564940A (zh) 语音识别方法、服务器及计算机可读存储介质
BR112019004524B1 (pt) Sistema de redes neurais, um ou mais meios de armazenamento legíveis por computador não transitório e método para gerar autorregressivamente uma sequência de saída de dados de áudio
KR102577589B1 (ko) 음성 인식 방법 및 음성 인식 장치
CN111190600B (zh) 基于gru注意力模型的前端代码自动生成的方法及系统
CN111833845A (zh) 多语种语音识别模型训练方法、装置、设备及存储介质
CN108763535A (zh) 信息获取方法及装置
CN108959388B (zh) 信息生成方法及装置
CN105895082A (zh) 声学模型训练方法、语音识别方法及装置
CN112599117B (zh) 模型训练、语音识别方法及装置、电子设备及存储介质
CN111833844A (zh) 用于语音识别和语种分类的混合模型的训练方法及系统
CN114860915A (zh) 一种模型提示学习方法、装置、电子设备及存储介质
CN109637527A (zh) 对话语句的语义解析方法及系统
CN114091452A (zh) 一种基于适配器的迁移学习方法、装置、设备及存储介质
CN111797220A (zh) 对话生成方法、装置、计算机设备和存储介质
CN115712739A (zh) 舞蹈动作生成方法、计算机设备及存储介质
CN116150311A (zh) 文本匹配模型的训练方法、意图识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination