CN116543771B - 语音识别方法、装置、存储介质及电子设备 - Google Patents

语音识别方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN116543771B
CN116543771B CN202310819294.XA CN202310819294A CN116543771B CN 116543771 B CN116543771 B CN 116543771B CN 202310819294 A CN202310819294 A CN 202310819294A CN 116543771 B CN116543771 B CN 116543771B
Authority
CN
China
Prior art keywords
value
exp
fixed point
connection layer
full
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310819294.XA
Other languages
English (en)
Other versions
CN116543771A (zh
Inventor
李�杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Youjie Zhixin Technology Co ltd
Original Assignee
Shenzhen Youjie Zhixin Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Youjie Zhixin Technology Co ltd filed Critical Shenzhen Youjie Zhixin Technology Co ltd
Priority to CN202310819294.XA priority Critical patent/CN116543771B/zh
Publication of CN116543771A publication Critical patent/CN116543771A/zh
Application granted granted Critical
Publication of CN116543771B publication Critical patent/CN116543771B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/28—Constructional details of speech recognition systems
    • G10L15/285—Memory allocation or algorithm optimisation to reduce hardware requirements
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/063—Training
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/083—Recognition networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G10L2015/025—Phonemes, fenemes or fenones being the recognition units

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Machine Translation (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本申请属于语音技术领域，尤其涉及一种语音识别方法、装置、存储介质及电子设备，本申请通过获取待识别的语音信号；将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；基于全连接层的输出值，利用sofmax计算公式以及设定的exp值确定方法计算所述语音信号的音素概率分布，利用所述语音信号的音素概率分布确定语音识别结果，如此，使语音实时识别在低端智能语音设备上变为现实且保证语音识别的精度。

Description

语音识别方法、装置、存储介质及电子设备
技术领域
本申请涉及语音技术领域，特别涉及到一种语音识别方法、装置、存储介质及电子设备。
背景技术
在语音识别技术领域，一般采用端到端（e2e）的网络识别或者混合识别方式(声学模型（am)+语言模型)识别语音，e2e或者am全连接层的输出，一般是音素的概率分布。在这个过程中要经过一次softmax ：softmax的计算公式为；其中exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数。然而，低资源的设备是没有硬件的指数实现的，这导致低资源设备无法实时识别出语音。因此，如何使语音实时识别在低端智能语音设备上变为现实且保证语音识别的精度是亟需解决的技术问题。
发明内容
本申请的主要目的为提供一种语音识别方法、装置、存储介质及电子设备，旨在使语音实时识别在低端智能语音设备上变为现实且保证语音识别的精度。
第一方面，本申请实施例提供一种语音识别方法，包括：
获取待识别的语音信号；
将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；
基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；
利用所述语音信号的音素概率分布确定语音识别结果；
其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：
判断所述全连接层的输出值是否小于设定的第一阈值；
若小于，则将所述全连接层的输出值对应的exp值置0；
否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；
若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；
若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；
利用所述查找表确定所述整数定点值对应的exp值；
按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；
利用所述查找表确定s1至sn-1各自对应的exp值；
采用泰勒级数计算所述sn的exp值；
将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。
进一步的，所述查找表根据如下步骤构建得到：
计算[T1,-1]之间每个负整数的exp值，并将所述负整数的exp值转换为定点值，作为exp定点值；其中，T1为所述设定的第一阈值的浮点值，所述第一阈值的浮点值为负整数且小于负1；
计算[-1,0]中指定数值的exp值，并将所述指定数值的exp值转换为定点值，作为exp定点值；
将所述[T1,-1]中的每一负整数对应的定点值以及每一所述指定数值对应的定点值均作为一个索引值，将其对应的exp定点值作为所述索引值对应的exp值记录到一设定的表格中，构建得到所述查找表。
进一步的，所述检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值的步骤包括：
通过分别计算所述查找表中每一索引值与所述全连接层的输出值之间的差值的方式检测所述查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值。
进一步的，所述利用所述查找表确定所述整数定点值对应的exp值的步骤包括：
将所述整数定点值作为索引，在所述查找表中查找与所述整数定点值相等的索引值；
将与所述整数定点值相等的索引值对应的exp值作为所述整数定点值对应的exp值。
进一步的，所述语音识别方法应用于低资源设备，所述低资源设备与部署设备连接，所述部署设备用于：
对原始语音识别模型进行剪枝；
将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值；
将量化后的语音识别模型作为所述预先训练好的语音识别模型部署到所述低资源设备上。
进一步的，所述对所述原始语音识别模型进行剪枝的步骤包括：
将小于预设阈值的权值设为0或将小于预设阈值的权值对应的连接删除。
进一步的，所述将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值的步骤包括：
采用量化感知训练方法或线性量化方法将所述剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值。
第二方面，本申请实施例提供一种语音识别装置，包括：
语音信号获取模块，用于获取待识别的语音信号；
输入模块，用于将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；
音素概率分布计算模块，用于基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；
确定模块，用于利用所述语音信号的音素概率分布确定语音识别结果；
其中，在利用公式计算所述语音信号的音素概率分布的过程中，利用如下单元确定所述全连接层的输出值对应的exp值：
判断单元，用于判断所述全连接层的输出值是否小于设定的第一阈值；
第一exp值确定单元，用于若小于，则将所述全连接层的输出值对应的exp值置0；
检测单元，用于否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；
第二exp值确定单元，用于若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；
第一拆分单元，用于若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；
第三exp值确定单元，用于利用所述查找表确定所述整数定点值对应的exp值；
第二拆分单元，用于按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；
第四exp值确定单元，用于利用所述查找表确定s1至sn-1各自对应的exp值；
计算单元，用于采用泰勒级数计算所述sn的exp值；
相乘单元，用于将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。
第三方面，本申请实施例提供一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器执行所述计算机程序时实现如上述任一项所述方法的步骤。
第四方面，本申请实施例提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述任一项所述方法的步骤。
本申请实施例提供的语音识别方法，包括：获取待识别的语音信号；将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；利用所述语音信号的音素概率分布确定语音识别结果；其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：判断所述全连接层的输出值是否小于设定的第一阈值；若小于，则将所述全连接层的输出值对应的exp值置0；否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；利用所述查找表确定所述整数定点值对应的exp值；按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；利用所述查找表确定s1至sn-1各自对应的exp值；采用泰勒级数计算所述sn的exp值；将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值，如此，使语音实时识别在低端智能语音设备上变为现实且保证语音识别的精度。
附图说明
图1为申请实施例提供的语音识别方法的流程示意图；
图2为申请实施例提供的语音识别装置的结构意图；
图3为申请实施例提供的电子设备的结构示意图；
本申请目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
本技术领域技术人员可以理解，除非特意声明，这里使用的单数形式“一”、“一个”、“上述”和“该”也可包括复数形式。应该进一步理解的是，本申请的说明书中使用的措辞“包括”是指存在特征、整数、步骤、操作、元件、模块、模块和/或组件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、模块、组件和/或它们的组。应该理解，当我们称元件被“连接”或“耦接”到另一元件时，它可以直接连接或耦接到其他元件，或者也可以存在中间元件。此外，这里使用的“连接”或“耦接”可以包括无线连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出项的全部或任一模块和全部组合。
本技术领域技术人员可以理解，除非另外定义，这里使用的所有术语（包括技术术语和科学术语），具有与本申请所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是，诸如通用字典中定义的那些术语，应该被理解为具有与现有技术的上下文中的意义一致的意义，并且除非像这里一样被特定定义，否则不会用理想化或过于正式的含义来解释。
请参阅图1，本申请实施例提供一种语音识别方法，包括步骤S1-S4：
S1、获取待识别的语音信号；
S2、将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；
S3、基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；
S4、利用所述语音信号的音素概率分布确定语音识别结果；
其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：
S31、判断所述全连接层的输出值是否小于设定的第一阈值；
S32、若小于，则将所述全连接层的输出值对应的exp值置0；
S33、否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；
S34、若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；
S35、若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；
S36、利用所述查找表确定所述整数定点值对应的exp值；
S37、按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；
S38利用所述查找表确定s1至sn-1各自对应的exp值；
S39、采用泰勒级数计算所述sn的exp值；
S40、将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。
本申请上述语音识别方法应用于低资源设备，低资源设备指的是：1、主频低，比如cpu的主频小于100mhz ；2、内存少，比如内存只有50k以内；3、flash少，比如flash只有256k；4、支持的运算少，比如只支持定点计算，且对一些数学运算没有硬件加速。所述低资源设备可以理解为低端的智能语音设备。
如上述步骤S1，作为一种举例，所述待识别的语音信号通过麦克风采集得到，所述麦克风是低端智能语音设备上配置的麦克风。
如上述步骤S2，所述语音识别模型为端到端的语音识别模型或由声学模型和语言模型构成。定点值又可以理解为定点数，定点数指的是小数点固定的数。
如上述步骤步骤S3，，/>为需要输入到exp函数中的值。在本发明实施例中，全连接层的输出值需要输入到exp函数中，然后根据步骤S31-S40计算该全连接层的输出值对应的exp值，这样才能计算出语音信号的音素概率分布。
如上述步骤S4，音素概率分布，可以认为是每个小时间段 都会有一列音素概率分布输出，这样一段时长的音频（语音信号），就对应若干列的音素概率分布，它组成一个解码矩阵。在这个二维解码矩阵上，可以运用多种算法进行语音识别，比如greedy search（贪心搜索） 、beam search（集束搜索） 、viterbi(维特比）解码等算法。这些都是一些常见的语音识别解码算法。
如上述步骤S31，所述设定的第一阈值根据实际需要的精度设计。由步骤S2可知，所述全连接层的输出值为定点值，由于浮点值可映射为定点值，定点值和浮点值的映射关系为：定点值=浮点值*量化因子，如若浮点值为-15，量化因子（factor）为，那么，定点值。由于定点值可映射为对应的浮点值，为便于描述，本申请所有具体数字例子均采用浮点值进行举例说明。应当理解的是，浮点值又可以理解为浮点数，浮点数指的是小数点不固定的数。
如上述步骤S32，作为一个例子，将-15作为所述第一阈值(定点值）对应的浮点值，由于是一个很小的值，因此，若全连接层的输出值小于第一阈值，可以将全连接层的输出值对应的exp值置0。本申请实施例通过将小于第一阈值的全连接层的输出值对应的exp值直接置为0，因此，可以提高exp值计算的速度，从而提高音素概率分布计算速度，进而提高语音识别的速度。又由于该第一阈值对应的exp值很小，因此，将小于第一阈值的全连接层的输出值对应的exp值置为0不会损失exp值的精度，从而不会损失音素概率分布的精度，进而不会损失语音识别的精度。
如上述步骤S33-S34，作为一个例子，比如-2.0000001 （全连接层的输出值对应浮点值）和-2（索引值对应的浮点值）的差值是， 若第二阈值对应的浮点值设定为/>,由于/>，那么exp(-2.0000001)可用exp(-2)值表示。
如上述步骤S35，作为一个例子，比如，
即-2.6（浮点值）可拆分成-2和-0.6。
如上述步骤S36，所述整数定点值对应的exp值已经预先计算出来且存储在查找表中，因此，通过查找表查找整数定点值对应的exp值可以提高计算速度。
如上述步骤S37~S40，由于采用泰勒级数计算exp值会存在误差，且根据其泰勒（taylor）展开式可知，在x越接近0，其展开式计算越准确，因此，为既能够提高计算速度也能够保证计算精度，可以预先计算出部分小数点定点值的exp值，并记录到查找表中，其余小数点定点值的exp值采用泰勒级数实时计算。作为一个例子，-0.6=(-0.5)+（-0.1)，其中，该例子中，-0.5的exp值是预先计算出来并记录在查找表中的值，-0.1的exp值是需要实时计算的值。进一步的，[-1,0]中指定数值，即记录在表格中的值是根据所需精度确定的， 如[-1,0]中指的数值包括-1/2， -1/4 ...T3等数值，其中，T3用于确定精度，如T3可取-1/16。若T3为-1/16，那么，在该种情况下，Sn为(-1/16，0)之间的数值，即可只需要计算(-1/16，0)之间的数值即可。如上述步骤S40，根据指数运算规则可知，，因此，将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘可以得到所述全连接层的输出值对应的exp值。本申请实施例通过将全连接层的输出值拆分成整数定点值和小数定点值，还将小数定点值进一步拆分成更小的小数定点值，而整数定点值以及部分小数定点值对应的exp值可以通过查表得到，因此，无需实时计算，提高了确定exp值的速度，从而提高音素概率分布计算速度，进而提高语音识别的速度。此外，通过将部分小数定点值以及其对应的exp值记录在表格中，减少泰勒近似exp值的范围，从而提升近似的精度，进而提升语音识别精度。
本申请实施例提供的语音识别方法，包括：获取待识别的语音信号；将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；利用所述语音信号的音素概率分布确定语音识别结果；其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：判断所述全连接层的输出值是否小于设定的第一阈值；若小于，则将所述全连接层的输出值对应的exp值置0；否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；利用所述查找表确定所述整数定点值对应的exp值；按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；利用所述查找表确定s1至sn-1各自对应的exp值；采用泰勒级数计算所述sn的exp值；将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值，如此，使语音实时识别在低端智能语音设备上变为现实且保证语音识别的精度。
在一个实施例中，所述查找表根据如下步骤构建得到：
S100、计算[T1,-1]之间每个负整数的exp值，并将所述负整数的exp值转换为定点值，作为exp定点值；其中，T1为所述设定的第一阈值的浮点值，所述第一阈值的浮点值为负整数且小于负1；
S101、计算[-1,0]中指定数值的exp值，并将所述指定数值的exp值转换为定点值，作为exp定点值；
S102、将所述[T1,-1]中的每一负整数对应的定点值以及每一所述指定数值对应的定点值均作为一个索引值，将其对应的exp定点值作为所述索引值对应的exp值记录到一设定的表格中，构建得到所述查找表。
如上述步骤S100，若T1为-15，那么需要计算exp（-15），exp(-14)......exp(-1)等值，并将该计算得到的值转换为定点值。需要说明的是，出于数值稳定性考虑，避免softmax函数溢出问题，计算softmax的时候，会减去特征的最大值，因此，用于计算exp值的数值为负数。出于数值稳定性考虑，避免softmax函数溢出问题可以这样理解，在计算[10000,100,1,20]这个的softmax时，如果直接计算，exp(10000) 肯定是超过整数最大表示范围的 ，如果减去最大值，变为[0,-9900,-9999,-9980]后面几个基本值就是0，就不存在数值越界溢出的问题。
如上述步骤S101，计算[-1,0]中指定数值的exp值，如计算-0.5，-0.25等的exp值，即计算exp（-0,5)，exp(-0.25)等。
需要说明的是，上述步骤S100中负整数的exp值和步骤S101中[-1,0]中指定数值的exp值可以采用离线高精度方式计算得到，比如使用numpy的库或者scipy等库计算得出。由于该种方式计算精度高，因此计算得到的exp值可以认为是无精度损失的。
如上述步骤S102，将-15转换为定点值，将该定点值作为索引值记录在表格中，将-15的exp定点值作为索引值对应的结果记录在表格。将-14转换为定点值，将该定点值作为索引值记录在表格中，将-14的exp定点值作为索引值对应的结果记录在表格中。将-0.5转换为定点值，将该定点值作为索引值记录在表格中，将-0.5的exp定点值作为索引值对应的结果记录在表格。如此类推，可构建得到查找表，示意性的，如表1所示。
在本申请实施例中，在构建得到所述查找表之后，将所述查找表存储到所述电子设备的存储器中。
本申请实施例通过将查找表存储在所述电子设备的存储器中，可以使得计算exp数值时可直接调用查找表，提高exp值确定速度，从而提高音素概率分布计算速度，进而提高语音识别速度。
在一个实施例中，所述检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值的步骤包括：
通过分别计算所述查找表中每一索引值与所述全连接层的输出值之间的差值的方式检测所述查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值。
在本申请实施例中，由于查找表中存在多个索引值，为检测查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值，因此需要通过逐一比对的方式确定是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值。如，若查找表中存在索引值A1、索引值A2，输入到exp函数中的全连接层的输出值为B，则需要计算A1与B的差值，将计算得到的差值与第二阈值进行比较，便可得知A1与B之间的差值是否小于第二阈值。A2与B同理。
在一个实施例中，所述利用所述查找表确定所述整数定点值对应的exp值的步骤包括：
将所述整数定点值作为索引，在所述查找表中查找与所述整数定点值相等的索引值；
将与所述整数定点值相等的索引值对应的exp值作为所述整数定点值对应的exp值。
在本申请实施例中，通过将整数定点值作为索引，与查找表中的索引值进行逐一比对，可获得与所述整数定点值相等的索引值，从而可以通过对应关系获得与所述整数定点值相等的索引值对应的exp值。
在一个实施例中，所述语音识别方法应用于低资源设备，所述低资源设备与部署设备连接，所述部署设备用于：
对原始语音识别模型进行剪枝；
将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值；
将量化后的语音识别模型作为所述预先训练好的语音识别模型部署到所述低资源设备上。
在本申请实施例中，所述低资源设备指的是：1、主频低，比如cpu的主频小于100mhz ；2、内存少，比如内存只有50k以内；3、flash少，比如flash只有256k ；4、支持的运算少，比如只支持定点计算，且对一些数学运算没有硬件加速。所述低资源设备可以理解为低端的智能语音设备。
由于低资源设备主频低、内存少、flash少、支持的运算少，而在部署平台训练得到的原始语音识别模型或从第三方获取的原始语音识别模型的数据量是非常大的，因此，原始语音识别模型是无法部署到低资源设备的。为将原始语音识别模型部署到低资源设备，需要对原始语音识别模型进行剪枝，将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值，这样才能将语音识别模型部署到低资源设备上进行运行。
在一个实施例中，所述对所述原始语音识别模型进行剪枝的步骤包括：
将小于预设阈值的权值设为0或将小于预设阈值的权值对应的连接删除。
本申请实施例通过将小于预设阈值的权值设为0或将小于预设阈值的权值对应的连接删除，可以减少网络中的参数和连接数量。
在一个实施例中，所述将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值的步骤包括：
采用量化感知训练方法或线性量化方法将所述剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值。
量化感知训练（Quantization-aware Training）：在训练过程中，引入量化的梯度计算和模型更新，以逐步调整模型的参数为量化做取值。这种方法通过模拟量化过程，使模型在低精度的表示下也能保持较好的性能。线性量化：
将浮点数转换为定点数，例如将浮点权重和激活值乘以缩放因子，并将结果四舍五入到最接近的整数。该方法可以使用较少的位数来表示权重和激活值，从而减少存储需求和计算复杂度。
本申请实施例还提供一种语音识别装置，如图2所示，包括：
语音信号获取模块1，用于获取待识别的语音信号；
输入模块2，用于将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；
音素概率分布计算模块3，用于基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；
确定模块4，用于利用所述语音信号的音素概率分布确定语音识别结果；
其中，在利用公式计算所述语音信号的音素概率分布的过程中，利用如下单元确定所述全连接层的输出值对应的exp值：
判断单元，用于判断所述全连接层的输出值是否小于设定的第一阈值；
第一exp值确定单元，用于若小于，则将所述全连接层的输出值对应的exp值置0；
检测单元，用于否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；
第二exp值确定单元，用于若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；
第一拆分单元，用于若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；
第三exp值确定单元，用于利用所述查找表确定所述整数定点值对应的exp值；
第二拆分单元，用于按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；
第四exp值确定单元，用于利用所述查找表确定s1至sn-1各自对应的exp值；
计算单元，用于采用泰勒级数计算所述sn的exp值；
相乘单元，用于将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。
在一些实施例中，所述查找表根据如下步骤构建得到：
计算[T1,-1]之间每个负整数的exp值，并将所述负整数的exp值转换为定点值，作为exp定点值；其中，T1为所述设定的第一阈值的浮点值，所述第一阈值的浮点值为负整数且小于负1；
计算[-1,0]中指定数值的exp值，并将所述指定数值的exp值转换为定点值，作为exp定点值；
将所述[T1,-1]中的每一负整数对应的定点值以及每一所述指定数值对应的定点值均作为一个索引值，将其对应的exp定点值作为所述索引值对应的exp值记录到一设定的表格中，构建得到所述查找表。
在一个实施例中，所述检测单元，具体用于：
通过分别计算所述查找表中每一索引值与所述全连接层的输出值之间的差值的方式检测所述查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值。
在一个实施例中，所述第三exp值确定单元具体用于：
将所述整数定点值作为索引，在所述查找表中查找与所述整数定点值相等的索引值；
将与所述整数定点值相等的索引值对应的exp值作为所述整数定点值对应的exp值。
在一个实施例中，所述语音识别装置应用于低资源设备，所述低资源设备与部署设备连接，所述部署设备包括：
剪枝模块，用于对原始语音识别模型进行剪枝；
量化模块，用于将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值；
部署模块，用于将量化后的语音识别模型作为所述预先训练好的语音识别模型部署到所述低资源设备上。
在一些实施例中，所述剪枝模块，具体用于：
将小于预设阈值的权值设为0或将小于预设阈值的权值对应的连接删除。
在一个实施例中，所述量化模块具体用于
采用量化感知训练方法或线性量化方法将所述剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值。
参照图3，本申请实施例还提供一种电子设备，该电子设备的内部结构可以如图3所示。该电子设备包括通过系统总线连接的处理器、存储器、网络接口和数据库。其中，该电子设备设计的处理器用于提供计算和控制能力。该电子设备的存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作装置、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该电子设备的数据库用于存储
语音识别方法的数据。该电子设备的网络接口用于与外部的终端通过网络连接通信。进一步地，上述电子设备还可以设置有输入装置和显示屏等。上述计算机程序被处理器执行时以实现语音识别方法，包括：获取待识别的语音信号；将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；利用所述语音信号的音素概率分布确定语音识别结果；其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：判断所述全连接层的输出值是否小于设定的第一阈值；若小于，则将所述全连接层的输出值对应的exp值置0；否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；利用所述查找表确定所述整数定点值对应的exp值；按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；利用所述查找表确定s1至sn-1各自对应的exp值；采用泰勒级数计算所述sn的exp值；将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。本领域技术人员可以理解，图3中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的电子设备的限定。
本申请一实施例还提供一种计算机可读存储介质，其上存储有计算机程序，计算机程序被处理器执行时实现语音识别方法，包括：获取待识别的语音信号；将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；利用所述语音信号的音素概率分布确定语音识别结果；其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：判断所述全连接层的输出值是否小于设定的第一阈值；若小于，则将所述全连接层的输出值对应的exp值置0；否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；利用所述查找表确定所述整数定点值对应的exp值；按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；利用所述查找表确定s1至sn-1各自对应的exp值；采用泰勒级数计算所述sn的exp值；将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。可以理解的是，本实施例中的计算机可读存储介质可以是易失性可读存储介质，也可以为非易失性可读存储介质。/>
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的和实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可以包括只读存储器（ROM）、可编程ROM（PROM）、电可编程ROM（EPROM）、电可擦除可编程ROM（EEPROM）或闪存。易失性存储器可包括随机存取存储器（RAM）或者外部高速缓冲存储器。作为说明而非局限，RAM通过多种形式可得，诸如静态RAM（SRAM）、动态RAM（DRAM）、同步DRAM（SDRAM）、双速据率SDRAM（SSRSDRAM）、增强型SDRAM（ESDRAM）、同步链路（Synchlink）DRAM（SLDRAM）、存储器总线（Rambus）直接RAM（RDRAM）、直接存储器总线动态RAM（DRDRAM）、以及存储器总线动态RAM（RDRAM）等。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其它变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素，而且还包括没有明确列出的其它要素，或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
以上所述仅为本申请的优选实施例，并非因此限制本申请的专利范围，凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本申请的专利保护范围内。

Claims (10)

1.一种语音识别方法，其特征在于，包括：
获取待识别的语音信号；
将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；
基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；
利用所述语音信号的音素概率分布确定语音识别结果；
其中，在利用公式计算所述语音信号的音素概率分布的过程中，根据如下步骤确定所述全连接层的输出值对应的exp值：
判断所述全连接层的输出值是否小于设定的第一阈值；
若小于，则将所述全连接层的输出值对应的exp值置0；
否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；
若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；
若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；
利用所述查找表确定所述整数定点值对应的exp值；
按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；sn相比 s1至 sn-1更接近 0；
利用所述查找表确定s1至sn-1各自对应的exp值；
采用泰勒级数计算所述sn的exp值；
将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。
2.根据权利要求1所述的语音识别方法，其特征在于，所述查找表根据如下步骤构建得到：
计算[T1,-1]之间每个负整数的exp值，并将所述负整数的exp值转换为定点值，作为exp定点值；其中，T1为所述设定的第一阈值的浮点值，所述第一阈值的浮点值为负整数且小于负1；
计算[-1,0]中指定数值的exp值，并将所述指定数值的exp值转换为定点值，作为exp定点值；
将所述[T1,-1]中的每一负整数对应的定点值以及每一所述指定数值对应的定点值均作为一个索引值，将其对应的exp定点值作为所述索引值对应的exp值记录到一设定的表格中，构建得到所述查找表。
3.根据权利要求1所述的语音识别方法，其特征在于，所述检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值的步骤包括：
通过分别计算所述查找表中每一索引值与所述全连接层的输出值之间的差值的方式检测所述查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值。
4.根据权利要求1所述的语音识别方法，其特征在于，所述利用所述查找表确定所述整数定点值对应的exp值的步骤包括：
将所述整数定点值作为索引，在所述查找表中查找与所述整数定点值相等的索引值；
将与所述整数定点值相等的索引值对应的exp值作为所述整数定点值对应的exp值。
5.根据权利要求1所述的语音识别方法，其特征在于，所述语音识别方法应用于低资源设备，所述低资源设备与部署设备连接，所述部署设备用于：
对原始语音识别模型进行剪枝；
将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值；
将量化后的语音识别模型作为所述预先训练好的语音识别模型部署到所述低资源设备上。
6.根据权利要求5所述的语音识别方法，其特征在于，所述对所述原始语音识别模型进行剪枝的步骤包括：
将小于预设阈值的权值设为0或将小于预设阈值的权值对应的连接删除。
7.根据权利要求5所述的语音识别方法，其特征在于，所述将剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值的步骤包括：
采用量化感知训练方法或线性量化方法将所述剪枝后的语音识别模型的权值和激活值从浮点值量化为定点值。
8.一种语音识别装置，其特征在于，包括：
语音信号获取模块，用于获取待识别的语音信号；
输入模块，用于将所述语音信号输入到预先训练好的语音识别模型，获取所述语音识别模型对所述语音信号进行处理后全连接层的输出值；其中，所述全连接层的输出值为定点值；
音素概率分布计算模块，用于基于所述全连接层的输出值，利用公式计算所述语音信号的音素概率分布；其中，exp表示以e为底的指数运算，/>表示全连接层第i个节点的输出值，J表示全连接层节点的个数，即音素类别的个数；
确定模块，用于利用所述语音信号的音素概率分布确定语音识别结果；
其中，在利用公式计算所述语音信号的音素概率分布的过程中，利用如下单元确定所述全连接层的输出值对应的exp值：
判断单元，用于判断所述全连接层的输出值是否小于设定的第一阈值；
第一exp值确定单元，用于若小于，则将所述全连接层的输出值对应的exp值置0；
检测单元，用于否则，检测预先存储在存储器中的查找表中是否存在一索引值与所述全连接层的输出值的差值小于设定的第二阈值；其中，所述查找表包括索引值和索引值对应的exp值；
第二exp值确定单元，用于若存在，将所述索引值对应的exp值作为所述全连接层的输出值对应的exp值；
第一拆分单元，用于若不存在，将所述全连接层的输出值拆分为整数定点值和小数定点值；
第三exp值确定单元，用于利用所述查找表确定所述整数定点值对应的exp值；
第二拆分单元，用于按照s=s1+s2+..sn的规则，将所述小数定点值s拆分成n个更小的小数定点值；其中，s1至sn-1均为所述查找表中的索引值；sn相比 s1至 sn-1更接近 0；
第四exp值确定单元，用于利用所述查找表确定s1至sn-1各自对应的exp值；
计算单元，用于采用泰勒级数计算所述sn的exp值；
相乘单元，用于将所述整数定点值对应的exp值、所述s1至sn-1各自对应的exp值以及所述sn的exp值进行相乘，得到相乘结果，将所述相乘结果作为所述全连接层的输出值对应的exp值。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的方法的步骤。
10.一种电子设备，包括：存储器和处理器，所述存储器中存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述的方法的步骤。
CN202310819294.XA 2023-07-06 2023-07-06 语音识别方法、装置、存储介质及电子设备 Active CN116543771B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310819294.XA CN116543771B (zh) 2023-07-06 2023-07-06 语音识别方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310819294.XA CN116543771B (zh) 2023-07-06 2023-07-06 语音识别方法、装置、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN116543771A CN116543771A (zh) 2023-08-04
CN116543771B true CN116543771B (zh) 2023-10-13

Family

ID=87443936

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310819294.XA Active CN116543771B (zh) 2023-07-06 2023-07-06 语音识别方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN116543771B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116884398B (zh) * 2023-09-06 2024-01-12 深圳市友杰智新科技有限公司 语音识别方法、装置、设备和介质
CN117746867B (zh) * 2024-02-19 2024-05-24 深圳市友杰智新科技有限公司 语音识别加速方法、装置和设备
CN117746838B (zh) * 2024-02-19 2024-05-24 深圳市友杰智新科技有限公司 语音特征提取加速方法、装置、设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110490310A (zh) * 2018-05-14 2019-11-22 北京深鉴智能科技有限公司 神经网络数据压缩及其相关计算方法和装置
KR20210116182A (ko) * 2020-03-17 2021-09-27 삼성전자주식회사 소프트맥스 연산 근사화 방법 및 장치
CN113721884A (zh) * 2021-09-01 2021-11-30 北京百度网讯科技有限公司 运算方法、装置、芯片、电子装置及存储介质
CN113887701A (zh) * 2016-12-20 2022-01-04 谷歌有限责任公司 生成用于神经网络输出层的输出
CN114612996A (zh) * 2022-03-31 2022-06-10 安谋科技（中国）有限公司 神经网络模型的运行方法、介质、程序产品以及电子设备
WO2022168604A1 (ja) * 2021-02-05 2022-08-11 コニカミノルタ株式会社 ソフトマックス関数の近似計算装置、近似計算方法および近似計算プログラム

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019222724A1 (en) * 2018-05-18 2019-11-21 Google Llc Deep neural networks with no multiplications and no floating point operations

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113887701A (zh) * 2016-12-20 2022-01-04 谷歌有限责任公司 生成用于神经网络输出层的输出
CN110490310A (zh) * 2018-05-14 2019-11-22 北京深鉴智能科技有限公司 神经网络数据压缩及其相关计算方法和装置
KR20210116182A (ko) * 2020-03-17 2021-09-27 삼성전자주식회사 소프트맥스 연산 근사화 방법 및 장치
WO2022168604A1 (ja) * 2021-02-05 2022-08-11 コニカミノルタ株式会社 ソフトマックス関数の近似計算装置、近似計算方法および近似計算プログラム
CN113721884A (zh) * 2021-09-01 2021-11-30 北京百度网讯科技有限公司 运算方法、装置、芯片、电子装置及存储介质
CN114612996A (zh) * 2022-03-31 2022-06-10 安谋科技（中国）有限公司 神经网络模型的运行方法、介质、程序产品以及电子设备

Also Published As

Publication number Publication date
CN116543771A (zh) 2023-08-04

Similar Documents

Publication Publication Date Title
CN116543771B (zh) 语音识别方法、装置、存储介质及电子设备
CN110277085B (zh) 确定多音字发音的方法及装置
CN109034378B (zh) 神经网络的网络表示生成方法、装置、存储介质和设备
CN112786007B (zh) 语音合成方法、装置、可读介质及电子设备
CN112508125A (zh) 一种图像检测模型的高效全整数量化方法
CN111133506A (zh) 语音合成模型的训练方法、装置、计算机设备及存储介质
CN112786008B (zh) 语音合成方法、装置、可读介质及电子设备
CN108509422B (zh) 一种词向量的增量学习方法、装置和电子设备
CN111695671A (zh) 训练神经网络的方法及装置、电子设备
CN115238893B (zh) 面向自然语言处理的神经网络模型量化方法和装置
US20240046086A1 (en) Quantization method and quantization apparatus for weight of neural network, and storage medium
CN116884398B (zh) 语音识别方法、装置、设备和介质
WO2019155054A1 (en) Generating output examples using recurrent neural networks conditioned on bit values
CN110570877B (zh) 手语视频生成方法、电子设备及计算机可读存储介质
KR20180065762A (ko) 매니폴드 제약 조건에 기반한 심층 신경망 압축 방법 및 그 장치
CN112885367B (zh) 基频获取方法、装置、计算机设备和存储介质
US11699077B2 (en) Multi-layer neural network system and method
CN114444667A (zh) 训练神经网络的方法及装置、电子设备
CN113408702A (zh) 音乐神经网络模型预训练方法及电子设备和存储介质
CN113223494A (zh) 梅尔频谱的预测方法、装置、设备及存储介质
CN115238873B (zh) 神经网络模型部署方法、装置、计算机设备
CN111092602A (zh) 功率放大器的建模方法、装置、计算机设备和存储介质
KR20210009584A (ko) 가변 정밀도 양자화 장치 및 방법
CN110517669B (zh) 一种预测词语发音的方法、装置、电子设备及存储介质
CN115035897B (zh) 一种关键词检测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant