CN113362864A - 音频信号处理的方法、装置、存储介质及电子设备 - Google Patents

音频信号处理的方法、装置、存储介质及电子设备 Download PDF

Info

Publication number
CN113362864A
CN113362864A CN202110666359.2A CN202110666359A CN113362864A CN 113362864 A CN113362864 A CN 113362864A CN 202110666359 A CN202110666359 A CN 202110666359A CN 113362864 A CN113362864 A CN 113362864A
Authority
CN
China
Prior art keywords
model
audio signal
sound source
distance
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110666359.2A
Other languages
English (en)
Other versions
CN113362864B (zh
Inventor
范嘉骏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202110666359.2A priority Critical patent/CN113362864B/zh
Publication of CN113362864A publication Critical patent/CN113362864A/zh
Application granted granted Critical
Publication of CN113362864B publication Critical patent/CN113362864B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10009Improvement or modification of read or write signals
    • G11B20/10018Improvement or modification of read or write signals analog processing for digital recording or reproduction
    • G11B20/10027Improvement or modification of read or write signals analog processing for digital recording or reproduction adjusting the signal strength during recording or reproduction, e.g. variable gain amplifiers
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10009Improvement or modification of read or write signals
    • G11B20/10481Improvement or modification of read or write signals optimisation methods
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10527Audio or video recording; Data buffering arrangements
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • G11B20/10527Audio or video recording; Data buffering arrangements
    • G11B2020/10537Audio or video recording
    • G11B2020/10546Audio or video recording specifically adapted for audio data

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Stereophonic System (AREA)

Abstract

本公开涉及一种音频信号处理方法、装置、存储介质及电子设备,可以获取至少一个声源发出的待处理音频信号和待处理音频信号对应的预设衰减模型,预设衰减模型表征待处理音频信号在传播过程中声音强度的衰减情况;针对每个声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;根据预设音频分割参数确定至少两个距离区间,所述距离区间为待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;根据至少两个距离区间对预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;将每个声源对应的特征向量进行合并后,输入目标AI模型,得到目标AI模型对应的目标输出结果。

Description

音频信号处理的方法、装置、存储介质及电子设备
技术领域
本公开涉及对音频信号处理的领域,具体地,涉及一种音频信号处理的方法、装置、存储介质及电子设备。
背景技术
近年来DRL(Deep Reinforcement Learning,深度强化学习)技术在游戏控制、机器人控制、机器视觉等领域得到了广泛的应用,DRL可以分为环境认知和决策两个阶段,环境认知阶段进行表征学习,然后输出表征学习得到的深层语义信息到决策网络部分,对于较为复杂的环境常常会有声音信息,例如,人类就经常使用声源定位,因此对声音信息的向量化就对表征学习产生极大影响。
相关技术中常用的对声音信息的向量化处理方法是直接认为产生声音的位置(即声源位置)具有全部的音频信号,而其余位置的音频信号均为0,但是实际的声音传播过程中声音会随着与声源距离的增大而逐渐衰减,因此,常用的音频信号向量化的处理办法无法刻画出声音随着距离声源越远,声音强度越小的性质,导致DRL的表征学习出现极大偏差,从而与人的认知相违背。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
第一方面,提供一种音频信号处理方法,所述方法包括:
获取至少一个声源发出的待处理音频信号和所述待处理音频信号对应的预设衰减模型,所述预设衰减模型表征所述待处理音频信号在传播过程中声音强度的衰减情况;
针对每个所述声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;
根据所述预设音频分割参数确定至少两个距离区间,所述距离区间为所述待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;
根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;
将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果。
第二方面,提供一种音频信号处理装置,所述装置包括:
第一获取模块,用于获取至少一个声源发出的待处理音频信号和所述待处理音频信号对应的预设衰减模型,所述预设衰减模型表征所述待处理音频信号在传播过程中声音强度的衰减情况;
第二获取模块,用于针对每个所述声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;
确定模块,用于根据所述预设音频分割参数确定至少两个距离区间,所述距离区间为所述待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;
积分模块,用于根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;
模型应用模块,用于将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果。
第三方面,提供一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开第一方面所述方法的步骤。
第四方面,提供一种电子设备,包括:存储装置,其上存储有计算机程序;处理装置,用于执行所述存储装置中的所述计算机程序,以实现本公开第一方面所述方法的步骤。
通过上述技术方案,获取至少一个声源发出的待处理音频信号和所述待处理音频信号对应的预设衰减模型,所述预设衰减模型表征所述待处理音频信号在传播过程中声音强度的衰减情况;针对每个所述声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;根据所述预设音频分割参数确定至少两个距离区间,所述距离区间为所述待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量,通过对表征待处理音频信号在传播过程中声音强度的衰减情况的预设衰减模型进行基于黎曼积分的等价变换,得到待处理音频信号对应的特征向量,将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果,由于该特征向量可以很好的刻画声音强度在传播过程中随距离衰减的性质,这样,在基于该特征向量对AI模型进行训练时,可以提高模型对环境进行表征学习的准确度,进而得到具有完备听觉能力的AI模型,进一步地,还可以将音频信号的特征向量输入训练好的该AI模型,从而可以基于该AI模型根据采集到的音频信息生成与实际应用场景的控制需求匹配度较高的目标控制指令,提高了模型控制的准确性。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。在附图中:
图1是根据一示例性实施例示出的第一种音频信号处理方法的流程图;
图2是根据一示例性实施例示出的一种音频信号在空间传播的场景示意图;
图3a是根据一示例性实施例示出的第一种声源A发出的待处理音频信号的声音传播的场景示意图;
图3b是根据一示例性实施例示出的第二种声源A发出的待处理音频信号的声音传播的场景示意图;
图4a为一个声源发出的待处理音频信号在连续空间内按照自然衰减模型进行声音传播时的声音强度随距离的衰减曲线;
图4b为对待处理音频信号进行离散分割处理的示意图;
图4c是离散化的音频信号对应的每一个区域进行矩形逼近的示意图;
图5是根据一示例性实施例示出的第二种音频信号处理方法的流程图;
图6是根据一示例性实施例示出的第一种音频信号处理装置的框图;
图7是根据一示例性实施例示出的第二种音频信号处理装置的框图;
图8是根据一示例性实施例示出的一种电子设备的结构框图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
首先,对本公开的应用场景进行介绍,本公开主要应用于采用音频信号作为AI模型(如DRL模型)的输入对模型进行训练之前,对音频信号的预处理场景中,尤其是将DRL模型应用于游戏控制时(例如,训练射击类游戏3DFPS的AI模型),需要基于获取到的游戏场景中的各种信号(包括音频信号)对DRL模型进行模型训练。
为使得音频信号可以作为AI模型的输入对模型进行训练,需要先对音频信号进行向量化的处理,相关技术中常用的对声音信息的向量化处理方法是直接认为产生声音的位置(即声源位置)具有全部的音频信号,而其余位置的音频信号均为0,但是实际的声音传播过程中声音会随着与声源距离的增大而逐渐衰减,因此,常用的音频信号向量化的处理办法无法刻画出声音随着距离声源越远,声音强度越小的性质,导致DRL的表征学习出现极大偏差,从而与人的认知相违背。
为解决上述存在的问题,本公开提供一种音频信号处理方法、装置、存储介质及电子设备,可以通过对表征待处理音频信号在传播过程中声音强度的衰减情况的预设衰减模型进行基于黎曼积分的等价变换,得到待处理音频信号对应的特征向量,然后将每个声源对应的该特征向量合并后用于训练预设的AI模型,并且可以基于训练好的该AI模型,将每个声源对应的特征向量合并后输入训练好的该AI模型,以便输出目标控制指令,该特征向量可以很好的刻画声音强度在传播过程中随距离衰减的性质,这样,在基于该特征向量对AI模型进行训练时,可以提高模型对环境进行表征学习的准确度,进而得到具有完备听觉能力的AI模型,在将该特征向量输入训练好的该AI模型后,可以得到与实际应用场景中的控制需求匹配度较高的目标控制指令,从而可以提高模型控制的准确性。
下面结合附图对本公开的具体实施方式进行详细说明。
图1是根据一示例性实施例示出的一种音频信号处理方法的流程图,如图1所示,该方法包括以下步骤:
在步骤S101中,获取至少一个声源发出的待处理音频信号和该待处理音频信号对应的预设衰减模型,该预设衰减模型表征该待处理音频信号在传播过程中声音强度的衰减情况。
其中,该声源是指位于当前待训练的AI模型对应的听力极限空间内的声源,该听力极限空间是指该AI模型作为音频收听者(或者称之为观测者)可以收听到音频信号的最大空间范围,该预设衰减模型可以包括第一距离与声音强度的关系曲线,该第一距离为声音传播路径中的任一位置点与声源的距离,并且该预设衰减模型可以包括线性衰减模型、对数式衰减模型、逆对数式衰减模型、倒数式衰减模型以及自然衰减模型中的任一模型,上述几种音频衰减模型的具体介绍可以参考相关文献中的描述,在此不作赘述,在实际的应用场景中,用户可以根据实际的场景需求在上述预设衰减模型中选择与实际需求相适应的衰减模型。
在上述几种音频衰减模型中,自然衰减模型表征的音频信号在传播过程中声音强度的衰减情况与实际的音频衰减情况更为符合,也就是说,自然衰减模型是一个更加“逼真”的衰减模型,它会试着将声音在环境中的听觉效果考虑进去,因此,在本公开一种可能的实现方式中,可以预先设置该预设衰减模型为该自然衰减模型。
需要说明的是,在同一个应用场景中若存在多个声源,每个声源发出的该待处理音频信号对应的该预设衰减模型是相同的,例如,若当前应用场景中存在3个声源,这3个声源发出的待处理音频信号对应的预设衰减模型均为该自然衰减模型,此处仅是举例说明,本公开对此不作限定。
下面以游戏场景为例,对本步骤的具体实施方式进行介绍。
通常情况下在游戏场景中存在多个角色,并且每个角色都可以通过语音的方式与游戏中的其它角色进行交互,因此,每个角色都可以视为一个声源,由于本公开的一种应用场景在于通过AI模型(如DRL模型)模拟游戏角色进行游戏操作,换句话说,该AI模型可以理解为是智能游戏机器人,因此,该AI模型可以视为音频信息的收听者,又因为本公开将音频信号进行向量化处理的目的在于将音频信号对应的特征向量输入AI模型,以便训练得到具有完备听觉能力的AI模型,而对于音频收听者(即AI模型)而言均有对应的听力极限空间,换句话说,AI模型只能收听到位于该听力极限空间内的声源发出的音频信息,因此,在执行并本步骤之前,还需确定位于该AI模型听力极限空间内的声源具体有哪些,基于上述的描述,首先可以对当前应用场景的声音传播进行空间建模,得到对应AI模型对应的该听力极限空间,然后将当前时刻位于该听力极限空间内的声源作为待处理音频信号对应的声源。
其中,在对该当前应用场景的声音传播进行空间建模的过程中,可以为该AI模型预先设置声音测试参数(如声音强度),将该声音测试参数小于或者等于预设值的位置点作为目标位置点,并确定该AI模型所在位置的中点位置点与该目标位置点之间的测试距离,从而可以根据该中点位置点和该测试距离确定该AI模型对应的该听力极限空间。
示例地,可以以该中心位置点为圆心,以该测试距离为半径画圆,将该圆形区域作为该AI模型对应的该听力极限空间,或者将该中心位置点为中心,该测试距离的2倍为边长的矩形区域作为该AI模型对应的该听力极限空间,上述示例仅是举例说明,本公开对此不作限定。
在得到当前待训练的该AI模型对应的该听力极限空间后,即可进一步确定出位于该听力极限空间内的声源的位置及个数,之后即可获取到位于该听力极限空间内的声源发出的待处理音频信号和该待处理音频信号对应的预设衰减模型。
示例地,图2是根据一示例性实施例示出的一种音频信号在空间传播的场景示意图,如图2所示,P表示观测者(即待训练的AI模型),以P为圆心的圆形区域表示观测者对应的听力极限空间,A、B、C均表示位于该听力极限空间内的声源,这样,在执行本步骤时,可以分别获取A、B、C三个声源分别发出的该待处理音频信号以及该待处理音频信号对应的该预设衰减模型,上述示例仅是举例说明,本公开对此不作限定。
在步骤S102中,针对每个声源,获取该声源发出的待处理音频信号对应的预设音频分割参数。
考虑到本公开是对每个声源发出的连续空间内的该待处理音频信号进行向量化处理,而在进行向量化处理之前需要先对连续空间内的该待处理音频信号进行离散化分割处理,因此,可以获取该预设音频分割参数,然后根据该预设音频分割参数对该待处理音频信号进行离散化分割处理,另外,对于不同声源发出的该待处理音频信号,可以选用相同的该预设音频分割参数进行离散化分割处理,也可以选用不同的预设音频分割参数进行离散化分割处理,本公开对此不作限定。
其中,该预设音频分割参数可以包括预设分割精度和两个预设距离边界点,或者,该预设音频分割参数可以包括多个预设距离分割点,其中,该预设距离边界点和该预设距离分割点均为待处理音频信号的声音传播路径上的位置点,该预设分割精度可以由用户根据模型训练所需要的输入向量的维数进行设置,例如,需要输入5维的特征向量,可以将该声音传播路径上位于预设距离边界点之间的一段待处理音频信号按照距离划分成5段,每一段的距离即为该预设分割精度,此处仅是举例说明,本公开对此不作限定。
在步骤S103中,根据该预设音频分割参数确定至少两个距离区间,该距离区间为该待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间。
在本步骤中,可以通过以下两种方式中的任一方式根据该预设音频分割参数确定至少两个距离区间:
方式一、可以对该待处理音频信号进行等间隔离散分割,此种场景下,该预设音频分割参数包括预设分割精度和两个预设距离边界点,这样,可以以两个该预设距离边界点中距离声源位置较近的点作为起点,以两个该预设距离边界点中距离声源位置较远的点作为终点,将该声音传播路径中该起点和该终点之间的声音传播路径按照该预设分割精度进行等间隔划分,得到至少两个该距离区间。
示例地,图3a是游戏场景中的角色A(即为图3a中的声源A)发出的该待处理音频信号的声音传播的场景示意图,箭头所在的路径为声音传播路径,声源A发出的该待处理音频信号由智能游戏机器人(该智能游戏机器人中预先嵌入有图3a中所示的待训练AI模型)收听,角色A距离智能游戏机器人15米,假设当前待训练的AI模型需要将10米范围内的音频信号作为模型的训练样本输入模型,在对如图3a所示的声源A发出的待处理音频信号进行离散化分割处理时,可以选择对声音传播路径中第一位置点至第二位置点之间的音频信号进行离散化分割处理,如图3a所示,该第一位置点即为声音传播路径中距离声源5米的位置点,该第二位置点即为智能游戏机器人所在的位置点,即该第一位置点即为起点,该第二位置点即为终点,又假设需要输入AI模型的特征向量的维度为5,那么该预设分割精度可以为2米,将该声音传播路径中第一位置点和第二位置点之间的声音传播路径按照每段2米的距离进行等间隔划分,得到(5,7),(7,9),(9,11)(11,13)(13,15)5个距离区间,上述示例仅是举例说明,本公开对此不作限定。
方式二、可以对该待处理音频信号按照任意精度进行离散分割,此种场景下,该预设音频分割参数包括多个预设距离分割点,这样,可以针对多个预设距离分割点中的每相邻两个预设距离分割点,将该相邻两个预设距离分割点作为该距离区间的区间端点,对该声音传播路径进行分割,得到至少两个该距离区间,其中,该预设距离分割点的个数也可以根据需要输入AI模型的向量维度进行设置。
示例地,图3b是游戏场景中的角色A(即为图b中的声源A)发出的该待处理音频信号的声音传播的场景示意图,箭头所在的路径为声音传播路径,声源A发出的该待处理音频信号由智能游戏机器人(该智能游戏机器人中预先嵌入有图3b中所示的待训练AI模型)收听,角色A距离智能游戏机器人15米,假设当前待训练的AI模型需要将10米范围内的音频信号作为模型的训练样本输入模型,在对如图3b所示的声源A发出的待处理音频信号进行离散化分割处理时,如图3b所示,可以设置a1、a2、a3、a4、a5、a6六个该预设距离分割点,其中a1点距离声源5米,a2点距离声源6米,a3点距离声源7米,a4点距离声源10米,a5点距离声源12米,a6点距离声源15米,针对上述六个该预设距离分割点中的每相邻两个预设距离分割点,将该相邻两个预设距离分割点作为该距离区间的区间端点,对该声音传播路径进行分割,得到(5,6),(6,7),(7,10)(10,12)(12,15)5个距离区间,上述示例仅是举例说明,本公开对此不作限定。
在步骤S104中,根据至少两个该距离区间对该预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量。
在本步骤中,可以针对每个距离区间,以该距离区间为积分域对该预设衰减模型进行黎曼积分,得到该距离区间对应的面积;然后根据该面积和该距离区间确定该距离区间对应的矩形区域的高度,并将该高度作为该距离区间对应的音频信号的声音强度;将每个该距离区间对应的声音强度按照距离该声源由近到远的顺序进行拼接,得到该声源发出的待处理音频信号对应的该特征向量。
示例地,图4a至图4c为以预设音频衰减模型为自然衰减模型为例示出的一种音频信号处理的过程示意图,图4a所示的为一个声源发出的待处理音频信号在连续空间内按照自然衰减模型进行声音传播时的声音强度随距离的衰减曲线,在获取到图4a所示的该待处理音频信号后,可以获取该声源对应的预设音频分割参数,假设获取到的该预设音频分割参数为如图3a所示的预设分割精度和两个预设距离边界点,可以根据该预设音频分割参数对图4a所示的该待处理音频信号进行离散化分割处理,得到如图4b所示的分割结果,并确定出如图3a所示的5个距离区间(5,7),(7,9),(9,11)(11,13)(13,15),之后可以针对每个距离区间,以该距离区间为积分域对该预设衰减模型进行黎曼积分,得到该距离区间对应的面积,例如,可以按照以下公式计算每个距离区间对应的面积:
Figure BDA0003117581960000121
Figure BDA0003117581960000122
Figure BDA0003117581960000123
Figure BDA0003117581960000124
Figure BDA0003117581960000125
其中,f(x)表示预设衰减模型,Di表示第i个距离区间对应的面积。
在计算得到每个距离区间对应的面积后,可以根据该面积和该距离区间确定该距离区间对应的矩形区域(如图4c所示)的高度,例如,可以用该距离区间对应的面积除以该距离区间的宽度(即该距离区间的区间长度)得到该高度,并将该高度作为该距离区间对应的音频信号的声音强度,然后将将每个该距离区间对应的声音强度按照距离该声源由近到远的顺序进行拼接,得到该声源发出的待处理音频信号对应的该特征向量,上述示例仅是举例说明,本公开对此不作限定。
这样,对离散化的每一个区域使用矩形进行逼近,然后将矩形区域的高度作为声音信号的声音强度进行线性变换,变换过程中保证积分区域的面积相等,从而保证了变换前后的有序性,也保证了音频信号重构过程中无信息泄露。
在步骤S105中,将每个该声源对应的该特征向量进行合并后,输入目标人工智能AI模型,得到该目标AI模型对应的目标输出结果。
其中,该目标AI模型可以包括预设DRL模型。
本公开在得到每个声源发出的待处理音频信号对应的特征向量以后,可以基于该特征向量对待训练的预设AI模型进行训练,从而训练得到具有完备听觉能力的AI模型,之后在实际的应用场景(如游戏控制时)中可以将实时采集的每个声源的该特征向量输入训练好的具有听觉能力的AI模型,以便通过该AI模型输出与实际应用场景当前的控制需求匹配度较高的目标控制指令,从而可以提高模型控制的准确性,因此,本步骤对重构的音频信号的特征向量具有以下两种应用:
应用一、该目标AI模型包括待训练的第一AI模型,这样,在本步骤中,可以将每个该声源对应的该特征向量进行合并后,输入该第一AI模型;根据合并后的该特征向量对该第一AI模型进行模型训练,以便得到具备听力能力的目标模型。
应用二、该目标AI模型包括根据重构的音频信号特征向量预先训练好的第二AI模型;这样,在本步骤中,可以将每个该声源对应的该特征向量进行合并后,作为该第二AI模型的输入,以便通过该第二AI模型输出目标控制指令。
需要说明的是,将该特征向量输入AI模型进行模型训练,或者将该特征向量输入AI模型进行具体的场景控制的过程中,均可以将每个声源对应的该特征向量进行拼接,然后与其它数值向量(指音频信息以外的其它数值向量)一起输入AI模型进行模型训练或者模型控制。
采用上述方法,通过对表征待处理音频信号在传播过程中声音强度的衰减情况的预设衰减模型进行基于黎曼积分的等价变换,得到待处理音频信号对应的特征向量,并将每个声源对应的该特征向量合并后用于训练预设的AI模型,并且可以基于训练好的该AI模型,将每个声源对应的特征向量合并后输入训练好的该AI模型,以便输出目标控制指令,该特征向量可以很好的刻画声音强度在传播过程中随距离衰减的性质,这样,在基于该特征向量对AI模型进行训练时,可以提高模型对环境进行表征学习的准确度,进而得到具有完备听觉能力的AI模型,在将该特征向量输入训练好的该AI模型后,可以得到与实际应用场景中的控制需求匹配度较高的目标控制指令,从而可以提高模型控制的准确性。
图5是根据图1所示实施例示出的一种音频信号处理的方法的流程图,如图5所示,在执行步骤S105之前,该方法还包括以下步骤:
在步骤S106中,对该特征向量中的向量元素进行倒序排序。
在步骤S107中,在倒序排序后的特征向量中添加该声源的标识信息,得到该声源发出的待处理音频信号对应的目标特征向量。
上述已经提及,本公开是以AI模型作为音频信号的收听者,将声源发出的音频信号作为AI模型的输入,从而训练得到具有完备听觉能力的AI模型,而该预设衰减模型表征的是待处理音频信号在传播过程中声音强度的衰减情况,即随着与声源距离的增加声音强度逐渐衰减,换句话说,距离声源越近声音强度越高,而站在AI模型(即声音收听者或者观测者)的角度,距离AI模型越近,声音强度越低,游戏场景中,对于在音频(指游戏角色发出的音频)的声音传播路径中的某一位置点来说,该位置点距离智能游戏机器人越近,对应的声音强度就越低,因此,若以AI模型为中心对声源发出的待处理音频信号进行向量化处理时,还需对该特征向量中的向量元素进行倒序排序,从而得到表征从AI模型出发到声源的音频特征向量,另外,为便于模型识别具体是哪个声源发出的音频的特征向量,还可以在特征向量中添加该声源的标识信息,以便通过该标识信息识别具体的声源。
示例地,假设在执行步骤S104后,得到声源A发出的待处理音频信号对应的特征向量为[0.167,0.2,0.25,0.33,0.5],对该特征向量进行倒序处理后得到的特征向量为[0.5,0.33,0.25,0.2,0.167],之后在该特征向量中增加声源A的标识信息A,得到目标特征向量[A,0.5,0.33,0.25,0.2,0.167],上述示例仅是举例说明,本公开对此不作限定。
这样,在执行步骤S105的过程中,可以将每个该声源对应的该目标特征向量进行合并后,输入该第一AI模型,从而可以根据合并后的该目标特征向量对该第一AI模型进行模型训练,得到具有完备听觉能力的第二AI模型,训练好的该第二AI模型还可以识别出具体是哪个声源发出的音频信息;或者,将合并后该目标特征向量输入该第二AI模型,得到与实际应用场景中的控制需求匹配度较高的目标控制指令,提高模型控制的准确性。
示例地,假设游戏场景中,智能游戏机器人对应的听力极限空间中存在角色A、B、C三个声源,可以将角色A、B、C分别对应的目标特征向量进行拼接后,与其它数值向量一起输入预先嵌入至智能游戏机器人中的该第一AI模型中对该模型进行训练,以该第一AI模型为预设DRL模型为例,可以将合并后的特征向量和其它数值向量一起输入预设DRL模型中的DL部分(即环境感知部分),进行特征提取,然后将提取到的上层特征输入到RL部分(即决策部分)进行策略迭代,并生成游戏动作与其它游戏角色进行交互,重复执行图5所示的步骤,从而训练得到具有完备听觉能力的第二AI模型,使得在游戏场景中,智能游戏机器人可以识别游戏中不同角色发出的音频信息,之后即可根据训练好的该第二AI模型进行游戏控制,具体地,可以实时采集当前游戏场景中每个角色发出的音频信号,然后基于图5中的方法对每个角色发出的该音频信号进行重构得到每个角色对应的该目标特征向量,然后将每个角色对应的该目标特征向量进行拼接后,与其它数值向量一起输入该第二AI模型,得到目标控制指令,从而可以根据该目标控制指令生成较准确的游戏动作进行游戏控制,提高游戏获胜率,上述示例仅是举例说明,本公开对此不作限定。
采用上述方法,通过对表征待处理音频信号在传播过程中声音强度的衰减情况的预设衰减模型进行基于黎曼积分的等价变换,得到待处理音频信号对应的特征向量,将每个该声源对应的该特征向量进行合并后,输入目标人工智能AI模型,得到该目标AI模型对应的目标输出结果,该特征向量可以很好的刻画声音强度在传播过程中随距离衰减的性质,这样,在基于该特征向量对AI模型进行训练时,可以提高模型对环境进行表征学习的准确度,进而得到具有完备听觉能力的AI模型,进一步地,还可以将音频信号的特征向量输入训练好的该AI模型,从而可以基于该AI模型根据采集到的音频信息生成与实际应用场景的控制需求匹配度较高的目标控制指令,提高了模型控制的准确性。
图6是根据一示例性实施例示出的一种音频信号处理装置的框图,如图6所示,该装置包括:
第一获取模块601,用于获取至少一个声源发出的待处理音频信号和该待处理音频信号对应的预设衰减模型,该预设衰减模型表征该待处理音频信号在传播过程中声音强度的衰减情况;
第二获取模块602,用于针对每个声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;
确定模块603,用于根据该预设音频分割参数确定至少两个距离区间,该距离区间为该待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;
积分模块604,用于根据至少两个该距离区间对该预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;
模型应用模块605,用于将每个该声源对应的该特征向量进行合并后,输入目标人工智能AI模型,得到该目标AI模型对应的目标输出结果。
可选地,该积分模块604,用于针对每个距离区间,以该距离区间为积分域对该预设衰减模型进行黎曼积分,得到该距离区间对应的面积;根据该面积和该距离区间确定该距离区间对应的矩形区域的高度,并将该高度作为该距离区间对应的音频信号的声音强度;将每个该距离区间对应的声音强度按照距离该声源由近到远的顺序进行拼接,得到该声源发出的待处理音频信号对应的该特征向量。
可选地,该预设音频分割参数包括预设分割精度和两个预设距离边界点,该确定模块603,用于以两个该预设距离边界点中距离声源位置较近的点作为起点,以两个该预设距离边界点中距离声源位置较远的点作为终点,将该声音传播路径中该起点和该终点之间的声音传播路径按照该预设分割精度进行等间隔划分,得到至少两个该距离区间。
可选地,该预设音频分割参数包括多个预设距离分割点,该确定模块603,用于针对多个该预设距离分割点中的每相邻两个预设距离分割点,将该相邻两个预设距离分割点作为该距离区间的区间端点,对该声音传播路径进行分割,得到至少两个该距离区间。
可选地,该目标AI模型包括待训练的第一AI模型;
该模型应用模块605,用于将每个该声源对应的该特征向量进行合并后,输入该第一AI模型;根据合并后的该特征向量对该第一AI模型进行模型训练,以便得到具备听力能力的目标模型。
可选地,该目标AI模型包括根据重构的音频信号特征向量预先训练好的第二AI模型;
该模型应用模块605,用于将每个该声源对应的该特征向量进行合并后,作为该第二AI模型的输入,以便通过该第二AI模型输出目标控制指令。
可选地,图7是根据图6所示实施例示出的一种音频信号处理装置的框图,如图7所示,该装置还包括:
处理模块606,用于对该特征向量中的向量元素进行倒序排序;在倒序排序后的特征向量中添加该声源的标识信息,得到该声源发出的待处理音频信号对应的目标特征向量;
该模型应用模块605,用于将每个该声源对应的该目标特征向量进行合并后,输入该目标AI模型,得到该目标AI模型对应的目标输出结果。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
采用上述装置,可以通过对表征待处理音频信号在传播过程中声音强度的衰减情况的预设衰减模型进行基于黎曼积分的等价变换,得到待处理音频信号对应的特征向量,将每个该声源对应的该特征向量进行合并后,输入目标人工智能AI模型,得到该目标AI模型对应的目标输出结果,该特征向量可以很好的刻画声音强度在传播过程中随距离衰减的性质,这样,在基于该特征向量对AI模型进行训练时,可以提高模型对环境进行表征学习的准确度,进而得到具有完备听觉能力的AI模型,进一步地,还可以将音频信号的特征向量输入训练好的该AI模型,从而可以基于该AI模型根据采集到的音频信息生成与实际应用场景的控制需求匹配度较高的目标控制指令,提高了模型控制的准确性。
下面参考图8,其示出了适于用来实现本公开实施例的电子设备800的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图8示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,电子设备800可以包括处理装置(例如中央处理器、图形处理器等)801,其可以根据存储在只读存储器(ROM)802中的程序或者从存储装置808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。在RAM 803中,还存储有电子设备800操作所需的各种程序和数据。处理装置801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
通常,以下装置可以连接至I/O接口805:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置806;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置807;包括例如磁带、硬盘等的存储装置808;以及通信装置809。通信装置809可以允许电子设备800与其他设备进行无线或有线通信以交换数据。虽然图8示出了具有各种装置的电子设备800,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置809从网络上被下载和安装,或者从存储装置808被安装,或者从ROM 802被安装。在该计算机程序被处理装置801执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端可以利用诸如HTTP(HyperText Transfer Protocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取至少一个声源发出的待处理音频信号和该待处理音频信号对应的预设衰减模型,该预设衰减模型表征该待处理音频信号在传播过程中声音强度的衰减情况;针对每个声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;根据该预设音频分割参数确定至少两个距离区间,该距离区间为该待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;根据至少两个该距离区间对该预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;将每个该声源对应的该特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定,例如,第一获取模块还可以被描述为“获取音频信号及衰减模型的模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,示例1提供了一种音频信号处理方法,包括:获取至少一个声源发出的待处理音频信号和所述待处理音频信号对应的预设衰减模型,所述预设衰减模型表征所述待处理音频信号在传播过程中声音强度的衰减情况;针对每个所述声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;根据所述预设音频分割参数确定至少两个距离区间,所述距离区间为所述待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果。
其中,示例1中提供的根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量包括:
针对每个距离区间,以该距离区间为积分域对所述预设衰减模型进行黎曼积分,得到该距离区间对应的面积;根据所述面积和该距离区间确定该距离区间对应的矩形区域的高度,并将该高度作为该距离区间对应的音频信号的声音强度;将每个所述距离区间对应的声音强度按照距离该声源由近到远的顺序进行拼接,得到该声源发出的待处理音频信号对应的所述特征向量。
示例1中提供的预设音频分割参数包括预设分割精度和两个预设距离边界点,所述根据所述预设音频分割参数确定至少两个距离区间包括:
以两个所述预设距离边界点中的较小值作为起点,以两个所述预设距离边界点中的较大值作为终点,将所述声音传播路径中所述起点和所述终点之间的声音传播路径按照所述预设分割精度进行等间隔划分,得到至少两个所述距离区间。
示例1中提供的所述预设音频分割参数包括多个预设距离分割点,所述根据所述预设音频分割参数确定至少两个距离区间包括:
针对多个所述预设距离分割点中的每相邻两个预设距离分割点,将该相邻两个预设距离分割点作为所述距离区间的区间端点,对所述声音传播路径进行分割,得到至少两个所述距离区间。
示例1中提供的所述目标AI模型包括待训练的第一AI模型;所述将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果包括:
将每个所述声源对应的所述特征向量进行合并后,输入所述第一AI模型;根据合并后的所述特征向量对所述第一AI模型进行模型训练,以便得到具备听力能力的目标模型。
示例1中提供的所述目标AI模型包括根据重构的音频信号特征向量预先训练好的第二AI模型;所述将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果包括:
将每个所述声源对应的所述特征向量进行合并后,作为所述第二AI模型的输入,以便通过所述第二AI模型输出目标控制指令。
根据本公开的一个或多个实施例,示例2中提供了示例1的方法,还包括对所述特征向量中的向量元素进行倒序排序;在倒序排序后的特征向量中添加该声源的标识信息,得到该声源发出的待处理音频信号对应的目标特征向量;将每个所述声源对应的所述目标特征向量进行合并后,输入所述目标AI模型,得到所述目标AI模型对应的目标输出结果。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

Claims (16)

1.一种音频信号处理方法,其特征在于,所述方法包括:
获取至少一个声源发出的待处理音频信号和所述待处理音频信号对应的预设衰减模型,所述预设衰减模型表征所述待处理音频信号在传播过程中声音强度的衰减情况;
针对每个所述声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;
根据所述预设音频分割参数确定至少两个距离区间,所述距离区间为所述待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;
根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;
将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果。
2.根据权利要求1所述的方法,其特征在于,所述根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量包括:
针对每个距离区间,以该距离区间为积分域对所述预设衰减模型进行黎曼积分,得到该距离区间对应的面积;
根据所述面积和该距离区间确定该距离区间对应的矩形区域的高度,并将该高度作为该距离区间对应的音频信号的声音强度;
将每个所述距离区间对应的声音强度按照距离该声源由近到远的顺序进行拼接,得到该声源发出的待处理音频信号对应的所述特征向量。
3.根据权利要求1所述的方法,其特征在于,所述预设音频分割参数包括预设分割精度和两个预设距离边界点,所述根据所述预设音频分割参数确定至少两个距离区间包括:
以两个所述预设距离边界点中距离声源位置较近的点作为起点,以两个所述预设距离边界点中距离声源位置较远的点作为终点,将所述声音传播路径中所述起点和所述终点之间的声音传播路径按照所述预设分割精度进行等间隔划分,得到至少两个所述距离区间。
4.根据权利要求1所述的方法,其特征在于,所述预设音频分割参数包括多个预设距离分割点,所述根据所述预设音频分割参数确定至少两个距离区间包括:
针对多个所述预设距离分割点中的每相邻两个预设距离分割点,将该相邻两个预设距离分割点作为所述距离区间的区间端点,对所述声音传播路径进行分割,得到至少两个所述距离区间。
5.根据权利要求1所述的方法,其特征在于,所述目标AI模型包括待训练的第一AI模型;所述将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果包括:
将每个所述声源对应的所述特征向量进行合并后,输入所述第一AI模型;
根据合并后的所述特征向量对所述第一AI模型进行模型训练,以便得到具备听力能力的目标模型。
6.根据权利要求1所述的方法,其特征在于,所述目标AI模型包括根据重构的音频信号特征向量预先训练好的第二AI模型;所述将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果包括:
将每个所述声源对应的所述特征向量进行合并后,作为所述第二AI模型的输入,以便通过所述第二AI模型输出目标控制指令。
7.根据权利要求1-6任一项所述的方法,其特征在于,在所述将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型之前,所述方法还包括:
对所述特征向量中的向量元素进行倒序排序;
在倒序排序后的特征向量中添加该声源的标识信息,得到该声源发出的待处理音频信号对应的目标特征向量;
所述将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型包括:
将每个所述声源对应的所述目标特征向量进行合并后,输入所述目标AI模型,得到所述目标AI模型对应的目标输出结果。
8.一种音频信号处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取至少一个声源发出的待处理音频信号和所述待处理音频信号对应的预设衰减模型,所述预设衰减模型表征所述待处理音频信号在传播过程中声音强度的衰减情况;
第二获取模块,用于针对每个所述声源,获取该声源发出的待处理音频信号对应的预设音频分割参数;
确定模块,用于根据所述预设音频分割参数确定至少两个距离区间,所述距离区间为所述待处理音频信号的声音传播路径中任意两个相邻位置点之间的距离对应的区间;
积分模块,用于根据至少两个所述距离区间对所述预设衰减模型进行基于黎曼积分的等价变换,得到该声源发出的待处理音频信号对应的特征向量;
模型应用模块,用于将每个所述声源对应的所述特征向量进行合并后,输入目标人工智能AI模型,得到所述目标AI模型对应的目标输出结果。
9.根据权利要求8所述的装置,其特征在于,所述积分模块,用于针对每个距离区间,以该距离区间为积分域对所述预设衰减模型进行黎曼积分,得到该距离区间对应的面积;根据所述面积和该距离区间确定该距离区间对应的矩形区域的高度,并将该高度作为该距离区间对应的音频信号的声音强度;将每个所述距离区间对应的声音强度按照距离该声源由近到远的顺序进行拼接,得到该声源发出的待处理音频信号对应的所述特征向量。
10.根据权利要求8所述的装置,其特征在于,所述预设音频分割参数包括预设分割精度和两个预设距离边界点,所述确定模块,用于以两个所述预设距离边界点中距离声源位置较近的点作为起点,以两个所述预设距离边界点中距离声源位置较远的点作为终点,将所述声音传播路径中所述起点和所述终点之间的声音传播路径按照所述预设分割精度进行等间隔划分,得到至少两个所述距离区间。
11.根据权利要求8所述的装置,其特征在于,所述预设音频分割参数包括多个预设距离分割点,所述确定模块,用于针对多个所述预设距离分割点中的每相邻两个预设距离分割点,将该相邻两个预设距离分割点作为所述距离区间的区间端点,对所述声音传播路径进行分割,得到至少两个所述距离区间。
12.根据权利要求8所述的装置,其特征在于,所述目标AI模型包括待训练的第一AI模型;
所述模型应用模块,用于将每个所述声源对应的所述特征向量进行合并后,输入所述第一AI模型;根据合并后的所述特征向量对所述第一AI模型进行模型训练,以便得到具备听力能力的目标模型。
13.根据权利要求8所述的装置,其特征在于,所述目标AI模型包括根据重构的音频信号特征向量预先训练好的第二AI模型;
所述模型应用模块,用于将每个所述声源对应的所述特征向量进行合并后,作为所述第二AI模型的输入,以便通过所述第二AI模型输出目标控制指令。
14.根据权利要求8-13任一项所述的装置,其特征在于,所述装置还包括:
处理模块,用于对所述特征向量中的向量元素进行倒序排序;在倒序排序后的特征向量中添加该声源的标识信息,得到该声源发出的待处理音频信号对应的目标特征向量;
所述模型应用模块,用于将每个所述声源对应的所述目标特征向量进行合并后,输入所述目标AI模型,得到所述目标AI模型对应的目标输出结果。
15.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-7中任一项所述方法的步骤。
16.一种电子设备,其特征在于,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现权利要求1-7中任一项所述方法的步骤。
CN202110666359.2A 2021-06-16 2021-06-16 音频信号处理的方法、装置、存储介质及电子设备 Active CN113362864B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110666359.2A CN113362864B (zh) 2021-06-16 2021-06-16 音频信号处理的方法、装置、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110666359.2A CN113362864B (zh) 2021-06-16 2021-06-16 音频信号处理的方法、装置、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN113362864A true CN113362864A (zh) 2021-09-07
CN113362864B CN113362864B (zh) 2022-08-02

Family

ID=77534651

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110666359.2A Active CN113362864B (zh) 2021-06-16 2021-06-16 音频信号处理的方法、装置、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN113362864B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114035764A (zh) * 2021-11-05 2022-02-11 郑州捷安高科股份有限公司 一种三维声效的模拟方法、装置、设备及存储介质

Citations (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5562510A (en) * 1978-11-02 1980-05-12 Itsuki Ban Electronic volume and automatic sound recording level setting unit using it
JPH02197863A (ja) * 1989-01-26 1990-08-06 Fuji Xerox Co Ltd 記録装置のユーザインターフェース
US5850455A (en) * 1996-06-18 1998-12-15 Extreme Audio Reality, Inc. Discrete dynamic positioning of audio signals in a 360° environment
JP2004271750A (ja) * 2003-03-06 2004-09-30 Yamaha Corp 音合成装置およびプログラム
US6944298B1 (en) * 1993-11-18 2005-09-13 Digimare Corporation Steganographic encoding and decoding of auxiliary codes in media signals
WO2005096268A2 (fr) * 2004-03-01 2005-10-13 France Telecom Procede de traitement de donnees sonores, en particulier en contexte ambiophonique
CA2467466A1 (en) * 2004-05-17 2005-11-17 Reaud Technologies, Inc. System and method for compressing and reconstructing audio files
CN101165779A (zh) * 2006-10-20 2008-04-23 索尼株式会社 信息处理装置和方法、程序及记录介质
US20090002325A1 (en) * 2007-06-27 2009-01-01 Think/Thing System and method for operating an electronic device
US20120026850A1 (en) * 2009-04-02 2012-02-02 Panasonic Corporation Optical disc reproduction apparatus
EP2562752A1 (en) * 2010-08-25 2013-02-27 Asahi Kasei Kabushiki Kaisha Sound source separator device, sound source separator method, and program
CA2843438A1 (en) * 2012-07-30 2013-03-21 Reza Rassool System and method for providing audio for a requested note using a render cache
JP2014236259A (ja) * 2013-05-31 2014-12-15 富士通株式会社 音源管理装置、音源管理方法、および音源管理システム
CN107172018A (zh) * 2017-04-27 2017-09-15 华南理工大学 公共背景噪声下激活式的声纹密码安全控制方法及系统
CN107885323A (zh) * 2017-09-21 2018-04-06 南京邮电大学 一种基于机器学习的vr场景沉浸控制方法
CN109819375A (zh) * 2019-01-11 2019-05-28 平安科技(深圳)有限公司 调节音量的方法与装置、存储介质、电子设备
CN110059201A (zh) * 2019-04-19 2019-07-26 杭州联汇科技股份有限公司 一种基于深度学习的跨媒体节目特征提取方法
CN110401898A (zh) * 2019-07-18 2019-11-01 广州酷狗计算机科技有限公司 输出音频数据的方法、装置、设备和存储介质
KR20200034166A (ko) * 2018-09-21 2020-03-31 송지혜 동일 스마트폰에서 청취와 녹음을 동시에 가능하게 하는 케이블 및 방법
CN111009256A (zh) * 2019-12-17 2020-04-14 北京小米智能科技有限公司 一种音频信号处理方法、装置、终端及存储介质
CN111444384A (zh) * 2020-03-31 2020-07-24 北京字节跳动网络技术有限公司 一种音频关键点确定方法、装置、设备及存储介质
WO2020237855A1 (zh) * 2019-05-30 2020-12-03 平安科技(深圳)有限公司 声音分离方法、装置及计算机可读存储介质
CN112509584A (zh) * 2020-12-03 2021-03-16 北京声智科技有限公司 声源位置确定方法、装置和电子设备

Patent Citations (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5562510A (en) * 1978-11-02 1980-05-12 Itsuki Ban Electronic volume and automatic sound recording level setting unit using it
JPH02197863A (ja) * 1989-01-26 1990-08-06 Fuji Xerox Co Ltd 記録装置のユーザインターフェース
US6944298B1 (en) * 1993-11-18 2005-09-13 Digimare Corporation Steganographic encoding and decoding of auxiliary codes in media signals
US5850455A (en) * 1996-06-18 1998-12-15 Extreme Audio Reality, Inc. Discrete dynamic positioning of audio signals in a 360° environment
JP2004271750A (ja) * 2003-03-06 2004-09-30 Yamaha Corp 音合成装置およびプログラム
WO2005096268A2 (fr) * 2004-03-01 2005-10-13 France Telecom Procede de traitement de donnees sonores, en particulier en contexte ambiophonique
CA2467466A1 (en) * 2004-05-17 2005-11-17 Reaud Technologies, Inc. System and method for compressing and reconstructing audio files
CN101165779A (zh) * 2006-10-20 2008-04-23 索尼株式会社 信息处理装置和方法、程序及记录介质
US20090002325A1 (en) * 2007-06-27 2009-01-01 Think/Thing System and method for operating an electronic device
US20120026850A1 (en) * 2009-04-02 2012-02-02 Panasonic Corporation Optical disc reproduction apparatus
EP2562752A1 (en) * 2010-08-25 2013-02-27 Asahi Kasei Kabushiki Kaisha Sound source separator device, sound source separator method, and program
CA2843438A1 (en) * 2012-07-30 2013-03-21 Reza Rassool System and method for providing audio for a requested note using a render cache
JP2014236259A (ja) * 2013-05-31 2014-12-15 富士通株式会社 音源管理装置、音源管理方法、および音源管理システム
CN107172018A (zh) * 2017-04-27 2017-09-15 华南理工大学 公共背景噪声下激活式的声纹密码安全控制方法及系统
CN107885323A (zh) * 2017-09-21 2018-04-06 南京邮电大学 一种基于机器学习的vr场景沉浸控制方法
KR20200034166A (ko) * 2018-09-21 2020-03-31 송지혜 동일 스마트폰에서 청취와 녹음을 동시에 가능하게 하는 케이블 및 방법
CN109819375A (zh) * 2019-01-11 2019-05-28 平安科技(深圳)有限公司 调节音量的方法与装置、存储介质、电子设备
CN110059201A (zh) * 2019-04-19 2019-07-26 杭州联汇科技股份有限公司 一种基于深度学习的跨媒体节目特征提取方法
WO2020237855A1 (zh) * 2019-05-30 2020-12-03 平安科技(深圳)有限公司 声音分离方法、装置及计算机可读存储介质
CN110401898A (zh) * 2019-07-18 2019-11-01 广州酷狗计算机科技有限公司 输出音频数据的方法、装置、设备和存储介质
CN111009256A (zh) * 2019-12-17 2020-04-14 北京小米智能科技有限公司 一种音频信号处理方法、装置、终端及存储介质
CN111444384A (zh) * 2020-03-31 2020-07-24 北京字节跳动网络技术有限公司 一种音频关键点确定方法、装置、设备及存储介质
CN112509584A (zh) * 2020-12-03 2021-03-16 北京声智科技有限公司 声源位置确定方法、装置和电子设备

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
JIANQIANG ZHANG: "Characteristics of Vibration Masking System against Acoustic Signal Restoring", 《2019 IEEE 4TH ADVANCED INFORMATION TECHNOLOGY, ELECTRONIC AND AUTOMATION CONTROL CONFERENCE (IAEAC)》 *
刘明等: "深度学习在音频信号处理中的研究探析", 《信息通信》 *
李皓若等: "基于Mallat算法对麦克风阵列多声源定位的研究", 《中国新通信》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114035764A (zh) * 2021-11-05 2022-02-11 郑州捷安高科股份有限公司 一种三维声效的模拟方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN113362864B (zh) 2022-08-02

Similar Documents

Publication Publication Date Title
CN109858445B (zh) 用于生成模型的方法和装置
CN108427939B (zh) 模型生成方法和装置
CN109101919B (zh) 用于生成信息的方法和装置
CN109829432B (zh) 用于生成信息的方法和装置
CN110532981B (zh) 人体关键点提取方法、装置、可读存储介质及设备
CN110009059B (zh) 用于生成模型的方法和装置
CN111354345B (zh) 生成语音模型和语音识别的方法、装置、设备以及介质
CN112650841A (zh) 信息处理方法、装置和电子设备
CN111597825B (zh) 语音翻译方法、装置、可读介质及电子设备
CN111968647B (zh) 语音识别方法、装置、介质及电子设备
CN112786069B (zh) 语音提取方法、装置和电子设备
CN113362864B (zh) 音频信号处理的方法、装置、存储介质及电子设备
CN111461967B (zh) 图片处理方法、装置、设备和计算机可读介质
CN110956128A (zh) 生成车道线图像的方法、装置、电子设备和介质
CN112241761A (zh) 模型训练方法、装置和电子设备
CN112183388A (zh) 图像处理方法、装置、设备和介质
CN115326079B (zh) 车辆车道级定位方法、装置、设备和计算机可读介质
CN112946576B (zh) 声源定位方法、装置和电子设备
CN112418233B (zh) 图像处理方法、装置、可读介质及电子设备
CN112017685B (zh) 语音生成方法、装置、设备和计算机可读介质
CN110209851B (zh) 模型训练方法、装置、电子设备及存储介质
CN110119721B (zh) 用于处理信息的方法和装置
CN113592557A (zh) 广告投放结果的归因方法、装置、存储介质及电子设备
CN112685996A (zh) 文本标点预测方法、装置、可读介质和电子设备
CN112365046A (zh) 用户信息生成方法、装置、电子设备和计算机可读介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant