CN117609746B - 一种基于机器学习和聚类算法的盲源分离估计方法 - Google Patents
一种基于机器学习和聚类算法的盲源分离估计方法 Download PDFInfo
- Publication number
- CN117609746B CN117609746B CN202311565595.0A CN202311565595A CN117609746B CN 117609746 B CN117609746 B CN 117609746B CN 202311565595 A CN202311565595 A CN 202311565595A CN 117609746 B CN117609746 B CN 117609746B
- Authority
- CN
- China
- Prior art keywords
- signal
- clustering
- source
- hidden
- clustering algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000926 separation method Methods 0.000 title claims abstract description 61
- 238000004422 calculation algorithm Methods 0.000 title claims abstract description 57
- 238000000034 method Methods 0.000 title claims abstract description 35
- 238000010801 machine learning Methods 0.000 title claims abstract description 15
- 238000012549 training Methods 0.000 claims abstract description 22
- 238000005070 sampling Methods 0.000 claims abstract description 12
- 230000001131 transforming effect Effects 0.000 claims abstract description 11
- 238000003064 k means clustering Methods 0.000 claims abstract description 8
- 238000013528 artificial neural network Methods 0.000 claims description 22
- 230000008859 change Effects 0.000 claims description 4
- 238000004088 simulation Methods 0.000 claims description 4
- 230000009466 transformation Effects 0.000 claims description 4
- 238000012360 testing method Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 7
- 239000010410 layer Substances 0.000 description 28
- 239000011159 matrix material Substances 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 5
- 210000002569 neuron Anatomy 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000012880 independent component analysis Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000005284 excitation Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 230000007918 pathogenicity Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2131—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on a transform domain processing, e.g. wavelet transform
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0499—Feedforward networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及信号处理技术领域,提供一种基于机器学习和聚类算法的盲源分离估计方法包括:将混合信号中的观测信号变换至时频域上;提取公共信号源数据的特征,训练解码器;对混合信号进行抽样,并提取混合信号的隐藏高阶特征;利用第一聚类算法得到待估计的混合信号中每个信号源的数目以及初始聚类中心;利用第二聚类算法对初始聚类中心进行修正;分配各信号源对应的隐藏高阶特征,重新构建信号源的隐藏高阶特征,并经由训练后的解码器恢复各信号源。本申请基于机器学习以及AP聚类算法和K‑means聚类算法对信号中高阶隐藏特征的处理,能够挖掘并分类欠定盲源分离系统中混叠信号中各源信号的高阶隐藏特征,从而实现源信号的准确分离。
Description
技术领域
本申请涉及信号处理技术领域,尤其涉及一种基于机器学习和聚类算法的盲源分离估计方法。
背景技术
盲源分离技术是一种广泛应用在通信信号处理领域的技术,同时,随着现代社会的不断发展,盲源分离技术的应用范围也越来越广,在故障诊断方面,可通过盲源分离定位故障设备;在图像处理方面,可通过盲源分离从夹杂干扰的图像中恢复原图像;在生物医学方面,可应用盲源分离完成人体生理数据的提取或分类。
在盲源分离系统中,根据源信号与观测信号数量的不同衍生出两种盲源分离问题,当源信号数量小于观测信号的数量时为超定盲源分离问题,当源信号数量大于观测信号时称为欠定盲源分离问题。在实际的场景应用中,由于源信号的数量未知且大多数情况下数量较多,而检测设备的数量由于空间的限制与价格的约束的因素是有限的,因而欠定盲源分离问题更符合实际情况。
欠定盲源分离系统作为盲源分离系统的一个分支,由于约束条件的减少,存在病态性和特殊性,常用的盲源分离算法有独立分量分析(Independent Component Analysis,ICA)、稀疏分量分析(Sparse Component Analysis,SCA)及主成分分析(PrincipalComponent Analysis,PCA)方法等。目前稀疏成分分析方法是欠定盲源分离系统中的常用方法,使用该方法解决欠定盲源分离问题通常分为两步,即首先估计混合矩阵,然后在混合矩阵已经估计出来的基础上实现源信号的重构分离。稀疏成分分析法依赖于信号在短时傅里叶变换后,能够在得到的时频域信号内具有稀疏性,即对于一个时频方向内只有一个源信号,时频域内信号稀疏性越好,分离效果越好。目前的欠定盲源分离问题中,通常为直接估计,即在时频域内直接使用聚类算法估计混合矩阵,再在估计出的混合矩阵的基础上实现信号的分离重构。但一方面,在混合矩阵的估计算法中,常用的K均值聚类、模糊C均值聚类等算法虽然具有快速简单的特点,具有良好的收敛性,但对初始聚类中心的估计敏感,而实际的欠定盲源分离过程中信号源的数目是未知的;另一方面,直接在时频域内分离重构信号的做法没有充分利用混叠信号内存在的具有更优秀稀疏性的隐藏高阶特征,限制了信号分离的性能。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
鉴于现有技术的上述缺点、不足,本申请提供一种基于机器学习和聚类算法的盲源分离估计方法,提高欠定盲源分离系统中对隐藏特征的利用率,从而实现源信号的准确分离。
本发明提供了一种基于机器学习和聚类算法的盲源分离估计方法,包括:
接收待估计的混合信号,并将所述混合信号中的观测信号变换至时频域上,得到时频域观测信号;
提取公共信号源数据的特征,训练由DBN神经网络组成的编码器以及BP神经网络组成的解码器;所述公共信号源数据包括现有环境数据、仿真数据和实际环境数据;
对所述混合信号进行抽样,并将抽样后的混合信号输入至训练完成的编码器,提取所述混合信号的隐藏高阶特征;
利用第一聚类算法对所述隐藏高阶特征进行聚类,得到所述待估计的混合信号中每个信号源的数目以及初始聚类中心;
将所述信号源数目、所述初始聚类中心以及所述隐藏高阶特征输入至第二聚类算法中,以对所述初始聚类中心进行修正,得到修正后的聚类中心;
根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,并经由所述训练后的解码器恢复各信号源。
在本发明的一个实施例中,提取公共信号源数据的特征,训练由DBN神经网络组成的编码器以及BP神经网络组成的解码器,包括:
基于DBN神经网络将所述公共信号源的视频参数搬移至高维映射上,利用梯度上升法进行训练,并提取所述公共信号源的隐藏高阶特征;
利用所述公共信号源的隐藏高阶特征训练并测试BP神经网络。
在本发明的一个实施例中,对所述混合信号进行抽样,并将抽样后的混合信号输入至训练完成的编码器,提取所述混合信号的隐藏高阶特征,包括:
根据所述观测信号的路数确定所述编码器的输入端维度和所述解码器的输出端维度;
提取所述混合信号时频域的实部作为信号特征,并对所述信号特征进行归一化,以使所述信号特征值在预设阈值内。
在本发明的一个实施例中,所述第一聚类算法为AP聚类算法。
在本发明的一个实施例中,所述第二聚类算法为K-means聚类算法。
在本发明的一个实施例中,根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,并经由所述训练后的解码器恢复各信号源,包括:
根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,每个聚类中心所代表的信号源在每一时刻均由聚类内各点共同决定,聚类内各点所占权重由聚类内各点到聚类中心的距离决定;
所述训练后的解码器将所述隐藏高阶特征恢复为所述混合信号中各信号源的时频特征,变换回各信号源。
在本发明的一个实施例中,所述训练后的解码器将所述隐藏高阶特征恢复为所述混合信号中各信号源的时频特征,变换回各信号源,包括:
将重新构建所述信号源的隐藏高阶特征输入所述训练后的解码器,根据所述训练后的解码器得到对应的时频特征;
根据所述时频特征对各信号源进行恢复。
在本发明的一个实施例中,将所述信号源数目、所述初始聚类中心以及所述隐藏高阶特征输入至第二聚类算法中,以对所述初始聚类中心进行修正,得到修正后的聚类中心,包括:
将所述初始聚类中心输入至所述第二聚类算法中,确定聚类中心的总个数;
计算所述隐藏高阶特征中每个样本到所述初始聚类中心的距离,并将所述样本划分到距离最小的聚类中心所对应的类别中;
根据所述聚类中心所对应的类别,重新计算每个类别的聚类中心,直至聚类中心的变化小于目标值。
在本发明的一个实施例中,接收待估计的混合信号,并将所述混合信号中的观测信号变换至时频域上,得到时频域观测信号,包括:
通过短时傅里叶变换将所述观测信号变换到时频域上,得到时频域的观测信号。
在本发明的一个实施例中,所述混合信号包含语音信号以及各类调制信号。
本申请的上述技术方案相比现有技术具有以下优点:
本申请所述的一种盲源分离估计方法,基于机器学习以及AP聚类算法和K-means聚类算法对信号中高阶隐藏特征的处理,能够挖掘并分类欠定盲源分离系统中混叠信号中各源信号的高阶隐藏特征,从而实现源信号的准确分离。
附图说明
为了使本发明的内容更容易被清楚的理解,下面根据本发明的具体实施例并结合附图,对本发明作进一步详细的说明,其中:
图1示出了本申请实施例所提供的一种基于机器学习和聚类算法的盲源分离估计方法的流程图;
图2示出了本申请实施例所提供的混合信号图像及分离结果示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,应当理解,本申请中的附图仅起到说明和描述的目的,并不用于限定本申请的保护范围。另外,应当理解,示意性的附图并未按实物比例绘制。本申请中使用的流程图示出了根据本申请的一些实施例实现的操作。应当理解,流程图的操作可以不按顺序实现,没有逻辑的上下文关系的步骤可以反转顺序或者同时实施。此外,本领域技术人员在本申请内容的指引下,可以向流程图添加一个或多个其他操作,也可以从流程图中移除一个或多个操作。
另外,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的全部其他实施例,都属于本申请保护的范围。
为了使得本领域技术人员能够使用本申请内容,结合特定应用场景“基于机器学习和聚类算法的盲源分离估计”中,给出以下实施方式,对于本领域技术人员来说,在不脱离本申请的精神和范围的情况下,可以将这里定义的一般原理应用于其他实施例和应用场景。
本申请实施例下述方法可以应用于任何需要进行基于机器学习和聚类算法的盲源分离估计的场景,本申请实施例并不对具体的应用场景作限制,任何使用本申请实施例提供的基于机器学习和聚类算法的盲源分离估计的方案均在本申请保护范围内。
在信号的盲源分离过程中,由于目前稀疏成分分析方法是中,常用的K均值聚类、模糊C均值聚类等算法虽然具有快速简单的特点,具有良好的收敛性,但对初始聚类中心的估计敏感,而实际的欠定盲源分离过程中信号源的数目是未知的;同时,直接在时频域内分离重构信号的做法没有充分利用混叠信号内存在的具有更优秀稀疏性的隐藏高阶特征,限制了信号分离的性能。提取信号的高阶隐藏特征并解决初始聚类数目敏感是本实施例要解决的技术问题。
为便于对本申请进行理解,下面结合具体实施例对本申请提供的技术方案进行详细说明。
图1为本申请实施例所提供的一种基于机器学习和聚类算法的盲源分离估计方法的流程图。如图1所示,包括:
S101:接收待估计的混合信号,并将所述混合信号中的观测信号变换至时频域上,得到时频域观测信号。
在一些可能的实施方式中,接收待估计的混合信号,并将所述混合信号中的观测信号变换至时频域上,得到时频域观测信号,包括:
通过短时傅里叶变换将所述观测信号变换到时频域上,得到时频域的观测信号。
在一些可能的实施方式中,所述混合信号包含语音信号以及各类调制信号。
示例性的,以不失一般性为目标,本实施例所用信号包含语音信号及各类调制信号。
由于混叠信号在时域上几乎不具有稀疏性,但在时频域上稀疏性会有所增强,故将信号转移至时频域后做进一步处理。
具体地,通过短时傅里叶(STFT)变换将观测信号变换到时频域上,得到时频域的观测信号X(t,ω);相关计算公式为:X(t,ω)=AS(t,ω),其中,X(t,ω)表示观测信号的STFT系数,为复数形式;S(t,ω)表示源信号的STFT系数。
S102:提取公共信号源数据的特征,训练由DBN神经网络组成的编码器以及BP神经网络组成的解码器;所述公共信号源数据包括现有环境数据、仿真数据和实际环境数据。
在一些可能的实施方式中,提取公共信号源数据的特征,训练由DBN神经网络组成的编码器以及BP神经网络组成的解码器,包括:
基于DBN神经网络将所述公共信号源的视频参数搬移至高维映射上,利用梯度上升法进行训练,并提取所述公共信号源的隐藏高阶特征;
利用所述公共信号源的隐藏高阶特征训练并测试BP神经网络。
示例性的,训练编码器的具体流程为:
对DBN神经网络中的每一个RBM层进行训练,RBM为两层网络,仅包含可见层和隐藏层,使用多个RBM网络串联形成DBN网络,训练具体流程为:
网络初始化。指定单层RBM输入输出维度(X,Y)确定网络可见层节点数p、隐含层节点数l,初始化输入层、隐含层神经元之间的连接权值ω,初始化可见层偏置a,隐藏层偏置b,给定学习速率k和神经元激励函数。
隐含层输出计算。根据输入变量X={x1,x2,…,xq,},q为样本数,输入层和隐含层连接权值ω以及可见层偏置a,隐藏层偏置b,计算隐含层输出H={h1,h2,…,hq,}。
RBM为无监督学习网络,其训练过程不采用反向传播方式,而是采用计算似然函数的方式,目的为最大化似然函数其中ns为样本数目P(vi)表示关于可见层数据的概率分布,θ表示参数w、a、b。
迭代过程采取梯度上升方式,梯度大小为实际操作时使用对比散度算法,先令V(0)=V,然后执行k步采样,利用P(h|V(t-1))采样出h(t-1),采样流程为:产生[0,1]上的随机数r;/>
并利用P(V|h(t-1))采样出出V(t),采样流程为:产生[0,1]上的随机数r;
三个参数的梯度分别计算为下式(1)至式(3):
达成似然函数最大化后,RBM网络训练完成,本申请训练三层RBM网络用于编码器,隐藏层大小分别为1000,500,50,第一层网络的输入为监测信号的数量,网络使用tanh函数作为激活函数。
训练解码器时,由于最终输出结果作为分离后信号容易在训练数据中已知,因而采用BP神经网络进行监督学习。训练解码器的具体流程为:
网络初始化。指定输入输出维度,输入维度为50,输出维度为监测信号的数量,确定网络隐藏层数为2层各层节点数量为200,1000。初始化输入层、隐含层神经元之间的连接权值ω,初始化隐藏层偏置a,b,给定学习速率k和神经元激励函数。
输出计算,根据编码器产生的输出H,输入层和隐含层连接权值ω,i,j以及隐藏层偏置a,b,计算输出Y={y1,y2,…,yq,}。
反向传播迭代,通过最小化误差函数对网络进行更新,使用的误差函数为
S103:对所述混合信号进行抽样,并将抽样后的混合信号输入至训练完成的编码器,提取所述混合信号的隐藏高阶特征。
在一些可能的实施方式中,对所述混合信号进行抽样,并将抽样后的混合信号输入至训练完成的编码器,提取所述混合信号的隐藏高阶特征,包括:
根据所述观测信号的路数确定所述编码器的输入端维度和所述解码器的输出端维度;
提取所述混合信号时频域的实部作为信号特征,并对所述信号特征进行归一化,以使所述信号特征值在预设阈值内。
示例性的,对S101提取的信号数据进行抽样,提取混合信号时频域的实部作为信号特征,根据观测信号的路数决定编码器的输入端维度和解码器的输出端维度,通过公式(4):
Xq=sign(Re[Xq(1)])×Re[Xq]/||Re[Xq]||2 (4);
对其做归一化,使值保持在[-1,1]之间,Re[Xq]=0的点位会被舍去。将抽样后信号输入训练好的编码器,提取混合信号的隐藏高阶特征。
S104:利用第一聚类算法对所述隐藏高阶特征进行聚类,得到所述待估计的混合信号中每个信号源的数目以及初始聚类中心。
在一些可能的实施方式中,所述第一聚类算法为AP聚类算法。
示例性的,利用第一聚类算法对编码器输出的隐藏高阶特征点进行聚类,得到信号源数目以及初始聚类中心,由于在计算初始聚类时,聚类的数目所代表的源信号的数目是未知的,因此在初始聚类计算中使用对聚类数量与初始聚类不敏感的AP聚类算法,具体流程为:
根据编码器输出的隐藏高阶特征构建相似度矩阵S,s(I,k)表示点i和点k之间的相似性,表示点k适合作为点i的聚类中心的程度,越大越适合。
根据相似度矩阵S计算支持度矩阵R,支持度r(I,k)从点i发送至候选聚类中心点k。反映了在考虑其他潜在聚类中心后,点k适合作为点i的聚类中心的程度。
根据支持度矩阵R计算归属度矩阵A,a(I,k)从候选聚类中心点k发送至点i。反映了在考虑其他点对点k成为聚类中心的支持后,点i选择点k作为聚类中心的合适程度。
不断迭代更新支持度R以及归属度矩阵A,直到达到设定的迭代次数;
决策矩阵E=R+A,矩阵E对角线上的值为正的点即为初始聚类中心,初始聚类中心的数目即估计的源信号数目;
进一步的,在训练过程中,聚类算法的超参数也在更新,以实现源信号个数的准确估计。
S105:将所述信号源数目、所述初始聚类中心以及所述隐藏高阶特征输入至第二聚类算法中,以对所述初始聚类中心进行修正,得到修正后的聚类中心。
在一些可能的实施方式中,所述第二聚类算法为K-means聚类算法。
在一些可能的实施方式中,将所述信号源数目、所述初始聚类中心以及所述隐藏高阶特征输入至第二聚类算法中,以对所述初始聚类中心进行修正,得到修正后的聚类中心,包括:
将所述初始聚类中心输入至所述第二聚类算法中,确定聚类中心的总个数;
计算所述隐藏高阶特征中每个样本到所述初始聚类中心的距离,并将所述样本划分到距离最小的聚类中心所对应的类别中;
根据所述聚类中心所对应的类别,重新计算每个类别的聚类中心,直至聚类中心的变化小于目标值。
示例性的,将信号源数目、初始聚类中心以及步骤S103中得到的隐藏高阶特征作为进一步聚类算法的输入,以对初始聚类中心进行修正,得到修正后的聚类中心。第二聚类算法使用K-means聚类算法,具体流程为:
将S104步骤中得到的初始聚类中心输入,作为初始聚类中心并确定K值,即聚类中心的总个数;
针对隐藏高阶特征数据集中每个样本计算它到初始聚类中心的距离并将其分到距离最小的聚类中心所对应的类中,重复此过程直至损失函数 最小。
根据新得到的每个类别,重新计算每个类别的聚类中心。
重复以上过程直到聚类中心的变化小于目标值 可通过训练或设置得到。
S106:根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,并经由所述训练后的解码器恢复各信号源。
在一些可能的实施方式中,根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,并经由所述训练后的解码器恢复各信号源,包括:
根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,每个聚类中心所代表的信号源在每一时刻均由聚类内各点共同决定,聚类内各点所占权重由聚类内各点到聚类中心的距离决定;
所述训练后的解码器将所述隐藏高阶特征恢复为所述混合信号中各信号源的时频特征,变换回各信号源。
在一些可能的实施方式中,所述训练后的解码器将所述隐藏高阶特征恢复为所述混合信号中各信号源的时频特征,变换回各信号源,包括:
将重新构建所述信号源的隐藏高阶特征输入所述训练后的解码器,根据所述训练后的解码器得到对应的时频特征;
根据所述时频特征对各信号源进行恢复。
示例性的,根据修正后的聚类中心分配各隐藏高阶特征,对源信号的高阶隐藏特征进行搭建,并经由解码器恢复各源信号。
具体地,为保证通用性,本申请中假设每个聚类中心所代表的源信号在每一时刻均由聚类内各点共同决定,各点所占权重有各点到聚类中心的距离决定,具体大小为下式(5);
其中,hp表示所计算的聚类内的点,ck表示聚类中心,b的大小为 且/>
根据重新搭建的高阶隐藏特征,对源信号进行逐个恢复。
具体地,将搭建好的新的聚类中心的高阶隐藏特征输入进解码器,根据训练好的解码器得到对应的时频特征。
根据新获得的信号时频特征对信号进行恢复。
图2为本申请基于上述实施例中使用的的混合信号图像及分离结果,通过图2可以看出来,本申请能够挖掘并分类欠定盲源分离系统中混叠信号中各源信号的高阶隐藏特征,从而实现源信号的准确分离。
综上所述,本申请实施例提供的一种基于机器学习和聚类算法的盲源分离估计方法,通过接收待估计的信号数据,将观测信号变换至时频域上;提取已有环境数据、仿真数据和实际环境数据的特征来训练由DBN神经网络及bp神经网络组成的编码器和解码器;对提取的信号数据进行抽样,将抽样后信号输入训练好的编码器,提取混合信号的隐藏高阶特征;利用第一聚类算法对编码器输出的隐藏高阶特征点进行聚类,得到信号源数目以及初始聚类中心;将信号源数目、初始聚类中心以及隐藏高阶特征作为第二聚类算法的输入,以对第一聚类中心进行修正,得到修正后的聚类中心;根据修正后的聚类中心分配各隐藏高阶特征,对源信号的高阶隐藏特征进行搭建,并经由解码器恢复各源信号。本申请能够挖掘并分类欠定盲源分离系统中混叠信号中各源信号的高阶隐藏特征,从而实现源信号的准确分离。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。
显然,上述实施例仅仅是为清楚地说明所作的举例,并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引申出的显而易见的变化或变动仍处于本发明创造的保护范围之中。
Claims (10)
1.一种基于机器学习和聚类算法的盲源分离估计方法,其特征在于,包括:
接收待估计的混合信号,并将所述混合信号中的观测信号变换至时频域上,得到时频域观测信号;
提取公共信号源数据的特征,训练由DBN神经网络组成的编码器以及BP神经网络组成的解码器;所述公共信号源数据包括现有环境数据、仿真数据和实际环境数据;
对所述混合信号进行抽样,并将抽样后的混合信号输入至训练完成的编码器,提取所述混合信号的隐藏高阶特征;
利用第一聚类算法对所述隐藏高阶特征进行聚类,得到所述待估计的混合信号中每个信号源的数目以及初始聚类中心;
将所述信号源数目、所述初始聚类中心以及所述隐藏高阶特征输入至第二聚类算法中,以对所述初始聚类中心进行修正,得到修正后的聚类中心;
根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,并经由训练后的解码器恢复各信号源。
2.根据权利要求1所述的盲源分离估计方法,其特征在于,提取公共信号源数据的特征,训练由DBN神经网络组成的编码器以及BP神经网络组成的解码器,包括:
基于DBN神经网络将所述公共信号源的视频参数搬移至高维映射上,利用梯度上升法进行训练,并提取所述公共信号源的隐藏高阶特征;
利用所述公共信号源的隐藏高阶特征训练并测试BP神经网络。
3.根据权利要求1所述的盲源分离估计方法,其特征在于,对所述混合信号进行抽样,并将抽样后的混合信号输入至训练完成的编码器,提取所述混合信号的隐藏高阶特征,包括:
根据所述观测信号的路数确定所述编码器的输入端维度和所述解码器的输出端维度;
提取所述混合信号时频域的实部作为信号特征,并对所述信号特征进行归一化,以使所述信号特征值在预设阈值内。
4.根据权利要求1所述的盲源分离估计方法,其特征在于,所述第一聚类算法为AP聚类算法。
5.根据权利要求1所述的盲源分离估计方法,其特征在于,所述第二聚类算法为K-means聚类算法。
6.根据权利要求1所述的盲源分离估计方法,其特征在于,根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,并经由所述训练后的解码器恢复各信号源,包括:
根据所述修正后的聚类中心分配各信号源对应的所述隐藏高阶特征,重新构建所述信号源的隐藏高阶特征,每个聚类中心所代表的信号源在每一时刻均由聚类内各点共同决定,聚类内各点所占权重由聚类内各点到聚类中心的距离决定;
所述训练后的解码器将所述隐藏高阶特征恢复为所述混合信号中各信号源的时频特征,变换回各信号源。
7.根据权利要求6所述的盲源分离估计方法,其特征在于,所述训练后的解码器将所述隐藏高阶特征恢复为所述混合信号中各信号源的时频特征,变换回各信号源,包括:
将重新构建所述信号源的隐藏高阶特征输入所述训练后的解码器,根据所述训练后的解码器得到对应的时频特征;
根据所述时频特征对各信号源进行恢复。
8.根据权利要求1所述的盲源分离估计方法,其特征在于,将所述信号源数目、所述初始聚类中心以及所述隐藏高阶特征输入至第二聚类算法中,以对所述初始聚类中心进行修正,得到修正后的聚类中心,包括:
将所述初始聚类中心输入至所述第二聚类算法中,确定聚类中心的总个数;
计算所述隐藏高阶特征中每个样本到所述初始聚类中心的距离,并将所述样本划分到距离最小的聚类中心所对应的类别中;
根据所述聚类中心所对应的类别,重新计算每个类别的聚类中心,直至聚类中心的变化小于目标值。
9.根据权利要求1所述的盲源分离估计方法,其特征在于,接收待估计的混合信号,并将所述混合信号中的观测信号变换至时频域上,得到时频域观测信号,包括:
通过短时傅里叶变换将所述观测信号变换到时频域上,得到时频域的观测信号。
10.根据权利要求1所述的盲源分离估计方法,其特征在于,所述混合信号包含语音信号以及各类调制信号。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311565595.0A CN117609746B (zh) | 2023-11-22 | 2023-11-22 | 一种基于机器学习和聚类算法的盲源分离估计方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311565595.0A CN117609746B (zh) | 2023-11-22 | 2023-11-22 | 一种基于机器学习和聚类算法的盲源分离估计方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117609746A CN117609746A (zh) | 2024-02-27 |
CN117609746B true CN117609746B (zh) | 2024-06-07 |
Family
ID=89955537
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311565595.0A Active CN117609746B (zh) | 2023-11-22 | 2023-11-22 | 一种基于机器学习和聚类算法的盲源分离估计方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117609746B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113095353A (zh) * | 2021-03-01 | 2021-07-09 | 华中科技大学 | 一种基于ap聚类的欠定盲源分离方法 |
WO2021179416A1 (zh) * | 2020-03-10 | 2021-09-16 | 山东大学 | 一种基于分离矩阵初始化频点选择的盲源分离方法及系统 |
CN113674756A (zh) * | 2021-10-22 | 2021-11-19 | 青岛科技大学 | 基于短时傅里叶变换和bp神经网络的频域盲源分离方法 |
CN114333897A (zh) * | 2022-03-14 | 2022-04-12 | 青岛科技大学 | 基于多信道噪声方差估计的BrBCA盲源分离方法 |
-
2023
- 2023-11-22 CN CN202311565595.0A patent/CN117609746B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021179416A1 (zh) * | 2020-03-10 | 2021-09-16 | 山东大学 | 一种基于分离矩阵初始化频点选择的盲源分离方法及系统 |
CN113095353A (zh) * | 2021-03-01 | 2021-07-09 | 华中科技大学 | 一种基于ap聚类的欠定盲源分离方法 |
CN113674756A (zh) * | 2021-10-22 | 2021-11-19 | 青岛科技大学 | 基于短时傅里叶变换和bp神经网络的频域盲源分离方法 |
CN114333897A (zh) * | 2022-03-14 | 2022-04-12 | 青岛科技大学 | 基于多信道噪声方差估计的BrBCA盲源分离方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117609746A (zh) | 2024-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11562208B2 (en) | Continuous relaxation of quantization for discretized deep neural networks | |
JP7337953B2 (ja) | 音声認識方法及び装置、ニューラルネットワークの訓練方法及び装置、並びにコンピュータープログラム | |
CN108231201B (zh) | 一种疾病数据分析处理模型的构建方法、系统及应用方法 | |
US20210089922A1 (en) | Joint pruning and quantization scheme for deep neural networks | |
CN109934261B (zh) | 一种知识驱动参数传播模型及其少样本学习方法 | |
CN113673346B (zh) | 一种基于多尺度SE-Resnet的电机振动数据处理与状态识别方法 | |
JP6892606B2 (ja) | 位置特定装置、位置特定方法及びコンピュータプログラム | |
CN114595732B (zh) | 基于深度聚类的雷达辐射源分选方法 | |
CN109377532B (zh) | 基于神经网络的图像处理方法及装置 | |
CN111899758B (zh) | 语音处理方法、装置、设备和存储介质 | |
CN111598325A (zh) | 基于层次聚类和分层注意力机制的交通速度预测方法 | |
CN111666996B (zh) | 一种基于attention机制的高精度设备源识别方法 | |
CN111881954A (zh) | 基于渐进式簇净化网络的转导推理小样本分类方法 | |
CN111860823A (zh) | 神经网络训练、图像处理方法及装置、设备及存储介质 | |
CN113488060A (zh) | 一种基于变分信息瓶颈的声纹识别方法及系统 | |
CN113920255B (zh) | 基于点云数据的高效测绘系统 | |
JP7294275B2 (ja) | 画像処理装置、画像処理プログラムおよび画像処理方法 | |
CN116486183B (zh) | 基于多种注意力权重融合特征的sar图像建筑区分类方法 | |
CN117609746B (zh) | 一种基于机器学习和聚类算法的盲源分离估计方法 | |
CN111209813B (zh) | 基于迁移学习的遥感图像语义分割方法 | |
CN113591892A (zh) | 一种训练数据的处理方法及装置 | |
CN110647917B (zh) | 一种模型复用方法与系统 | |
EP3726462A1 (en) | Identification device, identification method, and storage medium | |
CN113283519A (zh) | 一种基于离散系数的深度神经网络近似模型分析方法 | |
CN110705044A (zh) | 基于深度学习对风力发电系统进行仿真的仿真验证方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |