CN113283489B - 一种基于联合分布匹配的半监督域适应学习的分类方法 - Google Patents

一种基于联合分布匹配的半监督域适应学习的分类方法 Download PDF

Info

Publication number
CN113283489B
CN113283489B CN202110543006.3A CN202110543006A CN113283489B CN 113283489 B CN113283489 B CN 113283489B CN 202110543006 A CN202110543006 A CN 202110543006A CN 113283489 B CN113283489 B CN 113283489B
Authority
CN
China
Prior art keywords
joint distribution
target
source
domain
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110543006.3A
Other languages
English (en)
Other versions
CN113283489A (zh
Inventor
赵祥红
查支祥
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Science and Technology ZUST
Original Assignee
Zhejiang University of Science and Technology ZUST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Science and Technology ZUST filed Critical Zhejiang University of Science and Technology ZUST
Priority to CN202110543006.3A priority Critical patent/CN113283489B/zh
Publication of CN113283489A publication Critical patent/CN113283489A/zh
Application granted granted Critical
Publication of CN113283489B publication Critical patent/CN113283489B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Abstract

本发明涉及信息技术领域，公开了一种基于联合分布匹配的半监督域适应学习的分类方法，本方法包括步骤：S1：提取不同实验对象的源对象样本数据信息；S2：根据不同实验对象的源对象样本数据信息在源域上进行训练，得到与目标对象相匹配的预设模型；S3：将源域上训练的预设模型按照预设迁移方式迁移到目标域上；S4：通过预设算法度量源对象样本数据和目标对象样本数据分布之间的差异，拉近目标域和源域的联合分布。本方法能够通过应用核方法理论，实现联合分布的域适应算法，从而降低了源分布和目标分布之间的差异,运用源数据获得模型，去对目标数据进行处理,实现跨用户零训练运动想象脑机接口，提高了用户数据的使用效率。

Description

一种基于联合分布匹配的半监督域适应学习的分类方法
技术领域
本发明涉及信息技术领域，尤其涉及一种基于联合分布匹配的半监督域适应学习的分类方法。
背景技术
脑机接口是在人脑与计算机或其他电子设备之间建立直接的交流和控制的通道。近年来，随着神经科学、信息科学、材料科学等领域的快速发展，衍生出了一种新型的高科技技术：脑机接口(BrainComputerInterface,BCI)。通过BCI技术能够在生物大脑与外部机械设备之间建立起一条直接的信息交流通道，从而实现了大脑与外部环境的直接交互。
脑机接口技术(BrainComputerInterface，BCI)形成于20世纪70年代，是一门涉及神经学科、信号检测、信号处理、模式识别等多学科的交叉技术，它通过非自然的方法沟通大脑和外界环境，为它们提供了双向信息传输通道。外界信息能从仿生传感器输入到神经系统，神经信号也可以用于控制外部电子机械装置。
源数据和目标数据的边际分布和条件分布都发生了一定量的变化，这种情况也被成为数据集偏移(datasetshift)。如果这两个分布都发生了很大的变化，源领域的数据很难迁移到目标域中，在实际情况中，往往两种分布都在变化，都有差异，因此对于用户来说，在使用前就需要额外的训练，才能够使用脑机接口，影响用户的使用效率。
发明内容
针对上述现有技术的现状，本发明所要解决的技术问题在于提供一种基于联合分布匹配的半监督域适应学习的分类方法，降低源分布和目标分布之间的差异,运用源数据获得模型，去对目标数据进行处理,实现跨用户零训练运动想象脑机接口，提高了用户数据的使用效率。
本发明具体的包括以下技术方案：
一种基于联合分布匹配的半监督域适应学习的分类方法，包括步骤：
S1：提取不同实验对象的源对象样本数据信息；
S2：根据不同实验对象的源对象样本数据信息在源域上进行训练，得到与目标对象相匹配的预设模型；
S3：将源域上训练的预设模型按照预设迁移方式迁移到目标域上；
S4：通过预设算法度量源对象样本数据和目标对象样本数据分布之间的差异，拉近目标域和源域的联合分布。
进一步地，所述预设算法为联合分布差异：
Figure BDA0003072450180000021
其中，P(x，y)是源数据联合分布，Q(x，y)是目标数据联合分布；
按照公式(1)定义联合分布算子
Figure BDA0003072450180000022
计算联合分布差异如下：
Figure BDA0003072450180000023
进一步地，当源数据联合分布P(x，y)和目标数据联合分布Q(x，y)相等时，联合分布差异JDD(F1，F2，P，Q)等于0；
无偏估计的联合分布算子Txy如公式：
Figure BDA0003072450180000024
其中，联合分布算子Txy的无偏估计可以用公式(3)表示；
Figure BDA0003072450180000025
为张量积；根据Txy的经验无偏估计，联合分布差异的经验无偏估计可得到：
Figure BDA0003072450180000031
其中，ns和nt分别表示源数据和目标数据的样本数量；
Figure BDA0003072450180000032
是哈德马积；Kx为包括Xs和Xt在内的所有样本的核矩阵；Ky为包括Ys和Yt在内的核矩阵，Yt是分类器预测的标签；
得到目标优化公式：
Figure BDA0003072450180000033
其中，γA和γM是正则化参数；f*是目标函数；f是预测函数；将前一次迭代的分类器和一个联合分布匹配项提供给优化目标；如公式(5)得到下一个Yt，直到收敛；矩阵W1为(n+m)×(n+m)的权重矩阵：
Figure BDA0003072450180000034
联合分布差异给出了对源域联合分布与目标域联合分布之间距离的估计，可得到联合分布差异的梯度。
进一步地，联合分布差异的梯度可以根据公式(7)来计算；
Figure BDA0003072450180000035
损失函数选用平方误差，因此，目标优化公式(5)的梯度可以计算为：
Figure BDA0003072450180000041
其中，Kx(i，.)表示Kx的第i行；E1表示对角矩阵，前ns个对角元素为1，其余的为0。
本发明采用上述技术方案包括以下有益效果：
本发明应用核方法理论，实现联合分布的域适应算法。降低了源分布和目标分布之间的差异，运用源数据获得模型，去对目标数据进行处理，实现跨用户零训练运动想象脑机接口，提高了用户数据的使用效率。
附图说明
图1为本发明实施例提供的基于联合分布匹配的半监督域适应学习的分类方法流程图；
图2为本发明实施例提供的基于联合分布匹配的半监督域适应学习的分类方法的预设模型示意图；
图3为本发明实施例提供的基于联合分布匹配的半监督域适应学习的分类方法的联合分布差异JDD和旋转角度之间的关系示意图；
图4为本发明实施例提供的基于联合分布匹配的半监督域适应学习的分类方法的不同实验对象的脑电地形图。
具体实施方式
以下是本发明的具体实施例并结合附图，对本发明的技术方案作进一步的描述，但本发明并不限于这些实施例。
本实施例
本实施例提供了一种基于联合分布匹配的半监督域适应学习的分类方法，如图1所示，本方法包括步骤：S1：提取不同实验对象的源对象样本数据信息；S2：根据不同实验对象的源对象样本数据信息在源域上进行训练，得到与目标对象相匹配的预设模型；S3：将源域上训练的预设模型按照预设迁移方式迁移到目标域上；S4：通过预设算法度量源对象样本数据和目标对象样本数据分布之间的差异，拉近目标域和源域的联合分布。
具体的，拉近目标域和源域的联合分布，接着通过相应的分类器，实现了应用目标域零训练的脑机接口。
应用核方法理论，实现联合分布的域适应算法。域适应算法实现了降低源分布和目标分布之间的差异，运用源数据获模型，去对目标数据进行处理。
适应和调整源领域和目标领域的联合分布。上述方法定义了一个能有效度量条件分布差异的算子，条件分布P(y/x)和边际分布P(x)被同时进行了适应，使得源和目标域分布差异变小。
进行联合分布适配才能让模型更好的迁移。上述方法提出一个：条件分布差异的距离度量，用来度量源对象和目标对象数据分布之间的差异，最优化模型参数。
联合分布自适配的分类器，可以拉近源数据和目标数据之间的分布差异，使得源域上训练的模型很好的迁移到目标域上。
参阅图2，利用源对象的数据进行训练，得到一个对目标用户也有效的模型；其中，DS表示源域，为实心圆；DT表示目标域，为虚线圆。+表示正类中心；-表示负类中心；fs表示源域最优分类线；fT表示目标域最优分类线。
具体的，预设算法为联合分布差异：
Figure BDA0003072450180000051
其中，P(x，y)是源数据联合分布，Q(x，y)是目标数据联合分布；
按照公式(1)定义联合分布算子
Figure BDA0003072450180000052
计算联合分布差异如下：
Figure BDA0003072450180000053
进一步地，当源数据联合分布P(x，y)和目标数据联合分布Q(x，y)
如果源域和目标域的联合分布相等，也即Pt(x，y)＝Ps(x，y)。源领域和目标域的联合分布能够被匹配，从源数据中得到的分类器将在目标域上表现很好。这个想法可以由如下式子进行分析：
εt(f)≤εs(f)+dH(Ds,Dt)+λ
其中，f代表预测函数，εs(f)和εt(f)分别代表源域和目标域的预测错误，dH(Ds，Dt)表示源域和目标域的差异，最后一项λ的大小与预测函数f所在的空间有关，从上述式子可以看到，减小源域的预测错误，同时减小源和目标域的联合分布差异，会提高f*在目标域中的性能。
具体的，当源数据联合分布P(x，y)和目标数据联合分布Q(x，y)相等时，联合分布差异JDD(F1，F2，P，Q)等于0；
无偏估计的联合分布算子Txy如公式：
Figure BDA0003072450180000061
其中，联合分布算子Txy的无偏估计可以用公式(3)表示；
Figure BDA0003072450180000062
为张量积；
根据Txy的经验无偏估计，联合分布差异的经验无偏估计可得到：
Figure BDA0003072450180000063
其中，ns和nt分别表示源数据和目标数据的样本数量；
得到目标优化公式：
Figure BDA0003072450180000064
其中，γA和γM是正则化参数；f*是目标函数，ο是哈德马积；ns和nt分别是Xs和Xt内的样本数量；Kx为包括Xs和Xt在内的所有样本的核矩阵；Ky为包括Ys和Yt在内的核矩阵，Yt是分类器预测的标签；将前一次迭代的分类器和一个联合分布匹配项提供给优化目标；如公式(5)得到下一个Yt，直到收敛；矩阵W1为(n+m)×(n+m)的权重矩阵：
Figure BDA0003072450180000071
联合分布差异给出了对源域联合分布与目标域联合分布之间距离的估计，可得到联合分布差异的梯度。
具体的，联合分布差异的梯度可以根据公式(7)来计算；
Figure BDA0003072450180000072
损失函数选用平方误差，因此，目标优化公式(5)的梯度可以计算为：
Figure BDA0003072450180000073
其中，Kx(i，.)表示Kx的第i行；E1表示对角矩阵，前ns个对角元素为1，其余的为0。
参阅图3，图3中展示了图像的旋转角度与联合分布差异JDD的关系。从中可以看到，联合分布差异JDD可以很好的表示源数据和目标数据之间的差异。源数据和目标数据的差异越大，联合分布差异JDD越大。
参阅图4，本方法采用的数据集主要是国际BCI竞赛III中的数据，称为dataIVa。数据集记录了5个健康对象的运动想象脑电数据，对象名称为“aa”,“al”,“av”,“aw”,“ay”。图4展示了不同对象在不同时间想象右手和脚的脑电地形图(BrainElectricalActivityMapping,BEAM)。脑电地形图实际上表现了大脑在执行不同任务时，大脑中神经元不同的激活程度的分布情况，或者说大脑表面能量分布的情况。同一行是同一个对象执在不同时间执行相同的任务产生的结果；不同的行是不同的对象执行相同的工作产生的结果。明显的，不仅不同的对象执行相同任务时，大脑上的神经元活动区别很大，而且，同一个对象在不同时间执行相同的任务时，大脑上的神经元活动也有很多不同。这证明了脑电信号确实是非平稳和时变的，需要进行域适应。
本方法通过应用核方法理论，实现联合分布的域适应算法。域适应算法实现了降低源分布和目标分布之间的差异，运用源数据获得模型，去对目标数据进行处理。通过减小源域的预测错误，同时减小源域和目标域的联合分布差异，会提高在目标域中的目标函数的性能，运动想象脑机接口的用户可以做到即插即用的使用脑机接口，实现跨用户零训练运动想象脑机接口，提高了用户数据的使用效率。
本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (1)

1.一种基于联合分布匹配的半监督域适应学习的分类方法，其特征在于，包括步骤：
S1：提取不同实验对象的源对象样本数据信息；
S2：根据不同实验对象的源对象样本数据信息在源域上进行训练，得到与目标对象相匹配的预设模型；
S3：将源域上训练的预设模型按照预设迁移方式迁移到目标域上；
S4：通过预设算法度量源对象样本数据和目标对象样本数据分布之间的差异，拉近目标域和源域的联合分布；通过相应的分类器，应用目标域零训练的脑机接口；
所述预设算法为联合分布差异：
Figure FDA0003920476060000011
其中，P(x，y)是源数据联合分布，Q(x，y)是目标数据联合分布；
按照公式(1)定义联合分布算子
Figure FDA0003920476060000012
计算联合分布差异如下：
Figure FDA0003920476060000013
当源数据联合分布P(x，y)和目标数据联合分布Q(x，y)相等时，联合分布差异JDD(F1，F2，P，Q)等于0；
无偏估计的联合分布算子Txy如公式：
Figure FDA0003920476060000021
其中，联合分布算子Txy的无偏估计可以用公式(3)表示；
Figure FDA0003920476060000022
为张量积；
根据Txy的经验无偏估计，联合分布差异的经验无偏估计可得到：
Figure FDA0003920476060000023
其中，ns和nt分别表示源数据和目标数据的样本数量；
Figure FDA0003920476060000025
是哈德马积；
Kx为包括Xs和Xt在内的所有样本的核矩阵；
Ky为包括Ys和Yt在内的核矩阵，Yt是分类器预测的标签；
得到目标优化公式：
Figure FDA0003920476060000024
其中，γA和γM是正则化参数；f*是目标函数；f是预测函数；
将前一次迭代的分类器和一个联合分布匹配项提供给优化目标；
如公式(5)得到下一个Yt，直到收敛；
矩阵W1为(n+m)×(n+m)的权重矩阵：
Figure FDA0003920476060000031
联合分布差异给出了对源域联合分布与目标域联合分布之间距离的估计，可得到联合分布差异的梯度；
联合分布差异的梯度可以根据公式(7)来计算；
Figure FDA0003920476060000032
损失函数选用平方误差，因此，目标优化公式(5)的梯度可以计算为：
Figure FDA0003920476060000033
其中，Kx(i，.)表示Kx的第i行；E1表示对角矩阵，前ns个对角元素为1，其余的为0。
CN202110543006.3A 2021-05-19 2021-05-19 一种基于联合分布匹配的半监督域适应学习的分类方法 Active CN113283489B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110543006.3A CN113283489B (zh) 2021-05-19 2021-05-19 一种基于联合分布匹配的半监督域适应学习的分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110543006.3A CN113283489B (zh) 2021-05-19 2021-05-19 一种基于联合分布匹配的半监督域适应学习的分类方法

Publications (2)

Publication Number Publication Date
CN113283489A CN113283489A (zh) 2021-08-20
CN113283489B true CN113283489B (zh) 2023-06-30

Family

ID=77279679

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110543006.3A Active CN113283489B (zh) 2021-05-19 2021-05-19 一种基于联合分布匹配的半监督域适应学习的分类方法

Country Status (1)

Country Link
CN (1) CN113283489B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1727072A1 (en) * 2005-05-25 2006-11-29 The Babraham Institute Signal processing, transmission, data storage and representation
CN110533193A (zh) * 2019-08-20 2019-12-03 武汉理工大学 半监督场景下特征和实例联合迁移学习方法
CN111914708A (zh) * 2020-07-23 2020-11-10 杭州电子科技大学 迁移半监督宽度学习的脑电信号分类方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1727072A1 (en) * 2005-05-25 2006-11-29 The Babraham Institute Signal processing, transmission, data storage and representation
CN110533193A (zh) * 2019-08-20 2019-12-03 武汉理工大学 半监督场景下特征和实例联合迁移学习方法
CN111914708A (zh) * 2020-07-23 2020-11-10 杭州电子科技大学 迁移半监督宽度学习的脑电信号分类方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
蔡军 ; 胡洋揆 ; 张毅 ; 尹春林 ; .多频带频域深度置信网络脑电特征识别算法.机器人.2018,(第04期),全文. *

Also Published As

Publication number Publication date
CN113283489A (zh) 2021-08-20

Similar Documents

Publication Publication Date Title
Zeng et al. A new switching-delayed-PSO-based optimized SVM algorithm for diagnosis of Alzheimer’s disease
CN104771163B (zh) 基于csp和r‑csp算法的脑电信号特征提取方法
Sikder et al. Human activity recognition using multichannel convolutional neural network
Li et al. Brain decoding from functional MRI using long short-term memory recurrent neural networks
CN111723661A (zh) 一种基于流形嵌入分布对齐的脑机接口迁移学习方法
CN111476161A (zh) 一种融合图像和生理信号双通道的体感动态手势识别方法
WO2023178737A1 (zh) 一种基于脉冲神经网络的数据增强方法及装置
CN110263924B (zh) 一种神经元群模型的参数和状态估计方法
Manjunath et al. A low-power lstm processor for multi-channel brain eeg artifact detection
Ni et al. Neurally-inspired hyperdimensional classification for efficient and robust biosignal processing
Gao et al. Deep learning
CN113180695B (zh) 脑机接口信号分类方法、系统、设备和存储介质
Yang et al. Research and Application of Visual Object Recognition System Based on Deep Learning and Neural Morphological Computation
CN113283489B (zh) 一种基于联合分布匹配的半监督域适应学习的分类方法
Yue et al. Intention recognition from spatio-temporal representation of EEG signals
Singh et al. Motor imagery classification based on subject to subject transfer in Riemannian manifold
CN115171211A (zh) 信道状态信息的动作和位置的联合估计方法
CN115169384A (zh) 脑电信号分类模型训练方法、意图识别方法、设备及介质
Kowalski et al. Convolutional neural networks in the ovarian cancer detection
Yang et al. Drop to transfer: Learning transferable features for robot tactile material recognition in open scene
Ghaderi et al. An adaptive and efficient spatial filter for event-related potentials
Zheng et al. A Spiking Neural Network based on Neural Manifold for Augmenting Intracortical Brain-Computer Interface Data
Hasib-Al-Rashid et al. A low-power lstm processor for multi-channel brain EEG artifact detection
Haibin et al. Method on human activity recognition based on convolutional neural network
Kim et al. Dual model transfer learning to compensate for individual variability in brain-computer interface

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant