CN107292337A - 超低秩张量数据填充方法 - Google Patents
超低秩张量数据填充方法 Download PDFInfo
- Publication number
- CN107292337A CN107292337A CN201710442277.3A CN201710442277A CN107292337A CN 107292337 A CN107292337 A CN 107292337A CN 201710442277 A CN201710442277 A CN 201710442277A CN 107292337 A CN107292337 A CN 107292337A
- Authority
- CN
- China
- Prior art keywords
- mrow
- msub
- msubsup
- mover
- msup
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 19
- 238000005070 sampling Methods 0.000 claims description 13
- 239000011159 matrix material Substances 0.000 claims description 12
- 238000005457 optimization Methods 0.000 claims description 9
- 239000000203 mixture Substances 0.000 claims description 6
- 238000000354 decomposition reaction Methods 0.000 claims description 5
- 239000013256 coordination polymer Substances 0.000 claims 6
- 239000004744 fabric Substances 0.000 claims 1
- 238000003672 processing method Methods 0.000 abstract description 4
- 238000011160 research Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 1
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 1
- 235000003140 Panax quinquefolius Nutrition 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 235000008434 ginseng Nutrition 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2136—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on sparsity criteria, e.g. with an overcomplete basis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
- G06F18/24155—Bayesian classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Analysis (AREA)
- Pure & Applied Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Mathematical Optimization (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computational Mathematics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Computing Systems (AREA)
- Algebra (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Other Investigation Or Analysis Of Materials By Electrical Means (AREA)
- Medicines Containing Antibodies Or Antigens For Use As Internal Diagnostic Agents (AREA)
Abstract
本发明公开了一种超低秩张量数据填充方法,用于解决现有张量数据处理方法精度低的技术问题。技术方案是将张量分解成低秩结构和非低秩结构,使用混合高斯模型(MOG)对非低秩结构进行先验描述,利用Gibbs采样获得非低秩结构E和基于CP分解的低秩结构X的样本均值,用均值近似带求的隐张量。本发明一方面,通过充分挖掘CANDECOMP/PARAFAC(CP)分解权值的稀疏性,建立基于稀疏性的低秩模型。另一方面,使用混合高斯模型(MOG)模拟复杂的非低秩结构。这两点保证了即使在低于10%的观测率的情况下,也能够自适应地进行张量填充。经测试,相对重建误差降低,提高了重建精度。
Description
技术领域
本发明涉及一种张量数据处理方法,特别是涉及一种超低秩张量数据填充方法。
背景技术
张量数据已被广泛应用于计算机视觉、神经科学以及化学等领域,但是在实际的应用中,因为采集、传输等因素的影响,张量存在数据缺失的问题,例如不完整的社会关系网络、损坏的视频数据等。所以张量填充方法的研究逐渐受到国内外学者们的广泛关注。大量实验表明,基于低秩表示的张量填充方法是一种行之有效的途径。
文献“Q.Zhao,L.Zhang,and A.Cichocki.Bayesian CP factorization ofincomplete tensors with automatic rank determination.IEEE Transactions onPattern Analysis and Machine Intelligence,37(9):1751–1763,2015.”公开了一种张量数据处理方法。该方法假设整个张量数据满足低秩约束,在层次概率模型下进行CP分解,通过对张量分解因子添加稀疏先验,实现张量秩的自适应描述,最终采用完全贝叶斯推理模型实现张量数据的自动填充。然而,实际的张量数据通常既包含低秩结构又包含非低秩结构,将数据视为全局低秩的进行单一建模,无法在张量填充中恢复非低秩结构,从而导致重建精度受限。
发明内容
为了克服现有张量数据处理方法精度低的不足,本发明提供一种超低秩张量数据填充方法。该方法将张量分解成低秩结构和非低秩结构,使用混合高斯模型(MOG)对非低秩结构进行先验描述,利用Gibbs采样获得非低秩结构E和基于CP分解的低秩结构X的样本均值,用均值近似带求的隐张量。本发明一方面,通过充分挖掘CANDECOMP/PARAFAC(CP)分解权值的稀疏性,建立基于稀疏性的低秩模型。另一方面,使用混合高斯模型(MOG)模拟复杂的非低秩结构。这两点保证了即使在低于10%的观测率的情况下,也能够自适应地进行张量填充。
本发明解决其技术问题所采用的技术方案是:一种超低秩张量数据填充方法,其特点是包括以下步骤:
步骤一、构建张量填充模型。
对于一个K阶隐张量在噪声的影响下,得到部分观测量YΩ,Ω表示观测量的索引,则观测模型表示为:
YΩ=LΩ+MΩ (1)
其中,YΩ={yi}i∈Ω为观测量,yi表示YΩ中索引为i的原子,MΩ为噪声数据。为了同时描述低秩和非低秩结构,隐张量L被分解为一个低秩结构X和一个非低秩结构E,其中E近似满秩。
L=X+E (2)
根据公式(1)的观测模型,假定YΩ中每一个原子是独立同分布的,MΩ是精度为τ0的高斯白噪声。因此,YΩ的似然函数为:
其中,o为指示张量,如果i∈Ω,那么oi=1。xi和ei分别为X和E中的第i项元素。
步骤二、超低秩张量表示。
1)低秩结构张量表示。
通过充分挖掘CP分解权值的稀疏性从而自动地确定低秩成分X的秩。在传统的CP分解中,X被分解为R个秩为1的张量:
其中,是因子向量,其中k=1,…,K,ο表示外积。λ=[λ1,…,λR]T为权值向量,表示第k个因子矩阵。
(a)基于稀疏性的低秩模型。
当给定较大的初始化秩,对张量X进行CP分解,在所有的CP分解中存在最稀疏的权值向量λ,满足rank(X)=||λ||0。通过探索λ的稀疏性,张量秩能够自动地被检测。采用级联的重加权拉普拉斯先验描述λ的稀疏性:
λ~Ν(λ|0,diag(γ)) (5)
其中,λ服从零均值高斯分布,γ=[γ1,…,γR]T服从伽马分布,γr及kr分别为γ和k=[k1,…,kR]T的第r项。上述级联的重加权拉普拉斯先验等价于:
p(λ|K)∝exp(-||Kλ||1) (7)
其中,每次λ中的权值被缩减不同的尺度kr与贝叶斯推理中的权值成反比。因此,λ中较大的权值被缩小的幅度更少。
(b)正则化因子矩阵。
为了避免CP分解中的过拟合问题,假定因子矩阵U(k)中的每一项服从高斯独立同分布:
对于每一个U(k)采用一个单独的高斯分布去获得其特征。为了完善贝叶斯模型,进一步在高斯分布中引进共轭先验参数,其均值μ(k)和方差σ(k)服从高斯伽马分布为,模型参数为μ0、β0、a0和b0:
μ(k),τ(k)~Ν(μ(k)|μ0,(β0τ(k))-1)Ga(τ(k)|a0,b0) (9)
2)非低秩结构混合高斯模型表示。
使用混合高斯模型表示复杂的非低秩结构E,假设每个ei服从混合高斯分布,其中包括D个高斯成分:
其中,πd≥0为混合比例,并且表示第d个高斯成分,其均值为μd,精确度为τd。引进D个指示变量公式(10)被表示为一个2阶生成模型:
其中,满足一个多项式分布,参数π=(π1,…,πD)。为了模拟E的复杂性,提出μd、τd和π的共轭先验,π服从狄利克雷分布Dir(π|α0),参数α0=(α01,…,α0D)。
μd,τd~N(μd|μ0,(β0τd)-1)Ga(τd|a0,b0),π~Dir(π|α0) (12)
步骤三、模型优化求解。
采用贝叶斯最小化均方误差估计作为张量填充的优化框架。
其中,为最终优化得到的隐张量,为引入的优化变量,||A||F表示张量A的F范数,p(L|YΩ)为L基于观测量YΩ的后验概率分布。L的贝叶斯最小均方误差等价于其后验分布的均值E[L|YΩ]。但是期望E[L|YΩ]的计算十分困难。为了解决这个问题,不直接对L进行建模,利用Gibbs采样获得非低秩结构E和基于CP分解的低秩结构X的样本均值,来近似具体来说,首先,基于公式(3)、(5)、(8)、(9)、(11)和(12)获得所有未知变量的后验概率分布:
p(λ,U,Z,π,μ,τ,μe,τe|YΩ) (14)
其中,U={U(k)}、Z={zi}、μ={μ(k)}、τ={τ(k)}、μe={μd}和τe={τd}。然后,使用Gibbs采样方法对每一个样本进行采样。具体如下:
(c)对低秩结构进行采样。该结构的表示模型包括参数λ、γ、k和U。λ中的每个权值λr服从高斯分布:
其中,γr和kr分别服从广义逆高斯分布和伽马分布。
对于第k个因子矩阵U(k),每项服从高斯分布。
其中,另外,均值μ(k)服从高斯分布:
准确率τ(k)服从伽马分布:
(d)对非低秩结构进行采样。该结构的表示模型包括参数E、μe、τe、Z和π。E中的每项ei服从高斯分布:
对于公式(11)混合高斯模型中的第d个高斯成分,其均值μd服从高斯分布:
准确率τd服从伽马分布:
变量zi服从多项式分布,参数混合比例π服从参数
本发明的有益效果是:该方法将张量分解成低秩结构和非低秩结构,使用混合高斯模型(MOG)对非低秩结构进行先验描述,利用Gibbs采样获得非低秩结构E和基于CP分解的低秩结构X的样本均值,用均值近似带求的隐张量。本发明一方面,通过充分挖掘CANDECOMP/PARAFAC(CP)分解权值的稀疏性,建立基于稀疏性的低秩模型。另一方面,使用混合高斯模型(MOG)模拟复杂的非低秩结构。这两点保证了即使在低于10%的观测率的情况下,也能够自适应地进行张量填充。
对比背景技术主流的低秩张量填充方法,对秩为5的模拟张量图像进行填充,在70%、80%、90%损失比的情况下,本发明方法的相对重建误差最少降低0.0147、0.0282、0.0388。在两种视频数据集“suzie”及“foreman”上进行视频填充,本发明方法的峰值信噪比最少提高0.9792和1.3620。
下面结合具体实施方式对本发明作详细说明。
具体实施方式
本发明超低秩张量数据填充方法具体步骤如下:
步骤一、构建张量填充模型。
对于一个K阶隐张量(待填充的张量数据统称为隐张量),在噪声的影响下,可以得到部分观测量YΩ,Ω表示观测量的索引,则观测模型表示为:
YΩ=LΩ+MΩ (1)
其中YΩ={yi}i∈Ω为观测量,yi表示YΩ中索引为i的原子,MΩ为噪声数据。为了同时描述低秩和非低秩结构,隐张量L可以被分解为一个低秩结构X(L中真正低秩的部分)和一个非低秩结构(残差成分)E,其中E近似满秩。
L=X+E (2)
根据公式(1)的观测模型,本发明假定YΩ中每一个原子是独立同分布的,MΩ是精度为τ0的高斯白噪声。因此,YΩ的似然函数为:
其中o为指示张量(如果i∈Ω,那么oi=1)。xi和ei分别为X和E中的第i项元素。
步骤二、超低秩张量表示。
1)低秩结构张量表示。
本发明通过充分挖掘CP分解权值的稀疏性从而自动地确定低秩成分X的秩。在传统的CP分解中,X被分解为R个秩为1的张量:
其中,是因子向量,其中k=1,…,K,ο表示外积。λ=[λ1,…,λR]T为权值向量,表示第k个因子矩阵。
(a)基于稀疏性的低秩模型。
当给定较大的初始化秩,对张量X进行CP分解,在所有的CP分解中存在最稀疏的权值向量λ,满足rank(X)=||λ||0。通过探索λ的稀疏性,张量秩能够自动地被检测。本发明采用一种级联的重加权拉普拉斯先验来描述λ的稀疏性:
λ~Ν(λ|0,diag(γ)) (5)
其中,λ服从零均值高斯分布,γ=[γ1,…,γR]T服从伽马分布,γr及kr分别为γ和
k=[k1,…,kR]T的第r项。上述级联的重加权拉普拉斯先验等价于:
p(λ|K)∝exp(-||Kλ||1) (7)
其中每次λ中的权值被缩减不同的尺度kr与贝叶斯推理中的权值成反比。因此,λ中较大的权值被缩小的幅度更少。换言之,基于稀疏性的低秩模型能够检测张量的秩,并自适应地保存张量中的显著性结构信息。
(b)正则化因子矩阵。
为了避免CP分解中的过拟合问题,假定因子矩阵U(k)中的每一项服从高斯独立同分布:
对于每一个U(k)采用一个单独的高斯分布去获得其特征。为了完善贝叶斯模型,进一步在高斯分布中引进共轭先验参数,其均值μ(k)和方差σ(k)服从高斯伽马分布为,模型参数为μ0、β0、a0和b0:
μ(k),τ(k)~Ν(μ(k)|μ0,(β0τ(k))-1)Ga(τ(k)|a0,b0) (9)
2)非低秩结构混合高斯模型表示。
张量中的非低秩成分结构复杂,可能是稀疏的,也可能是非稀疏的,常呈现出多模态的结构,所以对非低秩结构进行描述十分困难。大量的研究表明,混合高斯模型能够近似模拟任意的连续分布函数,并且在真实张量数据中更加鲁棒。因此,使用混合高斯模型表示复杂的非低秩结构E,假设每个ei服从混合高斯分布,其中包括D个高斯成分:
其中πd≥0为混合比例,并且表示第d个高斯成分,其均值为μd,精确度为τd。引进D个指示变量公式(10)可以被表示为一个2阶生成模型:
其中满足一个多项式分布,参数π=(π1,…,πD)。为了模拟E的复杂性,本发明进一步提出μd、τd和π的共轭先验,π服从狄利克雷分布Dir(π|α0),参数α0=(α01,…,α0D)。
μd,τd~N(μd|μ0,(β0τd)-1)Ga(τd|a0,b0),π~Dir(π|α0) (12)
步骤三、模型优化求解。
采用贝叶斯最小化均方误差估计(MMSE)作为张量填充的优化框架。
其中为最终优化得到的隐张量,为引入的优化变量,||A||F表示张量A的F范数,p(L|YΩ)为L基于观测量YΩ的后验概率分布。L的贝叶斯最小均方误差等价于其后验分布的均值E[L|YΩ]。但是期望E[L|YΩ]的计算十分困难。为了解决这个问题,本发明并不直接对L进行建模,而是利用Gibbs采样获得非低秩结构E和基于CP分解的低秩结构X的样本均值,来近似具体来说,首先,基于公式(3)、(5)、(8)、(9)、(11)、(12)获得所有未知变量的后验概率分布:
p(λ,U,Z,π,μ,τ,μe,τe|YΩ) (14)
其中U={U(k)}、Z={zi}、μ={μ(k)}、τ={τ(k)}、μe={μd}和τe={τd}。然后,使用Gibbs采样方法对每一个样本进行采样。具体如下:
(c)对低秩结构进行采样。该结构的表示模型包括参数λ、γ、k和U。λ中的每个权值λr服从高斯分布:
其中γr和kr分别服从广义逆高斯分布和伽马分布。
对于第k个因子矩阵U(k),每项服从高斯分布。
其中另外,均值μ(k)服从高斯分布:
准确率τ(k)服从伽马分布:
(d)对非低秩结构进行采样。该结构的表示模型包括参数E、μe、τe、Z和π。E中的每项ei服从高斯分布:
对于公式(11)混合高斯模型中的第d个高斯成分,其均值μd服从高斯分布:
准确率τd服从伽马分布:
变量zi服从多项式分布,参数混合比例π服从参数
整个算法的流程总结如下:
输入:观察量YΩ,参数a0,b0,μ0,β0,α0
初始化:U,λ,τ,τe均初始化为1,μ,μe初始化为0,π=(D-1,…,D-1)T,
zi~Multinomial(zi|π)
经过Nb+Ns次迭代:
对低秩成分进行采样:
1.根据公式(15)采样λr;
2.根据公式(16)采样γr;
3.根据公式(16)采样kr;
4.根据公式(17)采样
5.根据公式(18)采样μ(k);
6.根据公式(19)采样
对残差成分进行采样:
1.根据公式(20)采样ei;
2.根据公式(21)采样μd;
3.根据公式(22)采样τd;
4.根据公式(23)采样zi;
5.根据公式(23)采样π。
当循环次数大于Nb,收集采样数据;
循环结束
获得Ns个采样数据的均值
使用对张量X进行填充。
Claims (1)
1.一种超低秩张量数据填充方法,其特征在于包括以下步骤:
步骤一、构建张量填充模型;
对于一个K阶隐张量在噪声的影响下,得到部分观测量YΩ,Ω表示观测量的索引,则观测模型表示为:
YΩ=LΩ+MΩ (1)
其中,YΩ={yi}i∈Ω为观测量,yi表示YΩ中索引为i的原子,MΩ为噪声数据;为了同时描述低秩和非低秩结构,隐张量L被分解为一个低秩结构X和一个非低秩结构E,其中E近似满秩;
L=X+E (2)
根据公式(1)的观测模型,假定YΩ中每一个原子是独立同分布的,MΩ是精度为τ0的高斯白噪声;因此,YΩ的似然函数为:
<mrow>
<mi>p</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>Y</mi>
<mi>&Omega;</mi>
</msub>
<mo>|</mo>
<mi>X</mi>
<mo>,</mo>
<mi>E</mi>
<mo>)</mo>
</mrow>
<mo>=</mo>
<msub>
<mo>&Pi;</mo>
<mi>i</mi>
</msub>
<mi>N</mi>
<msup>
<mrow>
<mo>(</mo>
<msub>
<mi>y</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<msub>
<mi>x</mi>
<mi>i</mi>
</msub>
<mo>+</mo>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>,</mo>
<msubsup>
<mi>&tau;</mi>
<mn>0</mn>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
</msup>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>3</mn>
<mo>)</mo>
</mrow>
</mrow>
其中,o为指示张量,如果i∈Ω,那么oi=1;xi和ei分别为X和E中的第i项元素;
步骤二、超低秩张量表示;
1)低秩结构张量表示;
通过充分挖掘CP分解权值的稀疏性从而自动地确定低秩成分X的秩;在传统的CP分解中,X被分解为R个秩为1的张量:
其中,是因子向量,其中k=1,…,K,表示外积;λ=[λ1,…,λR]T为权值向量,表示第k个因子矩阵;
(a)基于稀疏性的低秩模型;
当给定较大的初始化秩,对张量X进行CP分解,在所有的CP分解中存在最稀疏的权值向量λ,满足rank(X)=||λ||0;通过探索λ的稀疏性,张量秩能够自动地被检测;采用级联的重加权拉普拉斯先验描述λ的稀疏性:
λ~Ν(λ|0,diag(γ)) (5)
<mrow>
<mi>&gamma;</mi>
<mo>~</mo>
<msubsup>
<mo>&Pi;</mo>
<mrow>
<mi>&gamma;</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>R</mi>
</msubsup>
<mi>G</mi>
<mi>a</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>&gamma;</mi>
<mi>r</mi>
</msub>
<mo>|</mo>
<mn>1</mn>
<mo>,</mo>
<msub>
<mi>k</mi>
<mi>r</mi>
</msub>
<mo>/</mo>
<mn>2</mn>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>6</mn>
<mo>)</mo>
</mrow>
</mrow>
其中,λ服从零均值高斯分布,γ=[γ1,…,γR]T服从伽马分布,γr及kr分别为γ和k=[k1,…,kR]T的第r项;上述级联的重加权拉普拉斯先验等价于:
p(λ|K)∝exp(-||Kλ||1) (7)
其中,每次λ中的权值被缩减不同的尺度kr与贝叶斯推理中的权值成反比;因此,λ中较大的权值被缩小的幅度更少;
(b)正则化因子矩阵;
为了避免CP分解中的过拟合问题,假定因子矩阵U(k)中的每一项服从高斯独立同分布:
<mrow>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>k</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>~</mo>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>k</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>|</mo>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>,</mo>
<msup>
<mi>&tau;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msup>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>8</mn>
<mo>)</mo>
</mrow>
</mrow>
对于每一个U(k)采用一个单独的高斯分布去获得其特征;为了完善贝叶斯模型,进一步在高斯分布中引进共轭先验参数,其均值μ(k)和方差σ(k)服从高斯伽马分布为,模型参数为μ0、β0、a0和b0:
μ(k),τ(k)~Ν(μ(k)|μ0,(β0τ(k))-1)Ga(τ(k)|a0,b0) (9)
2)非低秩结构混合高斯模型表示;
使用混合高斯模型表示复杂的非低秩结构E,假设每个ei服从混合高斯分布,其中包括D个高斯成分:
<mrow>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>~</mo>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>d</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>&rho;</mi>
</msubsup>
<msub>
<mi>&pi;</mi>
<mi>d</mi>
</msub>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mo>,</mo>
<msubsup>
<mi>&tau;</mi>
<mi>d</mi>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>10</mn>
<mo>)</mo>
</mrow>
</mrow>
其中,πd≥0为混合比例,并且 表示第d个高斯成分,其均值为μd,精确度为τd;引进D个指示变量公式(10)被表示为一个2阶生成模型:
<mrow>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>~</mo>
<msubsup>
<mo>&Pi;</mo>
<mrow>
<mi>d</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>D</mi>
</msubsup>
<mi>N</mi>
<msup>
<mrow>
<mo>(</mo>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mo>,</mo>
<msubsup>
<mi>&tau;</mi>
<mi>d</mi>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
</msup>
<mo>,</mo>
<msub>
<mi>z</mi>
<mi>i</mi>
</msub>
<mo>~</mo>
<mi>M</mi>
<mi>u</mi>
<mi>l</mi>
<mi>t</mi>
<mi>i</mi>
<mi>n</mi>
<mi>o</mi>
<mi>m</mi>
<mi>i</mi>
<mi>a</mi>
<mi>l</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>z</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<mi>&pi;</mi>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>11</mn>
<mo>)</mo>
</mrow>
</mrow>
其中, 满足一个多项式分布,参数π=(π1,…,πD);为了模拟E的复杂性,提出μd、τd和π的共轭先验,π服从狄利克雷分布Dir(π|α0),参数α0=(α01,…,α0D);
μd,τd~N(μd|μ0,(β0τd)-1)Ga(τd|a0,b0),π~Dir(π|α0) (12)
步骤三、模型优化求解;
采用贝叶斯最小化均方误差估计作为张量填充的优化框架;
<mrow>
<mover>
<mi>L</mi>
<mo>^</mo>
</mover>
<mo>=</mo>
<mi>arg</mi>
<munder>
<mi>min</mi>
<mover>
<mi>L</mi>
<mo>~</mo>
</mover>
</munder>
<mo>&Integral;</mo>
<mo>|</mo>
<mo>|</mo>
<mover>
<mi>L</mi>
<mo>~</mo>
</mover>
<mo>-</mo>
<mi>L</mi>
<mo>|</mo>
<msubsup>
<mo>|</mo>
<mi>F</mi>
<mn>2</mn>
</msubsup>
<mi>p</mi>
<mrow>
<mo>(</mo>
<mi>L</mi>
<mo>|</mo>
<msub>
<mi>Y</mi>
<mi>&Omega;</mi>
</msub>
<mo>)</mo>
</mrow>
<mi>d</mi>
<mi>L</mi>
<mo>=</mo>
<mi>E</mi>
<mo>&lsqb;</mo>
<mi>L</mi>
<mo>|</mo>
<msub>
<mi>Y</mi>
<mi>&Omega;</mi>
</msub>
<mo>&rsqb;</mo>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>13</mn>
<mo>)</mo>
</mrow>
</mrow>
其中,为最终优化得到的隐张量,为引入的优化变量,||A||F表示张量A的F范数,p(L|YΩ)为L基于观测量YΩ的后验概率分布;L的贝叶斯最小均方误差等价于其后验分布的均值E[L|YΩ];但是期望E[L|YΩ]的计算十分困难;为了解决这个问题,不直接对L进行建模,利用Gibbs采样获得非低秩结构E和基于CP分解的低秩结构X的样本均值,来近似具体来说,首先,基于公式(3)、(5)、(8)、(9)、(11)和(12)获得所有未知变量的后验概率分布:
p(λ,U,Z,π,μ,τ,μe,τe|YΩ) (14)
其中,U={U(k)}、Z={zi}、μ={μ(k)}、τ={τ(k)}、μe={μd}和τe={τd};然后,使用Gibbs采样方法对每一个样本进行采样;具体如下:
(c)对低秩结构进行采样;该结构的表示模型包括参数λ、γ、k和U;λ中的每个权值λr服从高斯分布:
<mrow>
<msub>
<mi>&lambda;</mi>
<mi>r</mi>
</msub>
<mo>~</mo>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&lambda;</mi>
<mi>r</mi>
</msub>
</msub>
<mo>,</mo>
<msubsup>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&lambda;</mi>
<mi>r</mi>
</msub>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&lambda;</mi>
<mi>r</mi>
</msub>
</msub>
<mo>=</mo>
<msubsup>
<mi>&gamma;</mi>
<mi>r</mi>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>+</mo>
<msub>
<mi>&tau;</mi>
<mn>0</mn>
</msub>
<msub>
<mo>&Sigma;</mo>
<mi>i</mi>
</msub>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
<msubsup>
<mover>
<mi>b</mi>
<mo>~</mo>
</mover>
<mi>i</mi>
<mrow>
<mi>r</mi>
<mn>2</mn>
</mrow>
</msubsup>
<mo>,</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&lambda;</mi>
<mi>r</mi>
</msub>
</msub>
<mo>=</mo>
<msubsup>
<mi>&tau;</mi>
<msub>
<mi>&lambda;</mi>
<mi>r</mi>
</msub>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<msub>
<mi>&tau;</mi>
<mn>0</mn>
</msub>
<msub>
<mo>&Sigma;</mo>
<mi>i</mi>
</msub>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
<msubsup>
<mover>
<mi>b</mi>
<mo>~</mo>
</mover>
<mi>i</mi>
<mi>r</mi>
</msubsup>
<msubsup>
<mover>
<mi>y</mi>
<mo>~</mo>
</mover>
<mi>i</mi>
<mi>r</mi>
</msubsup>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>15</mn>
<mo>)</mo>
</mrow>
</mrow>
2
其中,γr和kr分别服从广义逆高斯分布和伽马分布;
<mrow>
<msub>
<mi>&gamma;</mi>
<mi>r</mi>
</msub>
<mo>~</mo>
<mi>G</mi>
<mi>I</mi>
<mi>G</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>&gamma;</mi>
<mi>r</mi>
</msub>
<mo>|</mo>
<msub>
<mi>k</mi>
<mi>r</mi>
</msub>
<mo>,</mo>
<msubsup>
<mi>&lambda;</mi>
<mi>r</mi>
<mn>2</mn>
</msubsup>
<mo>,</mo>
<mn>1</mn>
<mo>/</mo>
<mn>2</mn>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mi>k</mi>
<mi>r</mi>
</msub>
<mo>~</mo>
<mi>G</mi>
<mi>a</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>k</mi>
<mi>r</mi>
</msub>
<mo>|</mo>
<mn>2</mn>
<mo>,</mo>
<msub>
<mi>&gamma;</mi>
<mi>r</mi>
</msub>
<mo>/</mo>
<mn>2</mn>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>16</mn>
<mo>)</mo>
</mrow>
</mrow>
对于第k个因子矩阵U(k),每项服从高斯分布;
<mrow>
<mtable>
<mtr>
<mtd>
<mrow>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>~</mo>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
</msub>
<mo>,</mo>
<msubsup>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
</msub>
<mo>=</mo>
<munder>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>:</mo>
<msub>
<mi>i</mi>
<mi>k</mi>
</msub>
<mo>=</mo>
<mi>i</mi>
</mrow>
</munder>
<msub>
<mi>&tau;</mi>
<mn>0</mn>
</msub>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
<msubsup>
<mover>
<mi>c</mi>
<mo>~</mo>
</mover>
<mi>i</mi>
<mrow>
<mi>r</mi>
<mi>k</mi>
<mn>2</mn>
</mrow>
</msubsup>
<mo>+</mo>
<msup>
<mi>&tau;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>,</mo>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
</msub>
<mo>=</mo>
<msubsup>
<mi>&tau;</mi>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mrow>
<mo>(</mo>
<msub>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>:</mo>
<msub>
<mi>i</mi>
<mi>k</mi>
</msub>
<mo>=</mo>
<mi>i</mi>
</mrow>
</msub>
<msub>
<mi>&tau;</mi>
<mn>0</mn>
</msub>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
<msubsup>
<mover>
<mi>y</mi>
<mo>~</mo>
</mover>
<mi>i</mi>
<mi>r</mi>
</msubsup>
<msubsup>
<mover>
<mi>c</mi>
<mo>~</mo>
</mover>
<mi>i</mi>
<mrow>
<mi>r</mi>
<mi>k</mi>
</mrow>
</msubsup>
<mo>+</mo>
<msup>
<mi>&tau;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>)</mo>
</mrow>
</mrow>
</mtd>
</mtr>
</mtable>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>17</mn>
<mo>)</mo>
</mrow>
</mrow>
其中,另外,均值μ(k)服从高斯分布:
<mrow>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>~</mo>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
</msub>
<mo>,</mo>
<msubsup>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
</msub>
<mo>=</mo>
<msup>
<mi>&tau;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mrow>
<mo>(</mo>
<msub>
<mi>&beta;</mi>
<mn>0</mn>
</msub>
<mo>+</mo>
<msub>
<mi>n</mi>
<mi>k</mi>
</msub>
<mi>R</mi>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
</msub>
<mo>=</mo>
<msubsup>
<mi>&tau;</mi>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<msup>
<mi>&tau;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mrow>
<mo>(</mo>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
<mo>,</mo>
<mi>r</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mrow>
<msub>
<mi>n</mi>
<mi>k</mi>
</msub>
<mo>,</mo>
<mi>R</mi>
</mrow>
</msubsup>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>+</mo>
<msub>
<mi>&beta;</mi>
<mn>0</mn>
</msub>
<msub>
<mi>&mu;</mi>
<mn>0</mn>
</msub>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>18</mn>
<mo>)</mo>
</mrow>
</mrow>
准确率τ(k)服从伽马分布:
<mrow>
<mtable>
<mtr>
<mtd>
<mrow>
<msup>
<mi>&tau;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>~</mo>
<mi>G</mi>
<mi>a</mi>
<mrow>
<mo>(</mo>
<msup>
<mover>
<mi>a</mi>
<mo>~</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>,</mo>
<msup>
<mover>
<mi>b</mi>
<mo>~</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msup>
<mover>
<mi>a</mi>
<mo>~</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>=</mo>
<msub>
<mi>a</mi>
<mn>0</mn>
</msub>
<mo>+</mo>
<mrow>
<mo>(</mo>
<msub>
<mi>n</mi>
<mi>k</mi>
</msub>
<mi>R</mi>
<mo>+</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>/</mo>
<mn>2</mn>
</mrow>
</mtd>
</mtr>
<mtr>
<mtd>
<mrow>
<msup>
<mover>
<mi>b</mi>
<mo>~</mo>
</mover>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>=</mo>
<msub>
<mi>b</mi>
<mn>0</mn>
</msub>
<mo>+</mo>
<mo>&lsqb;</mo>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>i</mi>
<mo>=</mo>
<mn>1</mn>
<mo>,</mo>
<mi>r</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mrow>
<msub>
<mi>n</mi>
<mi>k</mi>
</msub>
<mo>,</mo>
<mi>R</mi>
</mrow>
</msubsup>
<msup>
<mrow>
<mo>(</mo>
<msubsup>
<mi>u</mi>
<mrow>
<mi>i</mi>
<mi>r</mi>
</mrow>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msubsup>
<mo>-</mo>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>)</mo>
</mrow>
<mn>2</mn>
</msup>
<mo>+</mo>
<msub>
<mi>&beta;</mi>
<mn>0</mn>
</msub>
<msup>
<mrow>
<mo>(</mo>
<msup>
<mi>&mu;</mi>
<mrow>
<mo>(</mo>
<mi>k</mi>
<mo>)</mo>
</mrow>
</msup>
<mo>-</mo>
<msub>
<mi>&mu;</mi>
<mn>0</mn>
</msub>
<mo>)</mo>
</mrow>
<mn>2</mn>
</msup>
<mo>&rsqb;</mo>
<mo>/</mo>
<mn>2</mn>
</mrow>
</mtd>
</mtr>
</mtable>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>19</mn>
<mo>)</mo>
</mrow>
</mrow>
(d)对非低秩结构进行采样;该结构的表示模型包括参数E、μe、τe、Z和π;
E中的每项ei服从高斯分布:
<mrow>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>~</mo>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
</msub>
<mo>,</mo>
<msubsup>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
</msub>
<mo>=</mo>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
<msub>
<mi>&tau;</mi>
<mn>0</mn>
</msub>
<mo>+</mo>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>d</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>D</mi>
</msubsup>
<msub>
<mi>&tau;</mi>
<mi>d</mi>
</msub>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
<mo>,</mo>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>=</mo>
<msubsup>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>&lsqb;</mo>
<msub>
<mi>&tau;</mi>
<mn>0</mn>
</msub>
<msub>
<mi>o</mi>
<mi>i</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mi>y</mi>
<mi>i</mi>
</msub>
<mo>-</mo>
<msub>
<mi>x</mi>
<mi>i</mi>
</msub>
<mo>)</mo>
</mrow>
<mo>+</mo>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>d</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>D</mi>
</msubsup>
<msub>
<mi>&tau;</mi>
<mi>d</mi>
</msub>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mo>&rsqb;</mo>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>20</mn>
<mo>)</mo>
</mrow>
</mrow>
对于公式(11)混合高斯模型中的第d个高斯成分,其均值μd服从高斯分布:
<mrow>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mo>~</mo>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
</msub>
<mo>,</mo>
<msubsup>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&tau;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
</msub>
<mo>=</mo>
<msub>
<mi>&tau;</mi>
<mi>d</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mo>&Sigma;</mo>
<mi>i</mi>
</msub>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
<mo>+</mo>
<msub>
<mi>&beta;</mi>
<mn>0</mn>
</msub>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&mu;</mi>
<mo>~</mo>
</mover>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
</msub>
<mo>=</mo>
<msubsup>
<mi>&tau;</mi>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<msub>
<mi>&tau;</mi>
<mi>d</mi>
</msub>
<mrow>
<mo>(</mo>
<msub>
<mo>&Sigma;</mo>
<mi>i</mi>
</msub>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>+</mo>
<msub>
<mi>&beta;</mi>
<mn>0</mn>
</msub>
<msub>
<mi>&mu;</mi>
<mn>0</mn>
</msub>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>21</mn>
<mo>)</mo>
</mrow>
</mrow>
准确率τd服从伽马分布:
<mrow>
<msub>
<mi>&tau;</mi>
<mi>d</mi>
</msub>
<mo>~</mo>
<mi>G</mi>
<mi>a</mi>
<mrow>
<mo>(</mo>
<msub>
<mover>
<mi>a</mi>
<mo>~</mo>
</mover>
<mi>d</mi>
</msub>
<mo>,</mo>
<msub>
<mover>
<mi>b</mi>
<mo>~</mo>
</mover>
<mi>d</mi>
</msub>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>a</mi>
<mo>~</mo>
</mover>
<mi>d</mi>
</msub>
<mo>=</mo>
<msub>
<mi>a</mi>
<mn>0</mn>
</msub>
<mo>+</mo>
<mrow>
<mo>(</mo>
<msub>
<mo>&Sigma;</mo>
<mi>i</mi>
</msub>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
<mo>+</mo>
<mn>1</mn>
<mo>)</mo>
</mrow>
<mo>/</mo>
<mn>2</mn>
<mo>,</mo>
<msub>
<mover>
<mi>b</mi>
<mo>~</mo>
</mover>
<mi>d</mi>
</msub>
<mo>=</mo>
<msub>
<mi>b</mi>
<mn>0</mn>
</msub>
<mo>+</mo>
<mo>&lsqb;</mo>
<msub>
<mo>&Sigma;</mo>
<mi>i</mi>
</msub>
<msubsup>
<mi>z</mi>
<mi>i</mi>
<mi>d</mi>
</msubsup>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>+</mo>
<msub>
<mi>&beta;</mi>
<mn>0</mn>
</msub>
<msup>
<mrow>
<mo>(</mo>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mo>-</mo>
<msub>
<mi>&mu;</mi>
<mn>0</mn>
</msub>
<mo>)</mo>
</mrow>
<mn>2</mn>
</msup>
<mo>&rsqb;</mo>
<mo>/</mo>
<mn>2</mn>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>22</mn>
<mo>)</mo>
</mrow>
</mrow>
变量zi服从多项式分布,参数混合比例π服从参数
<mrow>
<msub>
<mi>z</mi>
<mi>i</mi>
</msub>
<mo>~</mo>
<mi>M</mi>
<mi>u</mi>
<mi>l</mi>
<mi>t</mi>
<mi>i</mi>
<mi>n</mi>
<mi>o</mi>
<mi>m</mi>
<mi>i</mi>
<mi>a</mi>
<mi>l</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>z</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<mover>
<mi>&pi;</mi>
<mo>~</mo>
</mover>
<mo>)</mo>
</mrow>
<mo>,</mo>
<msub>
<mover>
<mi>&pi;</mi>
<mo>~</mo>
</mover>
<mi>d</mi>
</msub>
<mo>=</mo>
<mo>&lsqb;</mo>
<msub>
<mi>&pi;</mi>
<mi>d</mi>
</msub>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<msub>
<mi>&mu;</mi>
<mi>d</mi>
</msub>
<mo>,</mo>
<msubsup>
<mi>&tau;</mi>
<mi>d</mi>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>&rsqb;</mo>
<mo>/</mo>
<mo>&lsqb;</mo>
<msubsup>
<mo>&Sigma;</mo>
<mrow>
<mi>t</mi>
<mo>=</mo>
<mn>1</mn>
</mrow>
<mi>D</mi>
</msubsup>
<msub>
<mi>&pi;</mi>
<mi>t</mi>
</msub>
<mi>N</mi>
<mrow>
<mo>(</mo>
<msub>
<mi>e</mi>
<mi>i</mi>
</msub>
<mo>|</mo>
<msub>
<mi>&mu;</mi>
<mi>t</mi>
</msub>
<mo>,</mo>
<msubsup>
<mi>&tau;</mi>
<mi>t</mi>
<mrow>
<mo>-</mo>
<mn>1</mn>
</mrow>
</msubsup>
<mo>)</mo>
</mrow>
<mo>&rsqb;</mo>
<mo>,</mo>
<mi>&pi;</mi>
<mo>~</mo>
<mi>D</mi>
<mi>i</mi>
<mi>r</mi>
<mrow>
<mo>(</mo>
<mi>&pi;</mi>
<mo>|</mo>
<mover>
<mi>&alpha;</mi>
<mo>~</mo>
</mover>
<mo>)</mo>
</mrow>
<mo>-</mo>
<mo>-</mo>
<mo>-</mo>
<mrow>
<mo>(</mo>
<mn>23</mn>
<mo>)</mo>
</mrow>
<mo>.</mo>
</mrow>
4
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710442277.3A CN107292337A (zh) | 2017-06-13 | 2017-06-13 | 超低秩张量数据填充方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710442277.3A CN107292337A (zh) | 2017-06-13 | 2017-06-13 | 超低秩张量数据填充方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107292337A true CN107292337A (zh) | 2017-10-24 |
Family
ID=60097209
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710442277.3A Pending CN107292337A (zh) | 2017-06-13 | 2017-06-13 | 超低秩张量数据填充方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107292337A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108632752A (zh) * | 2018-05-18 | 2018-10-09 | 哈尔滨工业大学 | 基于张量填充的室内位置指纹定位Radio Map建立方法 |
CN109325442A (zh) * | 2018-09-19 | 2019-02-12 | 福州大学 | 一种图像像素缺失的人脸识别方法 |
CN109727200A (zh) * | 2017-10-30 | 2019-05-07 | 上海交通大学 | 基于贝叶斯张量分解的相似块堆聚图像消噪方法及系统 |
CN110580684A (zh) * | 2018-06-10 | 2019-12-17 | 长沙市军英电子科技有限公司 | 一种基于黑白-彩色双目相机的图像增强方法 |
CN112329633A (zh) * | 2020-11-05 | 2021-02-05 | 南开大学 | 基于张量分解的情感识别方法、装置、介质及电子设备 |
CN114841888A (zh) * | 2022-05-16 | 2022-08-02 | 电子科技大学 | 基于低秩张量环分解和因子先验的视觉数据补全方法 |
-
2017
- 2017-06-13 CN CN201710442277.3A patent/CN107292337A/zh active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109727200A (zh) * | 2017-10-30 | 2019-05-07 | 上海交通大学 | 基于贝叶斯张量分解的相似块堆聚图像消噪方法及系统 |
CN108632752A (zh) * | 2018-05-18 | 2018-10-09 | 哈尔滨工业大学 | 基于张量填充的室内位置指纹定位Radio Map建立方法 |
CN108632752B (zh) * | 2018-05-18 | 2020-06-16 | 哈尔滨工业大学 | 基于张量填充的室内位置指纹定位Radio Map建立方法 |
CN110580684A (zh) * | 2018-06-10 | 2019-12-17 | 长沙市军英电子科技有限公司 | 一种基于黑白-彩色双目相机的图像增强方法 |
CN109325442A (zh) * | 2018-09-19 | 2019-02-12 | 福州大学 | 一种图像像素缺失的人脸识别方法 |
CN112329633A (zh) * | 2020-11-05 | 2021-02-05 | 南开大学 | 基于张量分解的情感识别方法、装置、介质及电子设备 |
CN112329633B (zh) * | 2020-11-05 | 2022-08-23 | 南开大学 | 基于张量分解的情感识别方法、装置、介质及电子设备 |
CN114841888A (zh) * | 2022-05-16 | 2022-08-02 | 电子科技大学 | 基于低秩张量环分解和因子先验的视觉数据补全方法 |
CN114841888B (zh) * | 2022-05-16 | 2023-03-28 | 电子科技大学 | 基于低秩张量环分解和因子先验的视觉数据补全方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107292337A (zh) | 超低秩张量数据填充方法 | |
CN110335261B (zh) | 一种基于时空循环注意力机制的ct淋巴结检测系统 | |
Butter et al. | Machine learning and LHC event generation | |
CN108960086A (zh) | 基于生成对抗网络正样本增强的多姿态人体目标跟踪方法 | |
CN110276441B (zh) | 一种基于深度学习的梯形重叠核脉冲估计方法 | |
CN108563837B (zh) | 一种冲积河流水沙模型的模型参数实时校正方法和系统 | |
CN106355151A (zh) | 一种基于深度置信网络的三维sar图像目标识别方法 | |
CN108399248A (zh) | 一种时序数据预测方法、装置及设备 | |
CN105654069B (zh) | 基于Lp范数正则化的增量子空间目标跟踪方法 | |
CN110208660B (zh) | 一种用于电力设备局部放电缺陷诊断的训练方法及装置 | |
CN110309010B (zh) | 用于电力设备相位分辩的局放网络训练方法及装置 | |
CN111881971A (zh) | 一种基于深度学习lstm模型的输电线路故障类型识别方法 | |
CN108491925A (zh) | 基于隐变量模型的深度学习特征泛化方法 | |
CN113553755B (zh) | 电力系统状态估计方法、装置及设备 | |
CN113836783B (zh) | 斜拉桥主梁温致挠度监测基准值的数字回归模型建模方法 | |
CN104881867A (zh) | 一种基于特征分布的遥感图像质量评价方法 | |
CN110490894A (zh) | 基于改进的低秩稀疏分解的视频前背景分离方法 | |
CN114565594A (zh) | 基于软掩膜对比损失的图像异常检测方法 | |
CN109671019A (zh) | 一种基于多目标优化算法和稀疏表达的遥感影像亚像元制图方法 | |
CN106034264A (zh) | 基于协同模型的获取视频摘要的方法 | |
Regazzoni et al. | A physics-informed multi-fidelity approach for the estimation of differential equations parameters in low-data or large-noise regimes | |
CN117350152A (zh) | 基于机理数据融合的电磁场建模方法、系统、设备及介质 | |
CN103296995B (zh) | 任意维高阶(≥4阶)无味变换与无味卡尔曼滤波方法 | |
CN103839280A (zh) | 一种基于视觉信息的人体姿态跟踪方法 | |
CN113033104B (zh) | 一种基于图卷积的锂电池荷电状态估计方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20171024 |