CN101217345B - 一种垂直分层空时编码通信系统的检测方法 - Google Patents

Abstract

本发明公开一种垂直分层空时编码通信系统的检测方法，用改进的粒子群优化算法对垂直分层空时编码通信系统进行检测，用ML检测公式F(

)＝‖r-H

‖²，

＝[ ₁，

₂，…，

_M]^T∈Ω计算粒子群优化算法适应度函数，实现用低的复杂度获得接近ML方法的检测性能。该检测方法的实施步骤为：第一步将基带接收信号和信道估计值输入到检测器中，设置算法参数，初始化粒子速度和位置；第二步根据检测公式计算粒子的适应度，初始化个体极值和全局极值；第三步更新粒子速度和位置；第四步对位置矢量进行变异操作；第五步更新个体极值和全局极值；第六步判断是否达到最大迭代次数，是，输出全局极值，即最终检测值；否，转第三步。本发明所用的算法简单，计算复杂度低，并具备较快的计算速度和较高的计算精度。

Description

一种垂直分层空时编码通信系统的检测方法

技术领域

本发明属于通信技术领域，涉及无线通信系统的信号检测技术，具体说是一种垂直分层空时编码通信系统的检测方法。 

技术背景 

近十年来，信息通信技术及其应用系统得到了迅速发展，呈现出空前的繁荣景象。移动通信、无线通信、多媒体信息服务和因特网的发展与成熟，为人们在不同的时空领域进行任何种类的信息交互提供了极大的便利。二十世纪末，互联网技术的广泛应用和人们对数据传输业务越来越多的依赖和需求，冲击并推动着移动通信技术不断地更新换代。现有的第三代移动通信系统已经难以满足未来移动通信高速率、多业务、高质量的通信和数据传输需求，因而人们提出了超3G或4G的概念，多个国际标准化组织和论坛也在积极开展未来移动通信的研究。例如国际电信联盟-无线电通信部ITU-R在对第三代无线通信的全球标准IMT-2000的未来发展和超IMT-2000系统的文件中指出：IMT-2000陆地无线接口的能力在2005年左右将扩展到近30Mbps；设想的在2010年左右超IMT-2000的新系统在高速移动条件下将支持约100Mbps的峰值速率，在低速移动条件下将支持约1Gbps的峰值速率。 

当前广泛认同的支持未来移动通信高速率要求的一大技术关键是多输入多输出MIMO系统，MIMO技术可以在不增加系统带宽和传输功率的前提下，成倍地提高无线信道的信道容量。根据信息论，如果不同发射-接收天线对之间的信道衰落相互独立，在相同的发射功率和带宽下，一个拥有M个发射天线和N个接收天线的MIMO系统能达到的信道容量为现有的单天线系统的min(M，N)倍，从而提供了当前其它技术无可比拟的容量提升潜力。所以MIMO系统被认为是实现未来移动通信的关键技术之一。 

MIMO系统通常可以获得两种增益：分集增益以及复用增益。为了实现高速数据的传输，需要获得尽可能大的复用增益。最早由贝尔实验室提出的BLAST系统，采用了分层空时编码技术，获得了最大复用增益，也就是将信源数据分为若干子数据流，独立地进行编码、调制。根据编码和调制输出符号映射到发送天线的方式的不同，可以将分层空时码分为3类：对角分层空时编码(DBLAST)、垂直分层空时编码(VBLAST)和水平分层空时编码(HBLAST)。DBLAST性能要优于VBLAST，但其编译码过程要比VBLAST复杂，而且存在频谱利用率的损耗，因此不太实用。水平分层空时编码虽然容易实现，但由于空时特性最 差也很少使用。垂直分层空时编码的空时特性及其层次结构较对角分层空时编码要差一些，但却没有传输冗余，而且其结构简单，故在实际中应用较多，因此本发明是针对VBLAST系统的一种检测技术。 

VBLAST系统以其较高的频谱利用率引起了研究者的重视，目前的研究主要集中在提高系统性能、降低实现的复杂度以及在宽带系统中的应用等方面。近年来已经产生了许多VBLAST系统的检测方法，其中ML(最大似然)检测方法具有最好的检测性能，但是其指数复杂度是最高的，是一个完全的NP组合优化问题。而传统的检测方法如经典的ZF-OSIC(基于迫零准则的排序连续干扰抵消)检测方法，就性能而言，该方法较线性检测方法如ZF和MMSE检测方法有了一定的改善，但比ML检测方法还是差很多，尤其当发射天线数与接收天线数相等的情况下该方法的性能下降很严重；就复杂度而言，ZF-OSIC较ML有了显著的的下降，但由于多次的求逆和排序操作使得其计算复杂度还是很高。由于MMSE-OSIC(基于最小均方误差准则的排序连续干扰抵消)检测方法利用了一些先验信息，故可以获得比ZF-OSIC检测方法更好的误码率性能，但其需要估计噪声方差，比ZF-OSIC检测方法有更大的复杂度，如果噪声方差估计的不太准确，会对该检测方法性能有所影响。因此，如何以较小的复杂度代价提高V-BLAST系统的检测性能构成了当前研究的一个主要内容，也是本方明要解决的问题。 

发明内容

本发明的目的在于克服已有的经典VBLAST检测方法的缺点，提出了一种新的VBLAST检测方法，该方法基于改进的粒子群优化理NDPSO，以较低的复杂度获得接近ML方法的检测性能。 

实现本发明目的的技术原理是：粒子群优化算法(particle swarm optimization：PSO)是由Eberhart和Kennedy于1995年提出一种基于群智能的进化计算技术，其核心思想是对生物社会性行为的模拟。粒子群优化算法最初设想是模拟鸟群捕食的过程，假设一群鸟在捕食，其中的一只发现了食物，则其他一些鸟会跟随这只鸟飞向食物处，而另一些会去寻找更好的食物源。在捕食的整个过程中，鸟会利用自身的经验和群体的信息来寻找食物。粒子群优化算法就是从鸟群的这种行为得到启示，并将其用于优化问题的求解。在粒子群优化算法中，每个问题的解都被看作搜索空间中的一只鸟，称之为“粒子”。每个粒子都有自己的位置和速度(决定飞行的方向和距离)，还有一个被优化函数(适应度函数)决定的适应值，粒子状态的好坏由该适应值来决定。这些粒子在搜索空间中以一定的速度飞行，并根据粒子本身的飞行经验以及同伴的飞行经验对自己的飞行速度进行动态调整，即每个粒子通过统计迭代过程中自身的最优值和群体的最优值来不断地修正自己的前进方向和速度大小，从而形成群体寻优的正反馈机制。粒子群优化算法就是这样依据每个粒子对环境的适应度将个体逐步移到较优的区域，并最终寻找到问题的最优解，其作为一种并行优化算法，主要优点是简单易于实现、有较少的参数、在较短的时间内可以产生高质量的解，通过大量的测试函数表明其比传统优化技术收敛速度更快。于是它被广泛应用于系统设计、车间调度、分类、博弈论、模式识别等领域，受其思想的启发，本发明将粒子群优化效应应用到VBLAST系统的检测中。由于标准的粒子群优化算法存在着易于陷入局部最优的缺陷，为了克服该缺陷，本发明利用了新的粒子群优化算法的运动方程来改善算法的收敛速度，同时结合遗传算法中的变异算子，来增强粒子群优化算法跳出局部最优解的能力。因此，本发明是基于新的离散粒子群优化理论，而提出的一种新的VBLAST系统检测方法。

本发明使用改进粒子群优化算法NDPSO对垂直分层空时编码通信系统进行检测。在检测时要对粒子和适应度函数进行描述，由于每个粒子代表检测问题的一个候选解，故可以把一个M×1维的基带发射信号的检测值 

作为一个粒子。为了实现逼近ML检测方法误码率的目的，将ML检测公式作为本发明检测方法的适应度函数，并由该适应度函数值衡量粒子的优劣，则粒子群优化算法的适应度函数为： 

$F\left(\hat{s}\right)={\left|\right|r-H\hat{s}\left|\right|}^2,$ $\hat{s}={[{\hat{s}}_1,{\hat{s}}_2,...,{\hat{s}}_M]}^T\∈\mathrm{\Ω}---\left(1\right)$

其中，式中，r＝[r₁，r₂，…，r_N]^T为N×1维的接收信号矢量，[·]^T表示矩阵或向量的转置；H＝(h_ij)_N×M为信道转移矩阵，其中h_ij表示第j(j＝1，2，…，M)根发射天线到第i(i＝1，2…，N)根接收天线的信道衰落系数，h_ij是服从均值为0，方差为1的复高斯随机变量； 

为M×1维的发送信号矢量的检测值；Ω为所采用调制的星座图中所有点的集合；因此，最优解就是使适应度函数F最小的粒子。 

本发明的新离散粒子群检测方法(NDPSO-VBLAST)的检测过程包括以下步骤： 

1.将基带接收信号r和信道估计值H(H由信道估计器提供，不考虑信道估计误差，其等于信道转移矩阵)输入到VBLAST检测器中，根据系统要求设置新粒子群算法的参数，所述的参数包括种群规模和迭代次数的最大次数。令迭代次数变量t＝0。设种群规模为m，随机产生各粒子的位置矢量和速度矢量，每个位置矢量代表检测问题的一个候选解，即 

${\hat{s}}_i\left(t\right)={[{\hat{s}}_{i1}\left(t\right),{\hat{s}}_{i2}\left(t\right),...,{\hat{s}}_{\mathrm{iM}}\left(t\right)]}^T,$ i＝1，2，…，m； 

2.根据式(1)计算粒子的适应度，将粒子的当前位置矢量 

置为个体极值p_i(t)，全局极值p_g(t)置为初始群体中适应度最优的粒子的位置，即初始化个体极值p_i(t)和全局极值p_g(t)； 

3.令t＝t+1，根据新粒子群优化算法的运动方程(2)和(3)更新粒子的速度和位置。 

v_i(t+1)＝-c₁

_i(t)+c₂p_i(t)+c₃p_g(t)    (2) 

${\hat{s}}_{\mathrm{ik}}(t+1)=\left\{\begin{array}{c}+1,{\mathrm{\&rho;}}_{\mathrm{ik}}(t+1)<v_{\mathrm{ik}}(t+1)\\ -1,{\mathrm{\&rho;}}_{\mathrm{ik}}(t+1)\&GreaterEqual;v_{\mathrm{ik}}(t+1)\end{array}\right.---\left(3\right)$

在式(2)和式(3)中，

_i(t)＝[

_i1(t)，

_i2(t)，…，

_iM(t)]^T为第t次迭代时第i个粒子的位置矢量，代表问题的一个候选解；v_i(t)＝[v_i1(t)，v_i2(t)，…，v_iM(t)]^T为第t次迭代时第i个粒子的速度矢量；p_i(t)＝[p_i1(t)，p_i2(t)，…，p_iM(t)]^T为第t次迭代时第i个粒子迄今搜索到的最优解；p_g(t)＝[p_g1(t)，p_g2(t)，…，p_gM(t)]^T为第t次迭代时整个粒子群到目前为止找到的最优解；ρ_ik(t)∈[-1，+1]是随机产生的；i＝1，2，…，m；k＝1，2，…，M；这里速度矢量作为判别阈值矢量，由上一代的 _i(t)，p_i(t)，p_g(t)决定；c₁+c₂+c₃＝1，确保阈值v_ik(t+1)∈[-1，+1]，

_ik(t+1)是由v_ik(t+1)决定的一个概率选择阈值，v_ik(t+1)的大小决定了

_ik(t+1)趋向于判决选择为+1还是-1；设计参数c₁为惰性系数，表示相信自己的程度，c₂为社会学习系数，表示相信经验的程度，c₃为认知系数，表示相信周围个体的程度；设c₁＝0.1，c₂随迭代次数的增加由0.9线性减少到0，则c₃＝0.9-c₂； 

4.令 $\hat{S}\left(t\right)=[{\hat{s}}_1\left(t\right),{\hat{s}}_2\left(t\right),...,{\hat{s}}_m\left(t\right)]$ ，式中

_i(t)＝[

_i1(t)，

_i2(t)，…， _iM(t)]^T∈Ω，则依据概率p_m 对 

中的各粒子的位置向量进行变异操作，即

_id(t+1)(i＝1，2，…，m；d＝1，2，…，M)中的各元素按位以概率p_m取反，得到 

5.令P(t)＝[p₁(t)，p₂(t)，…，p_m(t)]，计算P(t)、 

中各粒子的适应度，在{p_i(t)，

_i(t+1)，

_i′(t+1)}中选择适应度最优的粒子作为更新后的p_i(t+1)，然后在[p₁(t+1)，p₂(t+1)，…，p_m(t+1)]中选择适应度最优的个体极值作为更新后的p_g(t+1)； 

6.检验是否满足结束条件，如果当前的迭代次数达到预先设定的最大次数，执行第7步，否则执行第3步。 

7.输出全局极值p_g，即为最终的检测值。 

本发明与现有的技术相比，本发明具有如下优点： 

1)本发明算法简单，计算复杂度较低。 

VBLAST系统的最大似然方法由于需要遍历发射序列的解空间，因此具有指数复杂度，是一个完全的NP组合优化问题，其复杂度约为O(P^M)(P为调制阶数，M为发射天线数目)， 在发射天线数目较多时，其复杂度是令人生畏的，比如8PSK调制，8天线发射时，接收端进行ML解码方法需要搜索的次数是8⁸＝16777216。 

排序连续干扰抵消方法较ML有显著的下降，但由于需要多次求伪逆，该方法的总的复杂度还是很高的，约为O(M⁴)(M为发射天线数目)。 

对于粒子群规模为m，迭代次数为iter的NDPSO-VBLAST方法，m和iter均随解空间维数M的增大而线性增大，因此，我们设m＝αM、iter＝βM。在第i次迭代中，计算所有粒子的适应度的计算复杂度为O(mM)；变异操作的计算复杂度为O(mM)；比较粒子适应度而产生个体极值的比较次数为3m，产生全局极值的比较次数为m(m-1)/2；另外，计算粒子的速度，更新粒子的位置的计算复杂度为O(mM)。因此，经过iter次迭代，该方法总的计算复杂度为： 

$O\left({\mathrm{\&alpha;\&beta;M}}^3\right)+O\left(\mathrm{\&alpha;\&beta;}{M}^3\right)+O\left(3\mathrm{\&alpha;\&beta;}{M}^2\right)+O\left(\frac{{\mathrm{\&alpha;}}^2\mathrm{\&beta;}{M}^3-\mathrm{\&alpha;\&beta;}{M}^2}{2}\right)+O\left(\mathrm{\&alpha;}{M}^2\right)=O\left(M^3\right)$

相比ML方法的指数复杂度，NDPSO-VBLAST方法的复杂度还是较低的。 

2)本发明同时具备较快的计算速度和较高的计算精度。 

为了实现逼近ML检测方法误码率的目的，我们将ML检测公式作为本发明提出的检测方法的适应度函数，理论上本发明的方法可以逼近ML检测方法的性能，经仿真实验验证了该结论，而且本发明检测方法的复杂度小于ML检测方法，所以本发明同时具备较快的计算速度和较高的计算精度。 

3)本发明对现有离散粒子群算法进行了改进，克服了其早熟的缺点。 

根据生物社会学的观点，本发明利用了新的粒子群优化算法的运动方程来改善算法的收敛速度，同时结合遗传算法中的变异算子，来增强粒子群优化算法跳出局部最优解的能力，克服了标准离散粒子群算法可能出现早熟现象的缺点，从而进一步改善VBLAST检测器的性能。 

附图说明

图1是VBLAST通信系统框图 

图2是本发明VBLAST检测方法流程图 

图3是本发明VBLAST检测方法与传统检测方法的性能比较结果 

具体实施方式

以下参照附图对本发明作进一步详细描述。 

图1示出了MIMO系统的原理框图。在发射端，数据比特首先被映射成为星座图中的信号，经过串并变换后形成多路并行的基带发送信号，然后经过调制后分别从多根不同的天线同时发射出去。经过无线衰落信道后，来自不同发射天线的信号与噪声叠加后被多根天线同时接收，经过解调后生成多路并行基带接收信号，VBLAST检测器利用信道估计器产生的信道状态信息从基带接收信号中检测出发送的基带信号，再经过并串变换和解映射恢复出原始数据。该系统的基带信号输入输出关系可以表示为： 

r＝Hs+n    (1) 

式中，s＝[s₁，s₂，…，s_M]^T为M×1维的发送信号矢量，M为发射天线数目，[·]^T表示矩阵或向量的转置；r＝[r₁，r₂，…，r_N]^T为N×1维的接收信号矢量，N为发射天线数目；H＝(h_ij)_N×M为信道转移矩阵，其中h_ij表示第j(j＝1，2，…，M)根发射天线到第i(i＝1，2…，N)根接收天线的信道衰落系数，h_ij是服从均值为0，方差为1的复高斯随机变量，n＝[n₁，n₂，…，n_N]^T为加性高斯白噪声矢量，满足E(nn^H)＝N₀I_N，E(·)是求均值，N₀是噪声的功率谱密度，I_N为N×N维单位矩阵。本发明涉及图1所示系统的VBLAST检测器部分，其主要功能是根据接收的基带信号r＝[r₁，r₂，…，r_N]^T，利用某种信号检测方法得到基带发送信号s＝[s₁，s₂，…，s_M]^T的检测值 

＝[

₁，

₂，…，

_M]^T。 

图2示出了本发明NDPSO-BLAST检测方法的流程图。在使用新的粒子群优化算法来解决VBLAST系统的检测问题时，需要对粒子和适应度函数进行描述。由于每个粒子代表检测问题的一个候选解，故可以把一个M×1维的基带发射信号的检测值

作为一个粒子。为了实现逼近ML检测方法误码率的目的，将ML检测公式作为本发明提出的检测方法的适应度函数，并由该适应度函数值衡量粒子的优劣，则粒子群优化算法的适应度函数为： 

F(

)＝‖r-H‖²，

＝[ ₁，

₂，…，

_M]^T∈Ω    (2) 

其中，Ω为所采用调制的星座图中所有点的集合。因此，最优解就是使适应度函数F最小的粒子。 

参照图2，本发明的主要步骤如下： 

第一步：将基带接收信号r和信道估计值H输入到VBLAST检测器中，根据系统要求设置新粒子群算法的参数，所述的参数包括种群规模和迭代次数。令迭代次数变量t＝0。设种群规模为m，随机产生各粒子的位置矢量和速度矢量，每个位置矢量代表检测问题的一个候选解，即

_i(t)＝[ _i1(t)， _i2(t)，…，

_iM(t)]^T，i＝1，2，…，m。 

第二步：根据式(2)计算粒子的适应度，将粒子的当前位置矢量

_i(t)置为个体极值p_i(t)， 全局极值p_g(t)置为初始群体中适应度最优的粒子的位置，即初始化个体极值p_i(t)和全局极值p_g(t)。 

第三步：令t＝t+1，根据新粒子群优化算法的运动方程(3)和(4)更新粒子的速度和位置。 

v_i(t+1)＝-c_{1 i}(t)+c₂p_i(t)+c₃p_g(t)    (3) 

${\hat{s}}_{\mathrm{ik}}(t+1)=\left\{\begin{array}{c}+1,{\mathrm{\&rho;}}_{\mathrm{ik}}(t+1)<v_{\mathrm{ik}}(t+1)\\ -1,{\mathrm{\&rho;}}_{\mathrm{ik}}(t+1)\&GreaterEqual;v_{\mathrm{ik}}(t+1)\end{array}\right.---\left(4\right)$

上式中，

_i(t)＝[

_i1(t)，

_i2(t)，…，

_iM(t)]^T为第t次迭代时第i个粒子的位置矢量，代表问题的一个候选解；v_i(t)＝[v_i1(t)，v_i2(t)，…，v_iM(t)]^T为第t次迭代时第i个粒子的速度矢量；p_i(t)＝[p_i1(t)，p_i2(t)，…，p_iM(t)]^T为第t次迭代时第i个粒子迄今搜索到的最优解；p_g(t)＝[p_g1(t)，p_g2(t)，…，p_gM(t)]^T为第t次迭代时整个粒子群到目前为止找到的最优解；ρ_ik(t)∈[-1，+1]是随机产生的；i＝1，2，…，m；k＝1，2，…，M；这里速度矢量作为判别阈值矢量，仅由上一代的

_i(t)，p_i(t)，p_g(t)决定；c₁+c₂+c₃＝1，确保阈值v_ik(t+1)∈[-1，+1]，

_ik(t+1)是由v_ik(t+1)决定的一个概率选择阈值，v_ik(t+1)的大小决定了

_ik(t+1)趋向于判决选择为+1还是-1。设计参数c₁为惰性系数，表示相信自己的程度，c₂为社会学习系数，表示相信经验的程度，c₃为认知系数，表示相信周围个体的程度。根据生物社会学的观点，经验和协作会带来优势，但每个粒子过于相信自己，对经验和其他个体的信任度就会降低，因此采取怀疑的策略在c₁前使用负号，使粒子不断克服自己的惰性，充分利用经验和协作带来的优势，获得好的位置为其他粒子的飞行提供指导，从而加速整个粒子群的收敛速度，这里我们设c₁＝0.1。为了先侧重于全局搜索，使搜索空间快速收敛于某一区域，然后采用局部精细搜索以获得高精度的解，可以通过自适应地改变参数来实现，即c₂随迭代次数的增加由0.9线性减少到0，则c₃＝0.9-c₂。 

第四步：令 $\hat{S}\left(t\right)=[{\hat{s}}_1\left(t\right),{\hat{s}}_2\left(t\right),...,{\hat{s}}_m\left(t\right)]$ ，式中

_i(t)＝[

_i1(t)，

_i2(t)，…，

_iM(t)]^T∈Ω，则依据概率p_m对 

中的各粒子的位置向量进行变异操作，即

_id(t+1)(i＝1，2，…，m；d＝1，2，…，M)中的各元素按位以概率p_m取反，得到 

第五步：令P(t)＝[p₁(t)，p₂(t)，…，p_m(t)]，计算P(t)、 

中各粒子的适应度，在{p_i(t)，

_i(t+1)， _i′(t+1)}中选择适应度最优的粒子作为更新后的p_i(t+1)，然后在[p₁(t+1)，p₂(t+1)，…，p_m(t+1)]中选择适应度最优的个体极值作为更新后的p_g(t+1)。 

第六步：检验是否满足结束条件，如果当前的迭代次数达到预先设定的最大次数，执行第七步，否则执行第三步。 

第七步：输出全局极值p_g，即为最终的检测值。 

图3示出了本发明提出的V-BLAST检测方法与传统检测方法的性能比较结果。为了验证本发明提出的新离散粒子群检测方法(NDPSO-VBLAST)的优越性，将其与ML检测方法、离散粒子群检测方法(DPSO-VBLAST)、MMSE-OSIC检测方法、ZF-OSIC检测方法、MMSE检测方法和ZF检测方法在平坦的准静态瑞利衰落信道环境下的性能做出比较。仿真中新离散粒子群检测方法和离散粒子群检测方法均以最大迭代次数为终止条件，横坐标表示信噪比(SNR)，纵坐标表示误比特率(BER)，发射天线数和接收天线数均为4，所采用的调制方式是BPSK。在新离散粒子群检测方法中，变异概率p_m是控制算法局部搜索的重要参数。若p_m取值太大，算法的随机搜索能力越强，跳出局部最优点的能力越强，全局收敛速度越快，但p_m 值过大会对本发明检测方法的稳定性有一定的影响，我们经过测试取变异概率p_m＝2/M(M为发射天线数目)。 

在图3中，NDPSO-VBLAST检测方法和DPSO-VBLAST检测方法的种群数和进化代数分别为15和8。从图3中可以看出，作为最优的ML检测方法获得了最好的误码率性能，但是其指数复杂度也是最高的；NDPSO-VBLAST检测方法和DPSO-VBLAST检测方法都好于其他的检测方法，在信噪比小于10dB时都和ML检测方法性能相同，其仿真曲线重合；但当信噪比大于10dB时，NDPSO-VBLAST检测方法比DPSO-VBLAST检测方法有更好的性能，基本和ML检测方法的性能相同，但其比ML检测方法有更低的复杂度。 

Claims (1)

1.一种垂直分层空时编码通信系统的检测方法，用改进的粒子群优化算法对垂直分层空时编码通信系统进行检测，用ML检测公式计算粒子群优化算法的适应度函数，实现用低的复杂度获得接近ML方法的检测性能，适应度函数F的计算式如下：

$F\left(\hat{s}\right)={\left|\right|r-H\hat{s}\left|\right|}^2,\hat{s}={[{\hat{s}}_1,{\hat{s}}_2,\&CenterDot;\&CenterDot;\&CenterDot;,{\hat{s}}_M]}^T\&Element;\mathrm{\&Omega;}---\left(1\right)$

式中，r＝[r₁，r₂，…，r_N]^T为N×1维的接收信号矢量，[·]^T表示矩阵或向量的转置；H＝(h_ij)_N×M为信道转移矩阵，其中h_ij表示第j(j＝1，2，…，M)根发射天线到第i(i＝1，2…，N)根接收天线的信道衰落系数，h_ij是服从均值为0，方差为1的复高斯随机变量；为M×1维的发送信号矢量的检测值；Ω为所采用调制的星座图中所有点的集合；最优解就是使适应度函数F最小的粒子；其特征在于：该方法的检测过程包括以下步骤：

1)将基带接收信号r和信道转移矩阵H输入到VBLAST检测器中，设置新粒子群算法的参数，所述的参数包括种群规模和迭代次数的最大次数，令迭代次数变量t＝0，设种群规模为m，随机产生各粒子的位置矢量和速度矢量，每个位置矢量代表检测过程的一个候选解，即 ${\hat{s}}_i\left(t\right)={[{\hat{s}}_{i1}\left(t\right),{\hat{s}}_{i2}\left(t\right),\&CenterDot;\&CenterDot;\&CenterDot;,{\hat{s}}_{\mathrm{iM}}\left(t\right)]}^T,$ i＝1，2，…，m；

2)根据式(1)计算粒子的适应度，将粒子的当前位置矢量置为个体极值p_i(t)，全局极值p_g(t)置为初始群体中适应度最优的粒子的位置，初始化个体极值p_i(t)和全局极值p_g(t)；

3)令t＝t+1，根据新粒子群优化算法的运动方程(2)和(3)更新粒子的速度和位置：

$v_i(t+1)=-c_1{\hat{s}}_i\left(t\right)+c_2{p}_i\left(t\right)+c_3{p}_g\left(t\right)---\left(2\right)$

${\hat{s}}_{\mathrm{ik}}(t+1)=\left\{\begin{array}{c}+1,{\mathrm{\&rho;}}_{\mathrm{ik}}(t+1)<v_{\mathrm{ik}}(t+1)\\ -1,{\mathrm{\&rho;}}_{\mathrm{ik}}(t+1)\&GreaterEqual;v_{\mathrm{ik}}(t+1)\end{array}\right.---\left(3\right)$

在式(2)和式(3)中，

为第t次迭代时第i个粒子的位置矢量，代表检测的一个候选解，v_i(t)＝[v_i1(t)v_i2(t)，…，v_iM(t)]^T为第t次迭代时，第i个粒子的速度矢量；p_i(t)＝[p_i1(t)，p_i2(t)，…，p_iM(t)]^T为第t次迭代时，第i个粒子迄今搜索到的最优解；p_g(t)＝[p_g1(t)，p_g2(t)，…，p_gM(t)]^T为第t次迭代时，整个粒子群迄今找到的最优解；ρ_ik(t)∈[-1，+1]是随机产生的，i＝1，2，…，m；k＝1，2，…，M；将速度矢量作为判别阈值矢量，由上一代的

p_i(t)，p_g(t)决定；c₁+c₂+c₃＝1，确保阈值v_ik(t+1)∈[-1，+1]；是由v_ik(t+1)决定的一个概率选择阈值，v_ik(t+1)的大小决定了

趋向于判决选择为+1还是-1；设计参数c₁为惰性系数，表示相信自己的程度，c₂为社会学习系数，表示相信经验的程度，c₃为认知系数，表示相信周围个体的程度，设c₁＝0.1，c₂随迭代次数的增加由0.9线性减少到0，则c₃＝0.9-c₂；

4)令 $\hat{S}\left(t\right)=[{\hat{s}}_1\left(t\right),{\hat{s}}_2\left(t\right),\&CenterDot;\&CenterDot;\&CenterDot;,{\hat{s}}_m\left(t\right)],$ 式中 ${\hat{s}}_i\left(t\right)={[{\hat{s}}_{i1}\left(t\right),{\hat{s}}_{i2}\left(t\right),\&CenterDot;\&CenterDot;\&CenterDot;,{\hat{s}}_{\mathrm{iM}}\left(t\right)]}^T,\&Element;\mathrm{\&Omega;},$ 则依据概率p_m对

中的各粒子的位置向量进行变异操作，即

中的各元素按位以概率p_m取反，得到

5)令P(t)＝[p₁(t)，p₂(t)，…，p_m(t))]，计算P(t)、

中各粒子的适应度，在

中选择适应度最优的粒子作为更新后的p_i(t+1)，然后在[p₁(t+1)，p₂(t+1)，…，p_m(t+1)]中选择适应度最优的个体极值作为更新后的全局极值p_g(t+1)；

6)检验当前的迭代次数是否达到预先设定的最大次数，如果是，执行第7步；否则执行第3步；

7)输出全局极值p_g，即为最终的检测值。

Images