CN112051780B

CN112051780B - 一种基于脑机接口的移动机器人编队控制系统及方法

Info

Publication number: CN112051780B
Application number: CN202010974047.3A
Authority: CN
Inventors: 毕路拯; 池伟明; 刘莹
Original assignee: Beijing Institute of Technology BIT
Current assignee: Beijing Institute of Technology BIT
Priority date: 2020-09-16
Filing date: 2020-09-16
Publication date: 2022-05-17
Anticipated expiration: 2040-09-16
Also published as: CN112051780A

Abstract

本发明公开了一种基于脑机接口的移动机器人编队控制系统及方法，该系统包括：控制平台、接口模型、模型预测控制器、基于深度强化学习的智能决策中心、编队队形控制模块和移动机器人编队模块。该系统将人类通过脑‑机接口与机器人系统结合，在实现正常控制的同时，解放了健全人的双手，通过引入人类应对紧急状态的优势，大大提高了机器人控制系统的稳定性、抗干扰能力、灵活性等。本发明的主要应用场景包括但不限于军队作战场景，当需要调整机器人编队搜索路径，当多机器人编队发生系统紊乱、当面对需要立即处理的危险情况时，均可通过脑电信号控制多机器人编队，提高系统的动态特性。

Description

一种基于脑机接口的移动机器人编队控制系统及方法

技术领域

本发明涉及知神经科学、信息技术领域和自动控制领域，特别涉及一种基于脑机接口的移动机器人编队控制系统及方法。

背景技术

近年来，随着计算机技术和无线通信技术的发展，多机器人协调合作已经成为可能,而且得到了越来越多的应用。多机器人系统可以实现协同工作，能够完成复杂的任务，并大大提高了工作效率。在动态环境中，多机器人编队相比单个机器人能够更好的缩短执行任务的时间，降低系统的成本，提高系统的工作效率。编队控制在军事、娱乐、生产等各个领域有广泛的应用，特别是在人一机协同编队遂行侦查作战任务等军事领域，士兵通过控制机器人编队能够大大提升其在战场的作战能力，具有广阔的应用前景。因此，实现一个合理、有效的编队控制方法将具有重要的理论及现实意义。

然而，目前的多机器人编队仍然存在许多问题。一方面，在动态环境中，系统会受到外界各种各样的干扰，这样使得系统不确定性问题增加。在面对突发紧急情况时，多机器人编队还存在着稳定性和抗干扰能力不足的问题。

因此，如何提高机器人编队在紧急情况下的稳定性及抗干扰能力是目前研究的热点。其中一种方法是进行人工干预，利用人善于应对紧急情况，对动态情况的反应能力强的特点，并结合机器人系统存储信息能力强，能够适应较为恶劣的环境的特点。实现人机协同，提升多机器人系统的稳定性、灵活性、抗干扰能力。目前，人工干预的方式有许多种，通过肢体直接控制的有操纵杆控制、通过键盘按键控制、手柄控制等，不通过肢体直接控制的有语音控制、肌电信号控制以及脑电信号控制等等。另一方面，人一机协同编队遂行侦查作战任务中，士兵的肢体常常被占用，比如用于控制战斗机、把持枪械等，又或者士兵在埋伏时机，通过肢体动作去控制机器人编队容易暴露目标。因此，选择一个恰当的控制方式显得尤为重要。

基于脑电信号的控制方式，是通过脑-机接口(BCI)将脑电信号提取出来，经过一系列的处理，得到能够控制机器人的命令的方式。其中，脑机接口可以在人脑和计算机或其他外界设备之间建立一种直接的信息交流和控制通道，是一种不依赖于常规大脑输出通路(外围神经和肌肉组织)的全新的信息交流系统。脑-机接口的基本原理是通过某种方式使大脑产生适合识别的脑电信号，并通过信号处理和模式识别的方法将产生的脑电信号“翻译”成命令，从而实现脑-机交互。通过利用脑电信号的控制方式，不仅能够使得肢体活动不便的人群能够控制机器人，也能够解放肢体健全人的双手。因此，能够合理的开发出脑控机器人的控制方式，是很有意义的。

发明内容

本发明的目的在于，提供了一种基于脑机接口的移动机器人编队控制系统及方法，可通过脑机接口实时控制机器人编队，具体的控制方式包括但不限于改变机器人编队的姿态、改变机器人编队当前任务、改变机器人编队的控制模式等。特别在紧急状态下，通过人工干预机器人编队可以提高机器人编队的抗干扰能力。

第一方面，本发明实施例提供一种基于脑机接口的移动机器人编队控制系统，包括：

控制平台、接口模型、模型预测控制器、基于深度强化学习的智能决策中心、编队队形控制模块和移动机器人编队模块；

所述控制平台用于获取脑控驾驶员的脑电波信号，并处理变成用于控制移动机器人的指令；

所述接口模型将所述指令进行量化，输出能够直接控制移动机器人的命令；

所述模型预测控制器获取所述命令，基于闭环优化控制，用于辅助跟踪脑控驾驶员的意图，并防止机器人与障碍物碰撞；

所述基于深度强化学习的智能决策中心，获取所述接口模型输出的命令、环境信息以及移动机器人编队状态，进行自主学习；

所述编队队形控制模块，由编队队形控制算法构成，获取所述模型预测控制器输出的控制指令；

所述移动机器人编队模块，由若干移动机器人组成，获取所述控制指令，实现相应的动作。

在一个实施例中，所述控制平台，包括脑机接口模块、人机交互系统和显示器：

其中，所述脑机接口模块，包括脑电信号采集系统和脑电信号处理系统；

所述脑电信号采集系统，包括佩戴于所述脑控驾驶员大脑皮层的脑电采集装置和基于稳态视觉诱发电位的脑-机接口系统；

所述脑电信号处理系统，用于接收脑电信号并对其进行处理，提取有效信息，生成所脑机接口模块的输出。

在一个实施例中，所述实现相应的动作，包括：

改变机器人编队的姿态、改变机器人编队当前任务和改变机器人编队的控制模式。

第二方面，本发明实施例提供一种基于脑机接口的移动机器人编队控制方法，包括：

S100、脑控驾驶员进入带有控制平台的驾驶舱，佩戴脑电采集装置，进入决策阶段，准备执行预设任务；

S200、机器人编队将自身的位置、与相邻机器人直接的位置关系发送至控制平台的人机交互系统的显示器上，供所述脑控驾驶员决策；

S300、脑控驾驶员根据机器人反馈回来的状态、环境信息以及驾驶员自身观测到的信息，进行判断；获取脑控驾驶员通过注视屏幕上相应刺激所输出的脑电信号；

S400、脑-机接口系统采集所述脑电信号，进行处理，得出相应命令，改变移动机器人编队的控制模式，以便移动机器人实现相应的动作。

在一个实施例中，所述步骤S300中，获取脑控驾驶员通过注视屏幕上相应刺激所输出的脑电信号，包括：

获取脑控驾驶员左右眼睛的闭眼和睁眼动作所对应的脑电信号，以及获取基于稳态视觉诱发电位的脑电信号。

在一个实施例中，所述步骤S400中改变移动机器人编队的控制模式，包括：

实时控制模式，能够执行控制机器人编队的移动、编队队形的变换、改变队形控制模式的任务；

在一个实施例中，所述步骤S400中改变移动机器人编队的控制模式，还包括：

自主决策模式，能够执行战场监视和自动驾驶的任务。

本发明实施例提供的上述技术方案的有益效果至少包括：

本发明实施例提供的一种基于脑机接口的移动机器人编队控制系统，包括：控制平台、接口模型、模型预测控制器、基于深度强化学习的智能决策中心、编队队形控制模块和移动机器人编队模块。该系统将人类通过脑-机接口与机器人系统结合，在实现正常控制的同时，解放了健全人的双手，通过引入人类应对紧急状态的优势，大大提高了机器人控制系统的稳定性、抗干扰能力、灵活性等。本发明的主要应用场景包括但不限于军队作战场景，当需要调整机器人编队搜索路径，当多机器人编队发生系统紊乱、当面对需要立即处理的危险情况时，均可通过脑电信号控制多机器人编队，提高系统的动态特性。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：

图1为本发明实施例提供的基于脑机接口的移动机器人编队控制系统的结构图；

图2为本发明实施例提供的采集脑电信号的电极位置示意图；

图3为本发明实施例提供的基于脑机接口的移动机器人编队控制方法流程图；

图4为具体实施例的控制方法流程图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

下面结合附图，对本发明实施例提供的基于脑机接口的移动机器人编队控制系统和方法的具体实施方式进行详细的说明。

参照图1所示，本发明实施例提供的基于脑机接口的移动机器人编队控制系统，包括控制平台、接口模型、模型预测控制器、基于深度强化学习的智能决策中心、编队队形控制模块和移动机器人编队模块；

其中，控制平台是脑控驾驶员决策命令的场所，也是移动机器人编队通讯的节点。根据不同的作战任务，控制平台可以安装于军事基地的指挥室、各种交通工具的驾驶舱内。控制平台的功能是实现移动机器人编队的初始化配置以及软硬件设置的搭建，以方便脑控驾驶员对移动机器人编队进行控制。控制平台包括必要的脑机接口模块、人机交互系统、显示器、通讯模块等软硬件设备。

上述脑控驾驶员，为在大脑上佩戴脑电信号采集装置的人员，是能够对机器人编队进行控制的人员。该人员能够根据战场局势变化，对机器人编队做出特定的调整，以保证机器人编队的稳定性和抗干扰能力。

上述脑机接口模块，是人和移动机器人之间进行交流的途径，它的功能是将人的脑电信号进行信号处理变成用于控制移动机器人的命令，主要包括脑电信号采集系统和脑电信号处理系统。

该脑电信号采集系统，包括佩戴于脑控驾驶员大脑皮层的脑电采集装置和基于稳态视觉诱发电位(SSVEP)的脑-机接口系统。脑-机接口系统需要通过一定的外界视觉刺激来产生脑电信号，由控制平台中的显示器提供刺激，比如在显示器的屏幕中有四个长方形棋盘格的闪烁刺激，各闪烁刺激按照程序设定的时间变化，分别为12Hz、13Hz、14Hz、15Hz。在执行任务时，脑控驾驶员可以通过注视不同频率的刺激，大脑中就会产生一个与之频率相同的脑电信息。这样，当人根据外界的环境信息和移动机器人当前的状态做出特定的决策时，就可以通过注视不同的刺激来实现相应的控制命令。例如当控制移动机器人左转时注视左边的刺激，控制移动机器人右转时注视右边的刺激，同时保持当前移动机器人的状态则不注视任何刺激。

上述脑电信号采集系统比如可为市面上销售的一款脑电放大器。该仪器外形大小为210×170×40mm，使用USB接口对设备供电，支持热插拔技术，具备阻抗检测功能，设备的分辨率是0.5微伏，采样率是1000Hz，时间常数可选择0.03s、0.1s、0.3s，高频滤波可选择15Hz、30Hz、45Hz、60Hz和120Hz，该设备可以满足本发明实施例所需要的功能。电极的使用位置是10-20国际标准导联，包含十个通道(Fz,Cz,Pz,Oz,P3,P4,P7,P8,O1,O2)和作为参考电极的左右耳部A11、A12。将得到的十二个通道的脑电数据，进行数据处理和分类，如图2所示，其中，黑点表示十二个通道。

上述脑电信号处理模块，用于接收脑电信号并对其进行处理，提取有用信息，主要包括预处理，特征提取，特征分类，最终生成脑机接口模块的输出。

图1中的接口模型，由于通过脑机接口技术系统(Brain Computer Interface，BCI)输出的是脑控驾驶员的控制指令，而控制指令是一个定性的命令，因此需要通过接口模型对脑控驾驶员的控制命令进行量化。

该模型预测控制器，是基于模型的闭环优化控制，主要用于辅助跟踪脑控驾驶员的意图，并保持移动机器人运行过程中的稳定，防止机器人与障碍物碰撞。

该编队队形控制模块，是由编队队形控制算法构成，获取模型预测控制器输出的控制指令。比如以领航-跟随者算法做解释。领航-跟随者算法的基本思想是在多机器人组成的群体中，某个机器人被指定为领航者，其余作为它的跟随者，跟随者以一定的距离间隔跟踪领航机器人的位置和方向。对该方法进行拓展，可以指定一个领航者，也可以指定多个，但群体队形的领航者只有一个。

该基于深度强化学习的智能决策中心，其主要功能是提高机器人的自主学习能力，缓解脑控驾驶员需要实时控制机器人编队所带来的压力和负担。

上述移动机器人编队由若干移动机器人组成，在战场中，能够起到搜索敌方目标区域，进行战场侦查监视，乃至打击敌人的作用。

综上，根据图1所示的系统，在控制信息流向方面：脑控驾驶员根据机器人反馈回来的状态信息、环境信息再结合控制平台可观测到的其他环境系统，对机器人编队做出决策，产生脑电信号。产生的脑电信号流入脑机接口模块中进行处理，分类，生成对控制有用的信息。从脑机接口模块流出的信息进入接口模型中处理，生成能够直接控制的信息(包括直接控制机器人的信息或者控制基于深度强化学习的智能决策中心的信息)。当控制信息流入模型预测控制器，若机器人的安全性不存在问题，则对该控制信息进行跟踪，否则进行安全性处理(例如避障、改变队形等操作)。

从模型预测控制器流出的控制信息进入编队控制算法(编队队形控制模块)，如需改变队形，则改变领航者和跟随者之间的参数值。如若不需要改变队形，则维持上一阶段的参数值。最终的控制输出将直接作用于机器人(移动机器人编队模块)上，以直接控制机器人的运动。在下一时刻，机器人通过传感系统将环境信息和自身状态反馈给脑控驾驶员、模型预测控制器、基于深度强化学习的智能决策中心，以方便脑控驾驶员下一阶段的操作。

本发明实施例提供的基于脑机接口的移动机器人编队控制系统，将人类通过脑-机接口与机器人系统结合，在实现正常控制的同时，解放了健全人的双手，通过引入人类应对紧急状态的优势，大大提高了机器人控制系统的稳定性、抗干扰能力、灵活性等。本发明的主要应用场景包括但不限于军队作战场景，当需要调整机器人编队搜索路径，当多机器人编队发生系统紊乱、当面对需要立即处理的危险情况时，均可通过脑电信号控制多机器人编队，提高系统的动态特性。

此外，本发明还提供一种基于脑机接口的移动机器人编队控制方法，如图3所示，包括：

本实施例中，以士兵驾驶汽车或飞机为例，但本发明不限于此，如图4所示，为控制方法实现流程图，包括：

步骤1，脑控驾驶员进入带有控制平台的驾驶舱，正确佩戴好脑电信号采集装置，进入决策阶段，准备执行战场的特定任务，如对敌方区域进行侦查、监视或者打击。

步骤2，机器人编队将自身的位置、与相邻机器人直接的位置关系都发送至控制平台的人机交互系统的显示器上，在通讯带通允许的情况下，能够传回现场图片，以方便脑控驾驶员决策。

步骤3，脑控驾驶员根据战场信息(机器人反馈回来的状态和环境信息以及驾驶员自身可观测到的信息)进行最优判断，通过注视屏幕上的相应刺激即可输出相应的脑电信号。

步骤4，脑-机接口系统采集决策者脑电信号，进行处理，得出相应命令，可以改变移动机器人编队的控制模式。

步骤5，脑控驾驶员在选择好控制模式后，即可进行进一步的控制，如选择实时控制的机器人编队实时运动控制，则可以通过脑电信号实时控制机器人的运动。

其中，步骤3中，通过注视屏幕上的相应刺激即可输出相应的脑电信号，是通过获取脑控驾驶员左右眼睛的闭眼和睁眼动作产生对应的脑电信号，以及获取基于稳态视觉诱发电位(SSVEP)的脑电信号。

进一步的，步骤4，包括步骤41实时控制模式和步骤42自主决策控制模式。在实时控制模式中，能够执行控制机器人编队的移动、编队队形的变换、改变队形控制模式等任务。在自主决策模式中，能够执行战场监视和自动驾驶等任务。

若脑控驾驶员选择步骤41实时控制模式，则进入实时控制选择界面，脑控驾驶员需要选择实时控制的模式，具体包括进行机器人编队队形控制、进行机器人编队实时运动控制等操作。若脑控驾驶员选择步骤42自主决策控制模式，则进入自主决策控制模式选择界面，脑控驾驶员需要选择自主控制的模式，具体包括让机器人编队自动行使至目的地、让机器人编队自动进行战场监视等任务功能。在自主决策控制过程中，基于深度强化学习的控制中心起了重要的作用。其根据机器人所观测到的环境信息，对机器人的行为做出最优控制。在战场监视时，受限于通讯带宽的影响，移动机器人编队能够智能筛选对战场有利的信息，将其以图片的形式传给驾驶舱内的士兵人员，以提高其对战场局势的判断，在自动驾驶时，机器人编队能够自动调整行进路径，和编队队形，以达到最优的战场监视作用。

此外，在具体控制任务中，脑控操作者只需要重复步骤3至步骤5操作即可。若脑控操作者在选择模式功能后想返回上一级选择界面，比如可以通过睁眼1s，闭眼1s，重复上述过程5次的方法等方法来使系统终止当前运动模式，并重新返回上一级选择界面。

本发明实施例提供的基于脑机接口的移动机器人编队控制方法，人可通过脑机接口实时控制机器人编队，具体的控制方式包括但不限于改变机器人编队的姿态、改变机器人编队当前任务、改变机器人编队的控制模式等。特别在紧急状态下，通过人工干预机器人编队可以提高机器人编队的抗干扰能力。一方面，本发明旨在提高机器人编队控制的安全性、稳定性、灵活性；另一方面，本发明旨在发展一种新型的人机协同方式，拓展人的控制能力。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims

1.一种基于脑机接口的移动机器人编队控制系统，其特征在于，包括：

所述控制平台用于获取脑控驾驶员的脑电波信号，并处理变成用于控制移动机器人的指令；所述控制平台与接口模型连接；

所述模型预测控制器获取所述接口模型输出的命令、移动机器人编队状态、以及获取基于深度强化学习的智能决策中心输出的信息，基于闭环优化控制，用于辅助跟踪脑控驾驶员的意图，并防止机器人与障碍物碰撞；

2.如权利要求1所述的一种基于脑机接口的移动机器人编队控制系统，其特征在于，所述控制平台，包括脑机接口模块、人机交互系统和显示器：

3.如权利要求1所述的一种基于脑机接口的移动机器人编队控制系统，其特征在于，所述实现相应的动作，包括：

4.一种基于脑机接口的移动机器人编队控制方法，其特征在于，包括：

5.如权利要求4所述的方法，其特征在于，所述步骤S300中，获取脑控驾驶员通过注视屏幕上相应刺激所输出的脑电信号，包括：

6.如权利要求4所述的方法，其特征在于，所述步骤S400中改变移动机器人编队的控制模式，包括：

实时控制模式，能够执行控制机器人编队的移动、编队队形的变换、改变队形控制模式的任务。

7.如权利要求6所述的方法，其特征在于，所述步骤S400中改变移动机器人编队的控制模式，还包括：

自主决策模式，能够执行战场监视和自动驾驶的任务。