CN109889455A - 一种实时消息处理装置 - Google Patents

Abstract

本发明提供了一种实时消息处理装置，所述实时消息处理装置基于消息总线进行实时消息处理，所述装置包括：实时消息生产者，用于产生实时消息并将实时消息发送至消息分发器；实时消息消费者，用于从消息队列获取实时消息；消息分发器，用于接收实时消息，并将所述实时消息路由至相应的消息队列中以供实时消息消费者使用；消息队列，用于存储实时消息。本发明通过优化消息分发机制和提供消息确认机制，弥补了现有技术中消息总线无法基于优先级进行灵活的消息分发的弊端，确保了消息处理的实时性和可靠性。

Description

一种实时消息处理装置

技术领域

本发明涉及通信领域，尤其涉及一种实时消息处理装置。

背景技术

智能网联汽车的研发是当前业界的关注重点。智能网联汽车的出现使得车载电子系统日益复杂，具备信息娱乐、高级驾驶辅助(ADAS)、自动驾驶等功能的汽车中装备了越来越多的电子设备，如摄像头、激光雷达等。这些设备产生的大量数据需要及时地传输到车内的目的设备，对总线带宽提出了很高的要求。同时，随着汽车功能的增强，车内系统复杂性也越来越高，汽车专门功能区如车架、车身等需要共享车辆数据，这些也加重了带宽需求。而现有技术中普遍使用的控制器局域网络(Controller Area Network,CAN)总线由于传输速度慢、传输距离短、单总线连接的设备数量等原因，无法满足智能网联汽车的需要。

在控制器局域网络无法满足车辆数据通信要求的背景下，其它现有技术的实时性也无法满足车辆数据实时通信要求，其原因主要在于：

(1)一些与驾驶安全相关的传感器信息必须尽快地被相应的电子控制单元(ECU:Electronic Control Unit)接收并处理，而有的传感器信息并不是非常紧急的，比如信息娱乐的相关数据。

(2)不同的消息对实时性的要求不同，这些消息在发送时应该具有不同的优先级。比如，防抱死制动系统(ABS:Anti-lock Braking System)控制指令、发动机控制指令、自动变速器控制指令在总线上的发送优先级依次为：ABS控制指令优先级最高，自动变速器控制指令优先级最低。

(3)其实时性要求不仅包括对消息发送的要求还包括对消息发布的要求。比如，摄像头的视频信息必须及时发送给计算机视觉系统，还必须及时呈现在监控屏幕上，在某些应用场合，前车的摄像头视频还需要共享给后车。现有的消息总线虽然实现了队列的优先级,但是这些协议都是针对普通的计算机应用环境所应用的，队列的优先级只能保证优先级高的信息先于优先级低的信息发送，无法从根本上解决消息的实时发布，即无法保证接收端在特定时间内接收到消息。

发明内容

为了解决上述技术问题，本发明提供一种实时消息处理装置，旨在提供一种新的实时通信方案，从而可以保证数据传输的实时性。

本发明是以如下技术方案实现的：

一种实时消息处理装置，所述实时消息处理装置基于消息总线进行实时消息处理，所述装置包括：

实时消息生产者，用于产生实时消息并将实时消息发送至消息分发器；

实时消息消费者，用于从消息队列获取实时消息；

消息分发器，用于接收实时消息，并将所述实时消息路由至相应的消息队列中以供实时消息消费者使用；

消息队列，用于存储实时消息。

进一步地，所述实时消息生产者和所述实时消息消费者位于相同设备或相同模块。

进一步地，消息分发器根据消息中携带的标识属性，将消息进一步路由至相应的消息队列中，以便在多核和多个发送线程之间实现负载均衡。

进一步地，消息分发器根据各线程的负载统计和实时性监测结果，把消息分发到恰当的消息队列，和/或，消息分发器实时监控每一个实时消息处理装置的负载情况进行决策，选择接收实时消息的实时消息处理装置。

进一步地，还包括消息确认模块，用于确认消息是否已经被发送至实时消息消费者；当实时消息消费者成功接收消息后，发送确认信息给消息确认模块，之后该消息才从消息队列中删除。

进一步地，所述消息分发器包括：

轮询管理模块，用于根据实际需求控制轮询分发线程，所述轮询分发线程用于采用轮询分发机制进行消息分发；

定时器驱动管理模块，用于根据实际需求控制驱动分发线程，所述驱动分发线程采用定时器驱动的分发机制进行消息分发。

进一步地，消息分发器支持多线程并发处理消息，针对不同消息对实时性要求的不同、消息生产者发送消息的频率属性不同，采用不同的消息发送机制；在微秒级实时性要求中，采用轮询分发机制；在毫秒级实时性要求中，采用定时器驱动的分发机制。

进一步地，所述轮询管理模块，包括：

排序单元，用于将全部消息队列的优先级进行降序排列；

访问控制单元，用于按照排序结果访问消息队列，访问过程为：判断当前消息队列是否为空；若为空，则判断是否达到最后一个消息队列，若是，则返回将全部消息队列的优先级进行降序排列后再重新访问；若否，则访问下一个消息队列；若不为空，则发送所述当前消息队列中的数据，并更新当前消息队列的优先级。

进一步地，所述定时器驱动管理模块中不同的消息队列共享或分别设立定时器，定时器超时则触发计数器的计数，根据计数器的计数即可触发消息队列中的消息的发送。

进一步地，定时器时间间隔选取各消息发送周期的最大公约数。

本发明的有益效果是：

本发明提供了一种实时消息处理装置，通过优化消息分发机制和提供消息确认机制，弥补了现有技术中消息总线无法基于优先级进行灵活的消息分发的弊端，确保了消息处理的实时性和可靠性。

附图说明

图1是本发明实施例提供的一种实时消息处理装置框图；

图2是本发明实施例提供的消息分发器框图；

图3是本发明实施例提供的轮询分发机制流程图；

图4是本发明实施例提供的轮询管理模块框图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述。

为了在汽车消息交互领域，突破CAN产生的数据流量交互瓶颈，本发明实施例提供一种实时消息处理装置，通过在数据交互策略上进行优化，保证消息处理的实时性。具体地，本发明实施例中所述的实时是指通信时延能够被控制在毫秒级或者微秒级的通信，具体可以为在车联网环境中，满足车辆各个部件通信实时性要求的通信。需要指出的是：本发明不仅仅适用于车载以太网环境中，其他需要实时信息分发的应用系统，如嵌入式系统、机器人控制和工业互联网等应用均可以采用本发明所提出的方案。

一种实时消息处理装置，所述实时消息处理装置基于消息总线进行实时消息处理，如图1所示，包括：

实时消息生产者10，用于产生实时消息并将实时消息发送至消息分发器。

实时消息生产者可以被理解为是生成实时消息的源，负责发布消息到消息分发器。生成的消息应当包括相应的消息属性，如所属的消息标识和/或优先级等等。

实时消息消费者20，用于从消息队列40获取实时消息。

消息队列里的消息可以被一个消费者使用，也可以被多个消费者使用。实时消息消费者获取数据的方式可以是推送的方式，也可以是拉取的方式，对于实时消息消费者处理能力充足的情况，采用推送有利于提高消息发布的实时性。实时消息消费者可以通过某种映射关系，如消息标识，与相应的消息队列建立联系。

所述实时消息生产者和所述实时消息消费者可以位于相同设备或相同模块。以汽车应用场景为例，所述实时消息生产者和所述实时消息消费者可以为所述车辆中相同或不同的传感器、控制器或执行器。

消息分发器30，用于接收实时消息，并将所述实时消息路由至相应的消息队列中以供实时消息消费者使用。

消息分发器可以根据消息中携带的标识属性，将消息进一步路由至相应的消息队列中，以便在多核和多个发送线程之间实现负载均衡。

单一的消息分发器可以实现在同一台终端设备上不同的进程和内核之间的负载均衡。因为消息发送线程可能有多个，被发送的消息可以是接收到的原始消息，也可以是对原始消息经过加工后的非原始消息。当存在多个线程对消息进行处理和发送时，发送线程与消息队列之间可以是一对一或一对多的关系，消息分发器根据各线程的负载统计和实时性监测结果，把消息分发到恰当的消息队列。比如：把当前接收的消息分配给最短的消息队列。

进一步地，为了提升消息处理的实时性，所述一种实时消息处理装置可以支持级联，通过多个实时消息处理装置的级联构成实时消息处理系统。在所述实时消息处理系统中，消息分发器还可能需要实现不同实时消息处理装置的负载均衡，比如实时监控每一个实时消息处理装置的负载情况进行决策，选择接收实时消息的实时消息处理装置。

消息队列40，用于存储实时消息。

消息队列用来保存消息，直到该消息被消费。为了提高实时性，消息队列在具体实现上可以是内存中的一段空间。为了进一步提高实时性，消息分发器用来暂存数据的缓冲区可以与消息队列的存储区共享，这样可以避免一次数据在内存的拷贝。

在一个优选的实施方式中，所述消息处理装置还包括消息确认模块，用于确认消息是否已经被发送至实时消息消费者。当实时消息消费者遭受网络传输故障或应用程序失败时，可以通过确认机制来知晓某个消息是否被成功接收，对于有确认需求的应用，当实时消息消费者成功接收消息后，发送确认信息给消息确认模块，之后该消息才能够从消息队列中删除。现有技术中不能保证接收端在特定的时间内接收到消息，而本发明实施例中消息确认机制可以避免消息的丢失。对于基于用户数据报协议(UDP:User DatagramProtocol)的视频或语音类应用，过时的数据是没有意义的，往往不需要确认机制。

具体地，为了提升消息分发的实时性，减少消息分发时延，所述消息分发器可以支持多线程并发处理消息，针对不同消息对实时性要求的不同、消息生产者发送消息的频率属性(周期性发送或者不定时发送)不同，消息分发器可以采用不同的消息发送机制。

在一个优选的实施例中，本发明实施例中消息分发器的分发线程支持多种消息分发机制，并且能够根据实时性要求触发不同的消息分发机制。在微秒级实时性要求中，采用轮询分发机制；在毫秒级实时性要求中，采用定时器驱动的分发机制。

具体地，所述消息分发器203如图2所示，包括：

轮询管理模块2031，用于根据实际需求控制轮询分发线程，所述轮询分发线程用于采用轮询分发机制进行消息分发；

定时器驱动管理模块2032，用于根据实际需求控制驱动分发线程，所述驱动分发线程采用定时器驱动的分发机制进行消息分发。

轮询机制可以获得很好的实时性，代价是负责收发消息的中央处理器占用率会很高；定时器机制在保证实时性的同时可以降低中央处理器负载，但是其时延依然高于轮询机制。考虑到影响实际系统消息发送延迟的因素有很多，需要选择哪种发送机制视具体情况而定。

不同实时消息生产者产生的消息对实时性的要求不同，根据实际需求，实时消息生产者所发布的消息都被赋予一定的优先级，相应的，用于存储消息的消息队列也具备相应的优先级，优先级高的队列中的消息被优先发送。对于非实时的消息，可以认为其优先级最低。进一步地，在汽车中控制指令往往具有更低的时延要求，而视频和音频消息的时延要求次之，普通的互联网应用数据对时延要求相对宽松。

具体地，所述轮询分发机制为分发线程不断查询需要发送消息的队列中是否有消息需要发送，如图3所示，其示出了轮询管理模块2031的工作方法，包括：

S1.将全部消息队列的优先级进行降序排列。

S2.按照排序结果访问消息队列，访问过程为：判断当前消息队列是否为空；若为空，则判断是否达到最后一个消息队列，若是，则返回步骤S1；若否，则访问下一个消息队列；若不为空，则发送所述当前消息队列中的数据，并更新当前消息队列的优先级。

相应的，所述轮询管理模块2031如图4所示，包括：

排序单元20311，用于将全部消息队列的优先级进行降序排列；

访问控制单元20312，用于按照排序结果访问消息队列，访问过程为：判断当前消息队列是否为空；若为空，则判断是否达到最后一个消息队列，若是，则返回将全部消息队列的优先级进行降序排列后再重新访问；若否，则访问下一个消息队列；若不为空，则发送所述当前消息队列中的数据，并更新当前消息队列的优先级。

进一步地，若当前消息队列在本次轮询发送数据后仍然存在数据以待下一次轮询发送，则当前消息队列的优先级可以不变，所述“更新当前消息队列的优先级”过程中当前消息队列的优先级可以仍然保持不变，优先级保持不变可以保证队列中的数据在下一次轮询过程中被优先发送。

具体地，每个消息队列的优先级可以不是一成不变，而是根据实际需求进行变动，因此，在每一次轮询过后，需要获取排序结果。现有技术中只能按照一定的优先级对消息进行排队，但不能保证接收端在特定的时间内接收到消息，本发明实施例可以根据实际情况动态变更消息队列的优先级，更加灵活。

具体地，所述定时器驱动的分发机制中不同的消息队列可以共享或分别设立定时器，定时器超时则触发计数器的计数，根据计数器的计数即可触发消息队列中的消息的发送。

在一个可行的实施方式中，定时器时间间隔可以选取各消息发送周期的最大公约数。假设有三种周期性消息需要发送，周期性消息1，消息2，消息3的发送间隔分别是2，4，8毫秒，其所在的消息队列分别为消息队列1、消息队列2、消息队列3。可以选取最大公约数2毫秒作为定时器间隔，并为每个消息队列维护一个计数器。每次定时器超时，各计数器增加1，当计数器等于1的整数倍时，消息队列1发送消息，当计数器等于2的整数倍时，消息队列2发送消息；当计数器等于3的整数倍时，消息队列3发送消息。优选的，在消息队列3发送消息后，计数器还可以清空。

此外，影响消息发布的端到端延迟的因素包括消息接收和消息发送两个环节，为了提高消息服务器接收的实时性和效率，消息分发器的接收线程对接收数据的访问可以以轮询和非阻塞访问机制，以便及时转发由消息生产者发来的消息数据。同样地，需要与消息接收线程共享CPU的背景进程越少越好。

本发明实施例提供了一种实时消息处理装置，通过优化消息分发机制和提供消息确认机制，弥补了现有技术中消息总线无法基于优先级进行灵活的消息分发的弊端，确保了消息处理的实时性和可靠性。

首先，本发明通过对具有不同时延要求的消息维护不同优先级的消息队列，当优先级高的队列中存在消息数据时，不会传输优先级低的消息队列，从而实现了灵活的消息分发。

其次，本发明可以根据消息所要求的不同时延，提供轮询机制和不同时间颗粒度的定时器驱动的收发机制，从而可以保证具有不同时延要求的消息都可以在期望的时延内被接收。

再次，明确区分一个消息是实时性优先还是可靠性优先，对于实时性优先的消息采用UDP的传输方式，如视频和语音信息的传输，因为这类信息一旦过时，则不再具有意义。对于可靠性优先的消息，则采用传输控制协议(TCP:Transmission Control Protocol)的传输方式，以保证其传输的可靠性。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如本发明的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在本发明的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者系统程序(如计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，也可以在载体信号上提供，或者以任何其他形式提供。

应该注意的是，上述实施例是对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或者步骤等。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干系统的单元权利要求中，这些系统中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二以及第三等的使用不表示任何顺序，可将这些单词解释为名称。

Claims (10)

1.一种实时消息处理装置，所述实时消息处理装置基于消息总线进行实时消息处理，其特征在于，所述装置包括：

实时消息生产者，用于产生实时消息并将实时消息发送至消息分发器；

实时消息消费者，用于从消息队列获取实时消息；

消息分发器，用于接收实时消息，并将所述实时消息路由至相应的消息队列中以供实时消息消费者使用；

消息队列，用于存储实时消息。

2.根据权利要求1所述的装置，其特征在于：

所述实时消息生产者和所述实时消息消费者位于相同设备或相同模块。

3.根据权利要求1所述的装置，其特征在于：

消息分发器根据消息中携带的标识属性，将消息进一步路由至相应的消息队列中，以便在多核和多个发送线程之间实现负载均衡。

4.根据权利要求1所述的装置，其特征在于：

消息分发器根据各线程的负载统计和实时性监测结果，把消息分发到恰当的消息队列，和/或，消息分发器实时监控每一个实时消息处理装置的负载情况进行决策，选择接收实时消息的实时消息处理装置。

5.根据权利要求1所述的装置，其特征在于：

还包括消息确认模块，用于确认消息是否已经被发送至实时消息消费者；当实时消息消费者成功接收消息后，发送确认信息给消息确认模块，之后该消息才从消息队列中删除。

6.根据权利要求1所述的装置，其特征在于：

所述消息分发器包括：

轮询管理模块，用于根据实际需求控制轮询分发线程，所述轮询分发线程用于采用轮询分发机制进行消息分发；

定时器驱动管理模块，用于根据实际需求控制驱动分发线程，所述驱动分发线程采用定时器驱动的分发机制进行消息分发。

7.根据权利要求6所述的装置，其特征在于：

消息分发器支持多线程并发处理消息，针对不同消息对实时性要求的不同、消息生产者发送消息的频率属性不同，采用不同的消息发送机制；

在微秒级实时性要求中，采用轮询分发机制；在毫秒级实时性要求中，采用定时器驱动的分发机制。

8.根据权利要求6所述的装置，其特征在于，所述轮询管理模块，包括：

排序单元，用于将全部消息队列的优先级进行降序排列；

访问控制单元，用于按照排序结果访问消息队列，访问过程为：判断当前消息队列是否为空；若为空，则判断是否达到最后一个消息队列，若是，则返回将全部消息队列的优先级进行降序排列后再重新访问；若否，则访问下一个消息队列；若不为空，则发送所述当前消息队列中的数据，并更新当前消息队列的优先级。

9.根据权利要求6所述的装置，其特征在于，所述定时器驱动管理模块中不同的消息队列共享或分别设立定时器，定时器超时则触发计数器的计数，根据计数器的计数即可触发消息队列中的消息的发送。

10.根据权利要求9所述的装置，其特征在于，定时器时间间隔选取各消息发送周期的最大公约数。