CN113382210A

CN113382210A - 多路监控视频数据的处理方法、流媒体服务器及电子设备

Info

Publication number: CN113382210A
Application number: CN202110922046.9A
Authority: CN
Inventors: 张耀华; 胡自成
Original assignee: Shenzhen Yuwei Information & Technology Development Co ltd
Current assignee: Shenzhen Yuwei Information & Technology Development Co ltd
Priority date: 2021-08-12
Filing date: 2021-08-12
Publication date: 2021-09-10
Anticipated expiration: 2041-08-12
Also published as: CN113382210B

Abstract

本申请涉及商用车领域，具体涉及一种多路监控视频数据的处理方法，用于商用车车载监控的流媒体服务器，包括：发送监控视频请求命令至监控设备；接收所述监控设备发送的监控视频数据，所述监控视频数据包括帧序列以及原始时间戳；从接收到所述帧序列中第一帧的时刻起，基于所述流媒体服务器的本地时刻以及所述原始时间戳设置同步时间戳。

Description

多路监控视频数据的处理方法、流媒体服务器及电子设备

技术领域

本申请涉及商用车领域，具体涉及一种多路监控视频数据的处理方法。

背景技术

目前，在商用车的视频监控场景中，监控设备通常通过多个摄像头捕捉多路监控视频。由于不同厂家设备的多路视频发送机制不同，当监控平台请求查看多路监控视频时，有的监控设备同时播放的多路视频会出现各路视频画面不同步的问题，给监控人员带来不好的体验。

出现此问题的主要原因在于，一些监控设备发送多路监控视频数据时会为每一路监控视频分别建立网络传输连接，当网络质量欠佳时，例如在车载监控场景下数据通过无线网络传输，由于多路网络传输连接共享网络带宽，各路视频监控传输的速率可能出现较大波动从而导致每路监控视频数据传输到达监控平台的时间出现较大差异，从而导致出现各路视频画面不同步的问题。

现有的多路视频同步做的比较好的监控平台，主要是依赖监控设备事先做好多路监控视频的同步，从而使得其发送的视频数据是同步的。但是不同厂家生产的监控设备的多路视频发送机制不同，如果监控设备发送的视频数据本身就不同步则监控平台也无法做到同步，会出现各路监控视频画面不同步的问题，给监控人员带来不好的体验，也影响监控员观察车内情况。

发明内容

基于此，本申请提供了一种多路监控视频数据的处理方法、流媒体服务器及电子设备。用于未进行多路监控视频同步的监控设备，通过部署流媒体服务器以及在流媒体服务器上配置处理功能，使监控设备发送的多路视频最终实现了同步播放的效果。并且详细考虑了过程中可能存在的其他情况，在一些场景下对于某些路的视频放弃同步，从而使整体的播放效果得到了优化。

根据本申请的一方面，提出一种多路监控视频数据的处理方法，用于商用车车载监控的流媒体服务器，包括：

发送监控视频请求命令至监控设备；

接收所述监控设备发送的监控视频数据，所述监控视频数据包括帧序列以及原始时间戳；

基于所述流媒体服务器的本地时刻以及所述原始时间戳设置同步时间戳。

根据一些实施例，前述方法还包括：记录缓存时间戳；当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制。

根据一些实施例，前述方法还包括：发送所述监控视频请求命令的时刻，记录所述流媒体服务器的本地时刻；接收完毕所述帧序列中某一帧时，为所述帧序列中某一帧设置所述同步时间戳，存在如下关系：

；

其中

为所述帧序列中某一帧的所述同步时间戳，

为记录的所述流媒体服务器的本地时刻，

为所述帧序列中某一帧的所述原始时间戳，

为所述帧序列中第一帧的所述原始时间戳。

根据一些实施例，前述方法还包括：将所述帧序列中最近发送播放的一帧的所述同步时间戳记录为所述缓存时间戳；接收完毕所述帧序列中第一帧时，将所述帧序列中第一帧的所述同步时间戳记录为所述缓存时间戳。

根据一些实施例，前述方法还包括：对于参与同步播放控制的所述多路监控视频数据中的每一路：S1：获取现存最小的所述同步时间戳，与其他路所述监控视频数据的所述缓存时间戳分别做比较；S2：若所述现存的最小的所述同步时间戳大于全部其他路所述监控视频数据的所述缓存时间戳，并且所述现存最小的所述同步时间戳与其他路所述监控视频数据中任一路的所述缓存时间戳的差值大于预设的发送判断时长，则等待与所述差值中最大值相等的延迟判断时长后跳转至S1。

根据一些实施例，前述方法还包括：对于参与同步播放控制的所述多路监控视频数据中的每一路：S1：获取现存最小的所述同步时间戳，与其他路所述监控视频数据的所述缓存时间戳分别做比较；S2：若所述现存的最小的所述同步时间戳大于全部其他路所述监控视频数据的所述缓存时间戳，并且所述现存最小的所述同步时间戳与其他路所述监控视频数据中任一路的所述缓存时间戳的差值大于预设的发送判断时长，则生成计时器，当所述计时器的时间到达预设的放弃同步时长时，退出同步播放控制，并按顺序依次传送所述帧序列中的每一帧至前端。

根据一些实施例，前述方法还包括：对于参与同步播放控制的所述多路监控视频数据中的每一路：S1：获取现存最小的所述同步时间戳，与其他路所述监控视频数据的所述缓存时间戳分别做比较；S2：若所述现存最小的所述同步时间戳大于全部其他路所述监控视频数据的所述缓存时间戳，并且所述现存最小的所述同步时间戳与所述其他路所述监控视频数据的所述缓存时间戳的差值均不大于预设的发送判断时长，则发送与所述现存最小的所述同步时间戳对应的帧至前端；S3：判断若存在计时器，则清除所述计时器并跳至S1；S4：判断若不存在所述计时器，则跳至S1。

根据一些实施例，前述方法还包括：对于参与同步播放控制的所述多路监控视频数据中的每一路：S1：获取现存最小的所述同步时间戳，与其他路所述监控视频数据的所述缓存时间戳分别做比较；S2：若所述现存最小的所述同步时间戳不大于其他路所述监控视频数据中某一路的所述缓存时间戳，则发送与所述现存最小的所述同步时间戳对应的帧至前端，跳至S1。

根据一些实施例，前述方法还包括：S1：获取现存最小的所述同步时间戳，与本路所述监控视频数据的所述缓存时间戳做比较；S2：若所述现存最小的所述同步时间戳与本路所述监控视频数据的所述缓存时间戳的差值大于预设的异常跳帧间隔时间，则退出同步播放控制，并按顺序依次传送所述帧序列中的每一帧至前端。

根据本申请的一方面，提出一种用于多路监控视频数据的处理方法的流媒体服务器，包括：发送模块，发送监控视频请求命令至监控设备；接收模块，接收所述监控设备发送的监控视频数据，所述监控视频数据包括帧序列以及原始时间戳；同步时间戳模块，从所述流媒体服务器接收到所述帧序列中第一帧的时刻起，基于所述流媒体服务器的本地时刻以及所述原始时间戳设置同步时间戳；缓存时间戳模块，记录缓存时间戳；同步播放控制模块，当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制。

根据本申请的一方面，提出一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序；当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如前述中任一所述的方法。

本申请的有益效果：

根据一些实施例，本申请提供的方案解决了多路监控视频不同步的问题，减少了与各厂家设备的沟通成本，做到统一兼容。

根据一些实施例，本申请对不同路的监控视频数据在流媒体服务器上进行了时间戳统一化处理，使得具有不同时间戳的多路监控视频在流媒体服务器上统一了时间戳标准。

根据一些实施例，本申请基于在流媒体服务器上统一化处理后的多路监控视频数据的时间戳，对原本不具有多路视频同步功能的监控设备发送的多路监控视频进行了同步播放控制。

根据一些实施例，本申请还在难以进行同步的场景下，对满足一定条件的某路视频进行放弃同步播放控制，在网络条件受限的情况下平衡了监控观看体验和视频同步需求。

根据一些实施例，本申请可以探测到监控设备侧偶发的硬件跳帧异常，并通过相应处理避免了该异常影响对整体监控视频播放的影响。

附图说明

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图，而并不超出本申请要求保护的范围。

图1示出根据本申请实施例的多路监控视频数据的处理方法的示意图。

图2示出根据本申请实施例的多路监控视频数据的处理方法的流程图。

图3示出另一根据本申请实施例的多路监控视频数据的处理方法的流程图。

图4示出根据本申请实施例的用于多路监控视频数据的处理方法的流媒体服务器的框图。

图5示出根据本申请实施例的用于多路监控视频数据的处理方法的时序图。

图6a至图6e示出根据本申请实施例的用于多路监控视频数据的处理方法的流程示意图。

图7示出根据一示例性实施例的一种电子设备的框图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本申请将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。

所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有这些特定细节中的一个或更多，或者可以采用其它的方式、组元、材料、装置或等。在这些情况下，将不详细示出或描述公知结构、方法、装置、实现、材料或者操作。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。

多路监控视频数据的处理方法、流媒体服务器及电子设备可以应用于通过监控设备监控商用车辆车内状况的监控平台。前述商用车辆可以为例如：出租车、货运车辆、工程车辆等。

以出租车为例，出租车上通常装有多个摄像头，分别监控驾驶位、副驾驶位、后排乘客位、行车视角等，多个摄像头的监控视频由一个监控设备统一汇总进行管理。当监控平台通过流媒体服务器调用出租车上的多路监控视频时，监控设备会通过无线通信网络按用户需求将监控视频发送至流媒体服务器。

现有的监控平台对于多路监控视频的同步依赖于监控设备自身提供了同步功能。而对于不具有同步功能的监控设备，由于无线通信网络的网络质量不稳定，易因网络状况不佳而导致多路监控视频数据无法按正常时间同步到达监控平台，监控平台无法对其进行同步控制。

针对前述问题，本申请提供的方法整体上设置了流媒体服务器来统一接收及处理监控设备发送的多路监控视频。首先基于监控视频数据的原有时间戳，结合流媒体服务器的本地时间，为监控视频数据生成新的时间戳。然后基于新生成的时间戳对多路监控视频按帧分别进行同步播放控制，其中包括帧同步发送、帧等待、放弃同步、故障校验等控制方法。详见后述。

图1示出根据示例实施例的多路监控视频数据的处理方法的示意图。

根据示例实施例，本申请提出的方法的应用场景中，主要包括流媒体服务器110、监控设备120以及前端130。

根据示例实施例，本申请中流媒体服务器110转发前端130发送的监控视频请求至监控设备120，并逐帧接收监控设备120发送的多路监控视频，对多路监控视频进行同步处理后逐帧发送至前端130进行播放。

根据示例实施例，监控设备120包括多个摄像头122以及总控模块121。其中每个摄像头122采集一路监控视频，总控模块121负责汇总多路监控视频并进行集中控制。

根据示例实施例，前端130即为可以调用查看监控视频的用户端。其中可以包括多种电子设备例如计算机131或者便携终端132等。

根据一实施例，在计算机131或者便携终端132上安装相应的应用程序可以用于远程控制监控设备120，还可以调取查看监控设备120所捕捉的监控视频。

根据一实施例，在商用车（如出租车、货运车辆等）车载监控的应用场景下，监控设备120与流媒体服务器110之间的数据传输依靠无线通信网络，网络传输条件与车辆所处位置的通信服务覆盖程度关联性较高，在商业车辆行驶过程中，网络状况可能产生较大波动。

根据另一实施例，在商用车车载监控的应用场景下，流媒体服务器110和前端130之间的数据传输主要基于网络质量较可靠的有线网络（例如计算机131）或者无线通信网络（例如便携终端132），因此流媒体服务器110和前端130之间的数据传输较高且稳定。

图2示出根据示例实施例的多路监控视频数据的处理方法的流程图。

根据示例实施例，本申请所提出的处理方法于流媒体服务器110上执行。

如图2所示，在S201，发送监控视频请求命令至监控设备。

根据一实施例，监控视频请求命令由前端130发送至流媒体服务器110，再由流媒体服务器110发送至监控设备120。

根据一实施例，当用户在前端130上可以通过交互操作调取查看监控设备120的监控视频。并且可以控制只查看多路监控视频中的某些路，还可以在查看过程中加入其他路未被调用观看的监控视频，或者退出正在观看的某路监控视频。

根据一实施例，流媒体服务器110向监控设备120发送监控视频请求命令可以通过建立好的网络连接发送，例如可以是TCP连接。如此可以保证监控视频请求命令完整可靠地送达，还可以在监控视频请求命令无法送达时及时知晓。

根据一实施例，前述用于传输监控视频请求命令的网络连接可以常驻存在，以保证用户端的操作体验连贯顺畅，还可以反映监控设备120是否处于可连接状态。

在S203，接收监控设备发送的监控视频数据。

根据一实施例，前述监控视频请求命令中可以记录请求观看的对应路的信息，因此可以基于监控视频请求命令对监控设备120的多路监控视频中的某些路进行调用观看。

根据一实施例，在本申请应用场景中，在传递完监控视频请求命令后，流媒体服务器110和监控设备120之间会为每一路请求观看的监控视频单独建立一路网络连接，网络连接可以为例如TCP连接。此为现有的不具备同步功能的监控设备的惯用传输逻辑，也是本申请提出的方法所改进的目标监控设备类型。

根据一实施例，在响应监控视频请求命令为每一路请求传输的监控视频建立好网络连接后，便可基于该网络连接传输监控视频数据。

当传输多路监控视频数据时，多路网络连接共享网络带宽进行传输。在网络状况发生波动时，由于此类监控设备普遍未实现网速均衡策略，则会出现各路网络连接传输速率快慢不一的现象，也就会导致流媒体服务器110接收监控视频数据的速度快慢不一致，从而导致在前端130发生查看的多路监控视频不同步的现象。

根据示例实施例，监控视频数据包括帧序列以及原始时间戳。其中帧序列为按顺序排列的帧画面，原始时间戳为监控设备120为帧序列中每一帧所设置的时间戳，也就是每一帧的时间信息。

根据一实施例，当监控设备120接收到监控视频请求命令时，开始对请求播放的对应路的监控视频设置时间戳。对于请求的监控视频中的第一帧，标记的时间戳可以从0s开始。也可以以总控模块121设置的时钟（如存在）为基础，进行时间戳的设置，例如可以是记录设备运行时间的时钟，或者是标准时间时钟等。

在S205，基于流媒体服务器的本地时刻以及原始时间戳设置同步时间戳。

根据一实施例，当流媒体服务器110发送监控视频请求命令时，基于流媒体服务器110的本地时钟记录此刻的本地时刻。由于请求命令的数据量很小，在传输过程中的时延几乎可以忽略不计，因此发送监控视频请求命令的时刻等效于建立传输监控视频数据网络连接的时刻。

根据另一实施例，还可以当流媒体服务器110通过某一路网络连接接收到监控视频数据的第一帧时，基于流媒体服务器110的本地时钟记录此刻的本地时刻。流媒体服务器的本地时钟可以为例如标准时间时钟。

根据一实施例，对于流媒体服务器110接收到的监控视频数据中的每一帧，基于记录的流媒体服务器的本地时刻以及前述原始时间戳对其设置同步时间戳。

根据一实施例，当流媒体服务器110每接收完毕帧序列中的某一帧时，为该帧设置同步时间戳。

根据一实施例，对于某一路的监控视频数据中的任意一帧，其在流媒体服务器110上的同步时间戳满足以下关系：

；

其中

为该帧的同步时间戳，

为前述的流媒体服务器110发送监控视频请求命令时刻记录的流媒体服务器110的本地时刻，

为该帧的原始时间戳，

为此路监控视频数据的帧序列中第一帧的原始时间戳。其意义在于，为监控视频数据中的第一帧的原始时间戳做归0处理，并对之后的每一帧进行相应处理，以简化计算用的数据。

根据一实施例，前述

根据另一实施例，对于某一路的监控视频数据中的任意一帧，其在流媒体服务器110上的同步时间戳还可以满足以下关系：

；

其中

为该帧的同步时间戳，

为前述的该帧所属的此路监控视频数据的第一帧被流媒体服务器完整接收时记录的流媒体服务器的本地时刻，

为该帧的原始时间戳，

根据一实施例，特别的，当监控设备120是以0s为起点开始设置原始时间戳时，由于

，因而

，即对于某一帧其同步时间戳等于前述记录的流媒体服务器的本地时刻加上原始时间戳。

根据示例实施例，设置同步时间戳的意义在于可将具有不同原始时间戳的多路监控视频数据统一到以流媒体服务器110的本地时间为参照系的时间度量体系下，进而方可以进行后续对于多路监控视频的同步播放控制。

图3示出另一根据示例实施例的多路监控视频数据的处理方法的流程图。

如图3所示，在S301，记录缓存时间戳。

根据一实施例，流媒体服务器110接收到监控视频数据后，会在一定条件下（详见后述）将监控视频数据逐帧发送至前端130进行播放。

根据一实施例，对于每一路监控视频数据，可以声名一个变量用来保存缓存时间戳。

根据一实施例，还可以总地设置一个数组类型的变量，用于统一保存各路监控视频数据的缓存时间戳。

根据一实施例，缓存时间戳的值即为最近发送播放的一帧的同步时间戳，每次某一路监控视频数据发送新的一帧播放后即同步更新对应路的此变量的值。此缓存时间戳用于后续的同步播放控制使用，详见后述。

根据另一实施例，在前述以流媒体服务器110发送监控视频请求命令时的本地时刻为基础设置同步时间戳的情形下，还可以将缓存时间戳设置为该发送监控视频请求命令时的本地时刻。

根据一实施例，当帧序列中第一帧也就是整个监控视频数据的第一帧被完整接收时，此时由于不存在“刚刚发送播放的一帧”，因而缓存时间戳无法按之前规则设置。但是此路视频应当参与到同步播放控制中，因而需要缓存时间戳以实现同步播放控制，故在此条件下将缓存时间戳的值记录为该第一帧的同步时间戳。

在S303，基于同步时间戳以及缓存时间戳对多路监控视频数据进行同步播放控制。

根据示例实施例，由于多于一路监控视频在播放时，才具有同步播放的需求，因此此步骤在请求播放的监控视频多于一路的时候执行。

根据一实施例，对于某一路监控视频数据，此同步播放控制基于本路监控视频数据的同步时间戳以及其他路参与同步播放控制的监控视频数据的缓存时间戳进行。

根据一实施例，对于参与同步播放控制的多路监控视频数据中的一路进行领先等待控制，可参考图6a所示的流程示意图：

S1_a：获取现存最小的同步时间戳，与其他路监控视频数据的缓存时间戳分别做比较。

根据一实施例，最小的同步时间戳即为同步时间戳值最小的，其对应的一帧也就是即将要发送播放的一帧。用此帧的同步时间戳与其他路监控视频数据的缓存时间戳作比较是为了查看此即将播放的一帧与其他路监控视频播放进度的差距。比较为值的大小比较。

S2_a：若现存的最小的同步时间戳大于全部其他路监控视频数据的缓存时间戳，并且现存最小的同步时间戳与其他路监控视频数据中任一路的缓存时间戳的差值大于预设的发送判断时长，则等待与差值中最大值相等的延迟判断时长后跳转至S1_a。

根据一实施例，现存最小同步时间戳大于全部其他路监控视频数据的缓存时间戳即意味着本路监控视频数据是整体上发送播放最快的一路，而导致此情况产生的原因是由于其它路监控视频数据在由监控设备120传送至流媒体服务器110的过程中由于网络连接速率落后而导致进度落后于本路的监控视频数据的传送。

根据一实施例，如果本路监控视频数据的发送播放快于其他路视频到达一阈值，则暂停本路监控视频的发送播放，等待其他路监控视频。此阈值即为本路发送判断时长，其长度为人为预设的经验值，选取原则为不要过大而使得不同路监控视频数据之间的发送播放进度相差太多，又不要过小使得发送播放过程出现太多因执行此判断而出现的卡顿。例如可以取1s。

根据一实施例，在等待一段时长之后即可跳回S1_a重复进行判断查看其它路的监控视频数据是否追赶上来。该等待时长取本路最小时间戳与其它各路监控视频数据缓存时间戳的差值中的最大值，使得等待时长不会过短而频繁进行循环判断。

根据另一实施例，对于参与同步播放控制的多路监控视频数据中的一路进行判断退出同步控制，可参考图6b所示的流程示意图：

S1_b：获取现存最小的同步时间戳，与其他路监控视频数据的缓存时间戳分别做比较。

S2_b：若现存的最小的同步时间戳大于全部其他路监控视频数据的缓存时间戳，并且现存最小的同步时间戳与其他路监控视频数据中任一路的缓存时间戳的差值大于预设的发送判断时长，则生成计时器，当计时器的时间到达预设的放弃同步时长时，退出同步播放控制，并按顺序依次传送帧序列中的每一帧至前端。

根据一实施例，当发送播放最快的本路监控视频数据开始等待其他路的监控视频数据追赶时，生成一个计时器。该计时器在其他路监控视频数据的传输未追赶上本路监控视频数据时将一直存在并计时。

根据一实施例，当该计时器的计时到达放弃同步时长时，即意味着本路监控视频数据已经等待了过长时间，为保障前端130整体的监控观看的效果，则应当将本路监控视频数据退出同步播放控制，使其自行发送播放。

根据一实施例，该放弃同步时长为预先人为设定的时长。取值可以参考商用车行驶区域内的无线通信网络状况，若网络条件好，则可以适当设短，若网络条件欠佳，则可适当设长。原则为不要太长导致传输最快一路的监控视频数据等待暂停过久，也不要太短而导致传输最快一路的监控视频数据过早脱离同步播放控制。例如网络条件尚可的情况下可以设置为3s，若网络条件不稳定则可设置为8s。

根据一实施例，监控视频数据的自行发送播放即为将其帧序列中的每一帧依次发送至前端130进行播放。

根据另一实施例，对于参与同步播放控制的多路监控视频数据中的一路进行判断发送帧控制，可参考图6c所示的流程示意图：

S1_c：获取现存最小的同步时间戳，与其他路监控视频数据的缓存时间戳分别做比较。

S2_c：若现存最小的同步时间戳大于全部其他路监控视频数据的缓存时间戳，并且现存最小的同步时间戳与其他路监控视频数据的缓存时间戳的差值均不大于预设的发送判断时长，则发送与现存最小的同步时间戳对应的帧至前端。

根据一实施例，如果发送播放最快的本路监控视频数据的速度与其他路视频中最慢的差距在前述发送判断时长内，则意味着各路监控视频数据的发送播放进度在允许范围内，即可将当前最小的同步时间戳所对应的一帧发送至前端130进行播放。

S3_c：判断若存在计时器，则清除计时器并跳至S1_c。

根据一实施例，即意味着恢复正常的同步播放控制，如果在之前触发了前述的计时器，则需要将计时器清除。

S4_c：判断若不存在计时器，则跳至S1_c。

根据一实施例，在发送完当前帧后，将跳回S1_c处理下一帧。

根据另一实施例，对于参与同步播放控制的多路监控视频数据中的一路进行判断发送帧控制，可参考图6d所示的流程示意图：

S1_d：获取现存最小的同步时间戳，与其他路监控视频数据的缓存时间戳分别做比较。

S2_d：若现存最小的同步时间戳不大于其他路监控视频数据中某一路的缓存时间戳，则发送与现存最小的同步时间戳对应的帧至前端，跳至S1_d。

根据一实施例，若本路监控视频数据的最小的同步时间戳不大于其他路监控视频数据中某一路的缓存时间戳，则意味着本路的监控视频数据的发送播放进度慢于其他某路监控视频数据。在这种情况下本路监控视频数据需要进行追赶，就应当将该最小的同步时间戳所对应的帧发送至前端130进行播放。

根据一实施例，在每发送完一帧后，需要回到S1_d循环对下一帧进行判断。

根据另一实施例，对于参与同步播放控制的多路监控视频数据中的一路进行时间戳跳变判断控制，可参考图6e所示的流程示意图：

S1_e：获取现存最小的同步时间戳，与本路监控视频数据的缓存时间戳做比较。

S2_e：若现存最小的同步时间戳与本路监控视频数据的缓存时间戳的差值大于预设的异常跳帧间隔时间，则退出同步播放控制，并按顺序依次传送帧序列中的每一帧至前端。

根据一实施例，在使用过程中，监控设备120有可能由于硬件问题导致出现小概率的时间戳跳变现象。其表现为同一路监控视频数据中的相邻两帧的时间戳可能相差一较大值，此差值远大于正常相邻两帧之间的时间间隔。

根据一实施例，正常情况下相邻两帧的时间戳间隔应该在

s左右，FPS即为帧率（Frame per Second）。

根据一实施例，例如一般监控视频的帧率为24帧每秒，从而两帧之间的时间差应当在40ms左右。但如果相邻两帧的时间戳间隔差值到达了500ms，则显然可以判定出现了时间戳跳变现象。此时如果仍旧基于该时间戳进行同步播放控制，会出现同步异常的问题，因此需要及时将此路监控视频退出同步播放控制。

针对上述问题，设置判定规则，即当判断同一路监控视频数据中的相邻两帧的同步时间戳大于一预设的异常跳帧间隔时间时，将对此路监控视频数据放弃同步，即退出同步播放控制。

根据一实施例，该异常跳帧间隔时间可设为一大于两帧间隔合理时间一定程度的值，例如可以设置为500ms。

如图4所示，该用于多路监控视频数据的处理方法的流媒体服务器包括发送模块401、接收模块403、同步时间戳模块405、缓存时间戳模块407、同步播放控制模块409，其中：

发送模块401，发送监控视频请求命令至监控设备。

接收模块403，接收监控设备发送的监控视频数据，监控视频数据包括帧序列以及原始时间戳。

同步时间戳模块405，从流媒体服务器接收到帧序列中第一帧的时刻起，基于流媒体服务器的本地时刻以及原始时间戳设置同步时间戳。

缓存时间戳模块407，记录缓存时间戳。

同步播放控制模块409，当接收多路监控视频数据时，基于同步时间戳以及缓存时间戳对多路监控视频数据进行同步播放控制。

该流媒体服务器执行与前面提供的方法类似的功能，其他功能可参见前面的描述，此处不再赘述。

图7示出根据一示例性实施例的一种电子设备的框图。

下面参照图7来描述根据本申请的这种实施方式的电子设备700。图7显示的电子设备700仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图7所示，电子设备700以通用计算设备的形式表现。电子设备700的组件可以包括但不限于：至少一个处理单元710、至少一个存储单元720、连接不同系统组件（包括存储单元720和处理单元710）的总线730、显示单元740等。

其中，存储单元存储有程序代码，程序代码可以被处理单元710执行，使得处理单元710执行本说明书描述的根据本申请各种示例性实施方式的方法。例如，处理单元710可以执行前面描述的的方法。

存储单元720可以包括易失性存储单元形式的可读介质，例如随机存取存储单元（RAM）7201和/或高速缓存存储单元7202，还可以进一步包括只读存储单元（ROM）7203。

存储单元720还可以包括具有一组（至少一个）程序模块7205的程序/实用工具7204，这样的程序模块7205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线730可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备700也可以与一个或多个外部设备7001（例如键盘、指向设备、蓝牙设备等）通信，还可与一个或者多个使得用户能与该电子设备700交互的设备通信，和/或与使得该电子设备700能与一个或多个其它计算设备进行通信的任何设备（例如路由器、调制解调器等等）通信。这种通信可以通过输入/输出（I/O）接口750进行。并且，电子设备700还可以通过网络适配器760与一个或者多个网络（例如局域网（LAN），广域网（WAN）和/或公共网络，例如因特网）通信。网络适配器760可以通过总线730与电子设备700的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备700使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质（可以是CD-ROM，U盘，移动硬盘等）中或网络上，包括若干指令以使得一台计算设备（可以是个人计算机、服务器、或者网络设备等）执行根据本申请实施方式的上述方法。

软件产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网（LAN）或广域网（WAN），连接到用户计算设备，或者，可以连接到外部计算设备（例如利用因特网服务提供商来通过因特网连接）。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该计算机可读介质实现前述功能。

本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中，也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块，也可以进一步拆分成多个子模块。

通过以上的实施例的描述，本领域的技术人员易于理解，这里描述的示例实施例可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质（可以是CD-ROM，U盘，移动硬盘等）中或网络上，包括若干指令以使得一台计算设备（可以是个人计算机、服务器、移动终端、或者网络设备等）执行根据本申请实施例的方法。

以上对本申请实施例进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明仅用于帮助理解本申请的方法及其核心思想。同时，本领域技术人员依据本申请的思想，基于本申请的具体实施方式及应用范围上做出的改变或变形之处，都属于本申请保护的范围。综上所述，本说明书内容不应理解为对本申请的限制。

Claims

1.一种多路监控视频数据的处理方法，用于商用车车载监控的流媒体服务器，包括：

发送监控视频请求命令至监控设备；

2.如权利要求1所述的方法，其特征在于，还包括：

记录缓存时间戳；

当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制。

3.如权利要求2所述的方法，其特征在于，所述基于所述流媒体服务器的本地时刻以及所述原始时间戳设置同步时间戳，包括：

发送所述监控视频请求命令的时刻，记录所述流媒体服务器的本地时刻；

接收完毕所述帧序列中某一帧时，为所述帧序列中某一帧设置所述同步时间戳，存在如下关系：

T _sync = T _ser + T _ori - T _{ori_1；}

其中T _sync为所述帧序列中某一帧的所述同步时间戳，T _ser为记录的所述流媒体服务器的本地时刻，T _ori为所述帧序列中某一帧的所述原始时间戳，T _{ori_1}为所述帧序列中第一帧的所述原始时间戳。

4.如权利要求3所述的方法，其特征在于，所述记录缓存时间戳包括：

将所述帧序列中最近发送播放的一帧的所述同步时间戳记录为所述缓存时间戳；

接收完毕所述帧序列中第一帧时，将所述帧序列中第一帧的所述同步时间戳记录为所述缓存时间戳。

5.如权利要求4所述的方法，其特征在于，所述当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制，包括：

对于参与同步播放控制的所述多路监控视频数据中的每一路：

S1：获取现存最小的所述同步时间戳，与其他路所述监控视频数据的所述缓存时间戳分别做比较；

S2：若所述现存的最小的所述同步时间戳大于全部其他路所述监控视频数据的所述缓存时间戳，并且所述现存最小的所述同步时间戳与其他路所述监控视频数据中任一路的所述缓存时间戳的差值大于预设的发送判断时长，则等待与所述差值中最大值相等的延迟判断时长后跳转至S1。

6.如权利要求4所述的方法，其特征在于，所述当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制，还包括：

S2：若所述现存的最小的所述同步时间戳大于全部其他路所述监控视频数据的所述缓存时间戳，并且所述现存最小的所述同步时间戳与其他路所述监控视频数据中任一路的所述缓存时间戳的差值大于预设的发送判断时长，则生成计时器，当所述计时器的时间到达预设的放弃同步时长时，退出同步播放控制，并按顺序依次传送所述帧序列中的每一帧至前端。

7.如权利要求4所述的方法，其特征在于，所述当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制，还包括：

S2：若所述现存最小的所述同步时间戳大于全部其他路所述监控视频数据的所述缓存时间戳，并且所述现存最小的所述同步时间戳与所述其他路所述监控视频数据的所述缓存时间戳的差值均不大于预设的发送判断时长，则发送与所述现存最小的所述同步时间戳对应的帧至前端；

S3：判断若存在计时器，则清除所述计时器并跳至S1；

S4：判断若不存在所述计时器，则跳至S1。

8.如权利要求4所述的方法，其特征在于，所述当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制，还包括：

S2：若所述现存最小的所述同步时间戳不大于其他路所述监控视频数据中某一路的所述缓存时间戳，则发送与所述现存最小的所述同步时间戳对应的帧至前端，跳至S1。

9.如权利要求4所述的方法，其特征在于，所述当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制，还包括：

S1：获取现存最小的所述同步时间戳，与本路所述监控视频数据的所述缓存时间戳做比较；

S2：若所述现存最小的所述同步时间戳与本路所述监控视频数据的所述缓存时间戳的差值大于预设的异常跳帧间隔时间，则退出同步播放控制，并按顺序依次传送所述帧序列中的每一帧至前端。

10.一种用于多路监控视频数据的处理方法的流媒体服务器，包括：

发送模块，发送监控视频请求命令至监控设备；

接收模块，接收所述监控设备发送的监控视频数据，所述监控视频数据包括帧序列以及原始时间戳；

同步时间戳模块，从所述流媒体服务器接收到所述帧序列中第一帧的时刻起，基于所述流媒体服务器的本地时刻以及所述原始时间戳设置同步时间戳；

缓存时间戳模块，记录缓存时间戳；

同步播放控制模块，当接收多路监控视频数据时，基于所述同步时间戳以及所述缓存时间戳对所述多路监控视频数据进行同步播放控制。

11.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。