CN116208855B - 一种多塔机云台全景图像抖动协调抑制方法和系统 - Google Patents

Abstract

本申请实施例提供一种多塔机云台全景图像抖动协调抑制方法和系统。该方法包括：对于执行第一任务序列的第一塔机和第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理或电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳/电子增稳、全景拼接过程的第一/第二完成时长序列；将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型‑拼接完成时长‑增稳类型的对照模型；分析所述对照模型，得到不同任务类型的最优增稳类型。

Description

一种多塔机云台全景图像抖动协调抑制方法和系统

技术领域

本申请涉及智能塔机技术领域，尤其涉及一种多塔机云台全景图像抖动协调抑制方法和系统。

背景技术

塔机由于其起升高度、起重量大和工作幅度大等特点，是目前建筑施工中使用较多的起重机械。

由于塔机结构庞大，并伴有高空作业，容易发生重大人身伤亡事故，一旦发生事故，就会给施工企业和个人带来巨大的经济损失。因此，塔机在安装环节及升节环节，需要在不同区域安装监控云台，以保证塔机的安全。

目前塔机的塔机云台，由于塔机的操作过程中出现的振动、移动，也会导致塔机云台产生抖动现象，从而使得监控图像出现一定的模糊，因此，需要一种能够抑制全景图像抖动的方法，尤其是对于多塔机的施工场景，用户事先并不知道电子增稳和光学增稳中哪种更适用于当前的施工任务，因为塔吊任务包括多种，每种任务的执行过程中所引起的塔机振动振幅、方向、时长都有其固有的物理特点。目前并没有研究在不同的施工环境下，对于不同任务类型选择最优增稳方式的技术方案。

发明内容

有鉴于此，本申请的目的在于提出一种多塔机云台全景图像抖动协调抑制方法和装置，本申请能够针对性的解决现有的塔机云台抖动导致的图像拼接延迟问题。

基于上述目的，本申请提出了一种多塔机云台全景图像抖动协调抑制方法，包括：

在同一个施工现场区域内的多个塔机中，在每个塔机的不同位置上安装多个云台，每个云台包括摄像头以及陀螺仪传感器，使得单个塔机的所有摄像头的视野之和覆盖所述单个塔机的所有周围区域；

对于执行第一任务序列的第一塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳、全景拼接过程的第一完成时长序列；

对于执行第二任务序列的第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，基于获取到的陀螺仪传感器数据对采集到的图像进行电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、电子增稳、全景拼接过程的第二完成时长序列；

将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型-拼接完成时长-增稳类型的对照模型；

分析所述任务类型-拼接完成时长-增稳类型的对照模型，得到不同任务类型对应的最优增稳类型；

对于执行新任务序列的塔机，根据新的任务序列中每个任务的任务类型选择最优增稳类型，完成检测、拍摄、增稳、全景拼接过程，得到全景图像。

进一步地，在每个塔机完成一个新任务序列后，将完成该新任务序列过程中的任务类型-拼接完成时长-增稳类型数据加入所述任务类型-拼接完成时长-增稳类型的对照模型以进行更新；

所述任务序列中的任务类型包括起升、变幅、回转、行走四种。

进一步地，所述任务序列中的每个任务的参数中进一步包括任务吊装材料的类型、重量，将任务吊装材料的类型、重量的数据也加入所述任务类型-拼接完成时长-增稳类型的对照模型中。

进一步地，所述对照模型使用卷积神经网络实现，使用塔机任务完成的历史数据训练所述对照模型。

进一步地，所述光学增稳处理包括：

获取过幅抖动的方向、速度和移动量，计算出抵消所述过幅抖动的补偿移动量，控制所述摄像头在其安装的支架上移动所述补偿移动量，包括：

所述支架包括驱动单元，该驱动单元包括至少一个电机并且对所述摄像头执行摇摄操作和俯仰操作中的至少一种操作；

通过从陀螺仪传感器获取过幅抖动的方向、速度和移动量并控制驱动单元进行摇摄操作和俯仰操作中的至少一个操作，对使用摄像头获得的图像执行图像模糊校正；

其中，当图像模糊校正开始时，通过所述驱动单元的位置信息和过幅抖动的方向、速度和移动量来计算所述的补偿移动量，根据所述补偿移动量控制所述摄像头进行摇摄操作和/或俯仰操作。

进一步地，所述电子增稳处理包括：

根据陀螺仪传感器数据判定摄像头运动情况；

对摄像头采集到的图像数据进行滤波和降噪；

通过帧差法判断图像的运动效果；

对图像像素点进行光流计算，对图像的特征点进行选取，进行运动矢量的估计，作为运动补偿的路径；

根据所述运动矢量对图像进行反向补偿，得到平稳的拍摄图像。

进一步地，所述根据陀螺仪传感器数据判定摄像头运动情况，包括；

采集陀螺仪传感器的六轴数据；

对所述六轴数据进行数据滤波和零点校正；

对所述六轴数据进行温度补偿，补偿后的数据进行数据融合；

计算XYZ三个轴向的欧拉角，以表示摄像头的运动方向；

对三个轴线的欧拉角进行方差计算，以表示摄像头的实际振动振幅；

将方差阈值控制设置为迟滞回环的模式，方差大于高阈值时，开启电子增稳，方差小于低阈值时，关闭电子增稳。

进一步地，所述全景图像拼接，包括：

对于单个摄像头的相邻两个方向，均执行以下拼接操作：

接收由所述单个摄像头捕获的第一帧，第一帧包括像素值的第一空间排列；

确定第一重叠区域，该第一重叠区域包括来自摄像头的第一方向对应视场的与第二方向对应视场重叠的第一部分的像素值；

接收由该摄像头捕获的第二帧，第二帧包括像素值的第二空间排列；

确定第二重叠区域，该第二重叠区域包括来自与摄像头的第一方向对应视场重叠的摄像头的第二方向对应视场的第二部分的像素值；

基于包括第一帧和第二帧的一组帧生成全景帧，全景帧包括像素值的第三空间排列，其中像素值的第三空间排列包括：

第一帧区域包括选自第一帧的像素值；

第二帧区域包括选自第二帧的像素值；和

混合帧区域包括从第一重叠区域和第二重叠区域导出的像素值。

进一步地，所述基于包括第一帧和第二帧的一组帧生成全景帧之后，进一步包括：

接收混合帧区域中的缝合接缝的第一指示；

在拼接接缝的第一侧接收混合帧区域中的第一混合限制的第二指示；

在拼接接缝的第二侧接收混合帧区域中的第二混合限制的第三指示；

在第一重叠区域的第一位置处确定第一重叠区域混合限制，该第一位置相当于混合帧区域中的第一混合限制的第二位置；

识别第一重叠区域的第一非重复部分，其中第一重叠区域的非重复部分包括从第一帧的第一边缘到第一重叠区域混合限制的像素值的第一空间排列的像素位置；

在第二重叠区域的第三位置处确定第二重叠区域混合限制，该第三位置相当于混合帧区域中的第二混合限制的第四位置；

识别第二重叠区域的第二非重复部分，其中第二重叠区域的非重复部分包括从第二帧的第二边缘到第二重叠区域混合限制的像素值的第二空间排列的像素位置。

本申请还提供了一种多塔机云台全景图像抖动协调抑制系统，包括：

云台模块，用于在同一个施工现场区域内的多个塔机中，在每个塔机的不同位置上安装多个云台，每个云台包括摄像头以及陀螺仪传感器，使得单个塔机的所有摄像头的视野之和覆盖所述单个塔机的所有周围区域；

第一延迟计算模块，用于对于执行第一任务序列的第一塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳、全景拼接过程的第一完成时长序列；

第二延迟计算模块，用于对于执行第二任务序列的第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，基于获取到的陀螺仪传感器数据对采集到的图像进行电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、电子增稳、全景拼接过程的第二完成时长序列；

对照模型模块，用于将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型-拼接完成时长-增稳类型的对照模型；

最优增稳分析模块，用于分析所述任务类型-拼接完成时长-增稳类型的对照模型，得到不同任务类型对应的最优增稳类型；

全景图像拼接模块，用于对于执行新任务序列的塔机，根据新的任务序列中每个任务的任务类型选择最优增稳类型，完成检测、拍摄、增稳、全景拼接过程，得到全景图像。

总的来说，本申请的优势及给用户带来的体验在于以下两条。

1、通过在具体的施工现场中分别使用光学增稳和电子增稳的方式对不同的塔吊任务执行中的抖动情况进行处理，再计算全景图像拼接过程产生的拼接延迟时间，并建立任务类型和延迟时间、增稳类型之间的关联模型，为后续塔机的任务选择最优的增稳类型提供了客观依据，使得后续塔机的全景图像拼接过程延迟得以降低，实现了全景图像抖动协调抑制。

2、本申请通过现场全景图像采集方式使得远在施工现场之外的监控人员能够分区域调取塔吊作业现场的全景图像，并还原指定时刻的作业现场情况，能有效消除监控死角，准确还原施工过程。

附图说明

在附图中，除非另外规定，否则贯穿多个附图相同的附图标记表示相同或相似的部件或元素。这些附图不一定是按照比例绘制的。应该理解，这些附图仅描绘了根据本申请公开的一些实施方式，而不应将其视为是对本申请范围的限制。

图1示出本申请的架构原理示意图。

图2示出根据本申请实施例的多塔机云台全景图像抖动协调抑制方法的流程图。

图3示出本申请的摄像头安装位置示意图。

图4示出根据本申请实施例的全景拼接方式示意图。

图5示出根据本申请实施例的多塔机云台全景图像抖动协调抑制装置的构成图。

图6示出了本申请一实施例所提供的一种电子设备的结构示意图。

图7示出了本申请一实施例所提供的一种存储介质的示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出本申请的系统架构原理示意图。本申请的实施例中，如图1部分所示为塔机施工场地，包括多个塔机，每个塔机上安装多个云台，每个云台包括摄像头，摄像头采集图像后通过有线或无线方式发送给远端的服务器，服务器处理图像后得到每个塔机的全景拼接图像。

图2示出根据本申请实施例的多塔机云台全景图像抖动协调抑制方法的流程图。如图2所示，该多塔机云台全景图像抖动协调抑制方法包括以下步骤。

S1、在同一个施工现场区域内的多个塔机中，在每个塔机的不同位置上安装多个云台，每个云台包括摄像头以及陀螺仪传感器，使得单个塔机的所有摄像头的视野之和覆盖所述单个塔机的所有周围区域。

图3示出本申请的摄像头安装位置示意图。本申请的实施例中，在大臂的四个位置设置相同高度的摄像头即可获取整个塔机的视野图片，全景图像由四个摄像头实时拼接而成。每个摄像头的拍摄角度可以根据图像拼接的需求而进行设置。每个摄像头安装在云台上。

S2、对于执行第一任务序列的第一塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳、全景拼接过程的第一完成时长序列。

S3、对于执行第二任务序列的第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，基于获取到的陀螺仪传感器数据对采集到的图像进行电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、电子增稳、全景拼接过程的第二完成时长序列。

S4、将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型-拼接完成时长-增稳类型的对照模型；例如，可以得到以表格表示的以下模型（当然，模型还可以以其他形式实现，例如神经网络，此处以表格进行直观的表示发明思想，以下数字仅用于示例，具体根据施工环境不同会有变化）：

S5、分析所述任务类型-拼接完成时长-增稳类型的对照模型，得到不同任务类型对应的最优增稳类型；例如，通过以上的对照模型，我们可以得出光学增稳在起升和行走任务中的拼接完成时长相比于电子增稳更短，属于更优的增稳类型；电子增稳在变幅和回转任务中的拼接完成时长相比于光学增稳更短，属于更优的增稳类型。

S6、对于执行新任务序列的塔机，根据新的任务序列中每个任务的任务类型选择最优增稳类型，完成检测、拍摄、增稳、全景拼接过程，得到全景图像。

通过在具体的施工现场中分别使用光学增稳和电子增稳的方式对不同的塔吊任务执行中的抖动情况进行处理，再计算全景图像拼接过程产生的拼接延迟时间，并建立任务类型和延迟时间、增稳类型之间的关联模型，为后续塔机的任务选择最优的增稳类型提供了客观依据，使得后续塔机的全景图像拼接过程延迟得以降低，实现了全景图像抖动协调抑制。

例如，通过以上的对照模型，对于一个新的任务序列，例如包括起升-回转-行走三个任务，那么其最优的增稳方式是分别在三个任务阶段选择光学增稳-电子增稳-光学增稳，以完成检测、拍摄、增稳、全景拼接过程，得到全景图像。

进一步的，在步骤S6之后，还可以包括以下步骤：

在每个塔机完成一个新任务序列后，将完成该新任务序列过程中的任务类型-拼接完成时长-增稳类型数据加入所述任务类型-拼接完成时长-增稳类型的对照模型以进行更新；

所述任务序列中的任务类型包括起升、变幅、回转、行走四种。

在一个更优的实施例中，所述任务序列中的每个任务的参数中除了任务类型的分别，可以进一步包括任务吊装材料的类型、重量，将任务吊装材料的类型、重量的数据也加入所述任务类型-拼接完成时长-增稳类型的对照模型中，以增加模型中的变量数量和复杂度，使得模型的优化选择更加符合客观任务情况。

在一个更优的实施例中，所述对照模型使用卷积神经网络实现，使用塔机任务完成的历史数据训练所述对照模型。

具体的，步骤S2中，所述光学增稳处理包括：

获取过幅抖动的方向、速度和移动量，计算出抵消所述过幅抖动的补偿移动量，控制所述摄像头在其安装的支架上移动所述补偿移动量，包括：

所述支架包括驱动单元，该驱动单元包括至少一个电机并且对所述摄像头执行摇摄操作和俯仰操作中的至少一种操作；

通过从陀螺仪传感器获取过幅抖动的方向、速度和移动量并控制驱动单元进行摇摄操作和俯仰操作中的至少一个操作，对使用摄像头获得的图像执行图像模糊校正；

其中，当图像模糊校正开始时，通过所述驱动单元的位置信息和过幅抖动的方向、速度和移动量来计算所述的补偿移动量，根据所述补偿移动量控制所述摄像头进行摇摄操作和/或俯仰操作。

具体的，步骤S3中，所述电子增稳处理包括：

根据陀螺仪传感器数据判定摄像头运动情况；

对摄像头采集到的图像数据进行滤波和降噪；

通过帧差法判断图像的运动效果；

对图像像素点进行光流计算，对图像的特征点进行选取，进行运动矢量的估计，作为运动补偿的路径；

根据所述运动矢量对图像进行反向补偿，得到平稳的拍摄图像。

所述根据陀螺仪传感器数据判定摄像头运动情况，包括；

采集陀螺仪传感器的六轴数据；

对所述六轴数据进行数据滤波和零点校正；

对所述六轴数据进行温度补偿，补偿后的数据进行数据融合；

计算XYZ三个轴向的欧拉角，以表示摄像头的运动方向；

对三个轴线的欧拉角进行方差计算，以表示摄像头的实际振动振幅；

将方差阈值控制设置为迟滞回环的模式，方差大于高阈值时，开启电子增稳，方差小于低阈值时，关闭电子增稳。

在本申请的所有所述全景图像拼接中，包括：

对于相邻的每两个摄像头，如图4所示，均执行以下拼接操作：

接收由第一摄像头捕获的第一帧，第一帧包括像素值的第一空间排列；

确定第一重叠区域，该第一重叠区域包括来自第一摄像头的第一视场的与第二摄像头的第二视场重叠的第一部分的像素值；

接收由第二摄像头捕获的第二帧，第二帧包括像素值的第二空间排列；

确定第二重叠区域，该第二重叠区域包括来自与第一摄像头的第一视场重叠的第二摄像头的第二视场的第二部分的像素值；

基于包括第一帧和第二帧的一组帧生成全景帧，全景帧包括像素值的第三空间排列，其中像素值的第三空间排列包括：

第一帧区域包括选自第一帧的像素值；

第二帧区域包括选自第二帧的像素值；和

混合帧区域包括从第一重叠区域和第二重叠区域导出的像素值。

所述基于包括第一帧和第二帧的一组帧生成全景帧之后，进一步包括：

接收混合帧区域中的缝合接缝的第一指示；

在拼接接缝的第一侧接收混合帧区域中的第一混合限制的第二指示；

在拼接接缝的第二侧接收混合帧区域中的第二混合限制的第三指示；

识别第一重叠区域的第一非重复部分，其中第一重叠区域的非重复部分包括从第一帧的第一边缘到第一重叠区域混合限制的像素值的第一空间排列的像素位置；

识别第二重叠区域的第二非重复部分，其中第二重叠区域的非重复部分包括从第二帧的第二边缘到第二重叠区域混合限制的像素值的第二空间排列的像素位置；

将所述第一非重复部分、第二非重复部分以及第一重叠区域和第二重叠区域的重复部分整体作为完成拼接的传输帧。

申请实施例提供了一种多塔机云台全景图像抖动协调抑制装置，该装置用于执行上述实施例所述的多塔机云台全景图像抖动协调抑制方法，如图5所示，该装置包括：

云台模块401，用于在同一个施工现场区域内的多个塔机中，在每个塔机的不同位置上安装多个云台，每个云台包括摄像头以及陀螺仪传感器，使得单个塔机的所有摄像头的视野之和覆盖所述单个塔机的所有周围区域；

第一延迟计算模块402，用于对于执行第一任务序列的第一塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳、全景拼接过程的第一完成时长序列；

第二延迟计算模块403，用于对于执行第二任务序列的第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，基于获取到的陀螺仪传感器数据对采集到的图像进行电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、电子增稳、全景拼接过程的第二完成时长序列；

对照模型模块404，用于将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型-拼接完成时长-增稳类型的对照模型；

最优增稳分析模块405，用于分析所述任务类型-拼接完成时长-增稳类型的对照模型，得到不同任务类型对应的最优增稳类型；

全景图像拼接模块406，用于对于执行新任务序列的塔机，根据新的任务序列中每个任务的任务类型选择最优增稳类型，完成检测、拍摄、增稳、全景拼接过程，得到全景图像。

本申请的上述实施例提供的多塔机云台全景图像抖动协调抑制装置与本申请实施例提供的多塔机云台全景图像抖动协调抑制方法出于相同的发明构思，具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。

本申请实施方式还提供一种与前述实施方式所提供的多塔机云台全景图像抖动协调抑制方法对应的电子设备，以执行上多塔机云台全景图像抖动协调抑制方法。本申请实施例不做限定。

请参考图6，其示出了本申请的一些实施方式所提供的一种电子设备的示意图。如图6所示，所述电子设备2包括：处理器200，存储器201，总线202和通信接口203，所述处理器200、通信接口203和存储器201通过总线202连接；所述存储器201中存储有可在所述处理器200上运行的计算机程序，所述处理器200运行所述计算机程序时执行本申请前述任一实施方式所提供的多塔机云台全景图像抖动协调抑制方法。

其中，存储器201可能包含高速随机存取存储器（RAM：Random Access Memory），也可能还包括非不稳定的存储器（non-volatile memory），例如至少一个磁盘存储器。通过至少一个通信接口203（可以是有线或者无线）实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网、广域网、本地网、城域网等。

总线202可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。其中，存储器201用于存储程序，所述处理器200在接收到执行指令后，执行所述程序，前述本申请实施例任一实施方式揭示的所述多塔机云台全景图像抖动协调抑制方法可以应用于处理器200中，或者由处理器200实现。

处理器200可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器200中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器200可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器201，处理器200读取存储器201中的信息，结合其硬件完成上述方法的步骤。

本申请实施例提供的电子设备与本申请实施例提供的多塔机云台全景图像抖动协调抑制方法出于相同的发明构思，具有与其采用、运行或实现的方法相同的有益效果。

本申请实施方式还提供一种与前述实施方式所提供的多塔机云台全景图像抖动协调抑制方法对应的计算机可读存储介质，请参考图7，其示出的计算机可读存储介质为光盘30，其上存储有计算机程序（即程序产品），所述计算机程序在被处理器运行时，会执行前述任意实施方式所提供的多塔机云台全景图像抖动协调抑制方法。

需要说明的是，所述计算机可读存储介质的例子还可以包括，但不限于相变内存(PRAM)、静态随机存取存储器 (SRAM)、动态随机存取存储器 (DRAM)、其他类型的随机存取存储器 (RAM)、只读存储器 (ROM)、电可擦除可编程只读存储器 (EEPROM)、快闪记忆体或其他光学、磁性存储介质，在此不再一一赘述。

本申请的上述实施例提供的计算机可读存储介质与本申请实施例提供的多塔机云台全景图像抖动协调抑制方法出于相同的发明构思，具有与其存储的应用程序所采用、运行或实现的方法相同的有益效果。

需要说明的是：

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备有固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本申请也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本申请的内容，并且上面对特定语言所做的描述是为了披露本申请的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本申请的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本申请并帮助理解各个发明方面中的一个或多个，在上面对本申请的示例性实施例的描述中，本申请的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本申请要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本申请的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本申请的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本申请的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器( DSP )来实现根据本申请实施例的虚拟机的创建系统中的一些或者全部部件的一些或者全部功能。本申请还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者系统程序(例如，计算机程序和计算机程序产品)。这样的实现本申请的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本申请进行说明而不是对本申请进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本申请可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干系统的单元权利要求中，这些系统中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到其各种变化或替换，这些都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims (10)

1.一种多塔机云台全景图像抖动协调抑制方法，其特征在于，包括：

在同一个施工现场区域内的多个塔机中，在每个塔机的不同位置上安装多个云台，每个云台包括摄像头以及陀螺仪传感器，使得单个塔机的所有摄像头的视野之和覆盖所述单个塔机的所有周围区域；

对于执行第一任务序列的第一塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳、全景拼接过程的第一完成时长序列；

对于执行第二任务序列的第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，基于获取到的陀螺仪传感器数据对采集到的图像进行电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、电子增稳、全景拼接过程的第二完成时长序列；

将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型-拼接完成时长-增稳类型的对照模型；

分析所述任务类型-拼接完成时长-增稳类型的对照模型，得到不同任务类型对应的最优增稳类型；

对于执行新任务序列的塔机，根据新的任务序列中每个任务的任务类型选择最优增稳类型，完成检测、拍摄、增稳、全景拼接过程，得到全景图像。

2.根据权利要求1所述的方法，其特征在于，

在每个塔机完成一个新任务序列后，将完成该新任务序列过程中的任务类型-拼接完成时长-增稳类型数据加入所述任务类型-拼接完成时长-增稳类型的对照模型以进行更新；

所述任务序列中的任务类型包括起升、变幅、回转、行走四种。

3.根据权利要求1所述的方法，其特征在于，

所述任务序列中的每个任务的参数中进一步包括任务吊装材料的类型、重量，将任务吊装材料的类型、重量的数据也加入所述任务类型-拼接完成时长-增稳类型的对照模型中。

4.根据权利要求1所述的方法，其特征在于，

所述对照模型使用卷积神经网络实现，使用塔机任务完成的历史数据训练所述对照模型。

5.根据权利要求1所述的方法，其特征在于，

所述光学增稳处理包括：

获取过幅抖动的方向、速度和移动量，计算出抵消所述过幅抖动的补偿移动量，控制所述摄像头在其安装的支架上移动所述补偿移动量，包括：

所述支架包括驱动单元，该驱动单元包括至少一个电机并且对所述摄像头执行摇摄操作和俯仰操作中的至少一种操作；

通过从陀螺仪传感器获取过幅抖动的方向、速度和移动量并控制驱动单元进行摇摄操作和俯仰操作中的至少一个操作，对使用摄像头获得的图像执行图像模糊校正；

其中，当图像模糊校正开始时，通过所述驱动单元的位置信息和过幅抖动的方向、速度和移动量来计算所述的补偿移动量，根据所述补偿移动量控制所述摄像头进行摇摄操作和/或俯仰操作。

6.根据权利要求1所述的方法，其特征在于，

所述电子增稳处理包括：

根据陀螺仪传感器数据判定摄像头运动情况；

对摄像头采集到的图像数据进行滤波和降噪；

通过帧差法判断图像的运动效果；

对图像像素点进行光流计算，对图像的特征点进行选取，进行运动矢量的估计，作为运动补偿的路径；

根据所述运动矢量对图像进行反向补偿，得到平稳的拍摄图像。

7.根据权利要求6所述的方法，其特征在于，

所述根据陀螺仪传感器数据判定摄像头运动情况，包括；

采集陀螺仪传感器的六轴数据；

对所述六轴数据进行数据滤波和零点校正；

对所述六轴数据进行温度补偿，补偿后的数据进行数据融合；

计算XYZ三个轴向的欧拉角，以表示摄像头的运动方向；

对三个轴线的欧拉角进行方差计算，以表示摄像头的实际振动振幅；

将方差阈值控制设置为迟滞回环的模式，方差大于高阈值时，开启电子增稳，方差小于低阈值时，关闭电子增稳。

8.根据权利要求1-7任一项所述的方法，其特征在于，

所述全景图像拼接，包括：

对于单个摄像头的相邻两个方向，均执行以下拼接操作：

接收由所述单个摄像头捕获的第一帧，第一帧包括像素值的第一空间排列；

确定第一重叠区域，该第一重叠区域包括来自摄像头的第一方向对应视场的与第二方向对应视场重叠的第一部分的像素值；

接收由该摄像头捕获的第二帧，第二帧包括像素值的第二空间排列；

确定第二重叠区域，该第二重叠区域包括来自与摄像头的第一方向对应视场重叠的摄像头的第二方向对应视场的第二部分的像素值；

基于包括第一帧和第二帧的一组帧生成全景帧，全景帧包括像素值的第三空间排列，其中像素值的第三空间排列包括：

第一帧区域包括选自第一帧的像素值；

第二帧区域包括选自第二帧的像素值；和

混合帧区域包括从第一重叠区域和第二重叠区域导出的像素值。

9.根据权利要求8所述的方法，其特征在于，

所述基于包括第一帧和第二帧的一组帧生成全景帧之后，进一步包括：

接收混合帧区域中的缝合接缝的第一指示；

在拼接接缝的第一侧接收混合帧区域中的第一混合限制的第二指示；

在拼接接缝的第二侧接收混合帧区域中的第二混合限制的第三指示；

在第一重叠区域的第一位置处确定第一重叠区域混合限制，该第一位置相当于混合帧区域中的第一混合限制的第二位置；

识别第一重叠区域的第一非重复部分，其中第一重叠区域的非重复部分包括从第一帧的第一边缘到第一重叠区域混合限制的像素值的第一空间排列的像素位置；

在第二重叠区域的第三位置处确定第二重叠区域混合限制，该第三位置相当于混合帧区域中的第二混合限制的第四位置；

识别第二重叠区域的第二非重复部分，其中第二重叠区域的非重复部分包括从第二帧的第二边缘到第二重叠区域混合限制的像素值的第二空间排列的像素位置。

10.一种多塔机云台全景图像抖动协调抑制系统，其特征在于，包括：

云台模块，用于在同一个施工现场区域内的多个塔机中，在每个塔机的不同位置上安装多个云台，每个云台包括摄像头以及陀螺仪传感器，使得单个塔机的所有摄像头的视野之和覆盖所述单个塔机的所有周围区域；

第一延迟计算模块，用于对于执行第一任务序列的第一塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，对该至少一个摄像头进行光学增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、光学增稳、全景拼接过程的第一完成时长序列；

第二延迟计算模块，用于对于执行第二任务序列的第二塔机，以预定周期驱动所有摄像头在同一时刻进行拍摄，当至少一个摄像头的陀螺仪传感器检测到过幅抖动时，基于获取到的陀螺仪传感器数据对采集到的图像进行电子增稳处理，获取所有摄像头的拍摄图像并完成全景图像拼接，记录完成上述检测、拍摄、电子增稳、全景拼接过程的第二完成时长序列；

对照模型模块，用于将所述第一完成时长序列和第二完成时长序列中的各个拍摄时刻分别与在该拍摄时刻所执行的任务类型和拼接完成时长、增稳类型相关联，从而建立任务类型-拼接完成时长-增稳类型的对照模型；

最优增稳分析模块，用于分析所述任务类型-拼接完成时长-增稳类型的对照模型，得到不同任务类型对应的最优增稳类型；

全景图像拼接模块，用于对于执行新任务序列的塔机，根据新的任务序列中每个任务的任务类型选择最优增稳类型，完成检测、拍摄、增稳、全景拼接过程，得到全景图像。