CN112991175B - 一种基于单ptz摄像头的全景图片生成方法及设备 - Google Patents

Abstract

本申请属于人工智能领域，涉及一种基于单PTZ摄像头的全景图片生成方法及设备，所述方法包括:使PTZ摄像头拍摄得到若干图片以得到按拍摄顺序排列的第一图片集；将第一图片集中纹理稀疏性不满足第一预设条件的图片删除得到第二图片集；提取第二图片集中相邻的图片作为图片对，对每个图片对进行区域匹配和特征匹配，判断根据区域匹配和特征匹配的联合匹配结果确定的每个图片对的有效特征匹配的特征点是否满足第二预设条件，若满足则将图片对包含的图片作为待拼接图片按拍摄顺序依次拼接融合得到全景图片。本申请还涉及区块链技术，所述待拼接图片可存储于区块链中。本申请采用单个PTZ摄像头即可拼接全景图片，可降低硬件成本，适用范围广，拼接速度快。

Description

一种基于单PTZ摄像头的全景图片生成方法及设备

技术领域

本申请涉及人工智能技术领域，尤其涉及基于单PTZ摄像头的全景图片生成方法、装置、计算机设备及存储介质。

背景技术

全景拼接是指在一个固定的观察点，能够提供水平方向上方位角180度的全景图片。目前市场中的全景摄像机主要分为两种：鱼眼全景摄像机和多镜头全景摄像机。鱼眼全景摄像机是由单传感器配套特殊的超广角鱼眼镜头，并依赖图像校正技术还原图像的鱼眼全景摄像机，鱼眼全景摄像机最终生成的全景图像即使经过校正也依然存在一定程度的失真和不自然；而多镜头全景摄像机虽然能够避免鱼眼镜头图像失真的缺点，但是由于摄像机数量较多，不但增加了成本，而且对于监控观察也会产生不利影响，比如中国专利申请号为201811533082.0采用多个摄像头拼接方案，摄像头太多不利于推广使用，并且标定等前期准备工作很多。

现有全景拼接采用比如SIFT，ORB等方式进行匹配，只适用于纹理丰富的室外自然环境，在纹理稀疏或局部重复的环境，特征匹配失误较多，无法得到准确的拼接参数，从而导致拼接失败。

发明内容

本申请实施例的目的在于提出一种基于单PTZ摄像头的全景图片生成方法、装置、计算机设备及存储介质，以解决现有技术生成全景图片时硬件复杂、生成过程对拍摄环境和原始图片要求高的问题。

为了解决上述技术问题，本申请实施例提供一种基于单PTZ摄像头的全景图片生成方法，采用了如下所述的技术方案：

一种基于单PTZ摄像头的全景图片生成方法，包括下述步骤：

使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片，基于所述若干图片得到按拍摄顺序排列的第一图片集；

判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除，得到第二图片集；

提取所述第二图片集中相邻的图片作为图片对，生成若干图片对，对每个所述图片对进行区域匹配和特征匹配，获取所述区域匹配和所述特征匹配的联合匹配结果，根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点；

判断所述有效特征匹配的特征点是否满足第二预设条件，若满足则将对应的图片对包含的图片作为待拼接图片，将所有的待拼接图片按拍摄顺序依次拼接融合得到全景图片。

为了解决上述技术问题，本申请实施例还提供一种基于单PTZ摄像头的全景图片生成装置，采用了如下所述的技术方案：

一种基于单PTZ摄像头的全景图片生成装置，包括：

图片采集模块，用于使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片，基于所述若干图片得到按拍摄顺序排列的第一图片集；

图片筛选模块，用于判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除，得到第二图片集；

匹配模块，用于提取所述第二图片集中相邻的图片作为图片对，生成若干图片对，对每个所述图片对进行区域匹配和特征匹配，获取所述区域匹配和所述特征匹配的联合匹配结果，根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点；

拼接模块，用于判断所述有效特征匹配的特征点是否满足第二预设条件，若满足则将对应的图片对包含的图片作为待拼接图片，将所有的待拼接图片按拍摄顺序依次拼接融合得到全景图片。

为了解决上述技术问题，本申请实施例还提供一种计算机设备，采用了如下所述的技术方案：

一种计算机设备，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如上所述的基于单PTZ摄像头的全景图片生成方法的步骤。

为了解决上述技术问题，本申请实施例还提供一种计算机可读存储介质，采用了如下所述的技术方案：

一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如上所述的基于单PTZ摄像头的全景图片生成方法的步骤。

与现有技术相比，本申请实施例提供的基于单PTZ摄像头的全景图片生成方法、装置、计算机设备及存储介质主要有以下有益效果：

仅使用一个PTZ摄像头，通过精准控制其水平运动，再联合特征匹配和区域匹配确定有效匹配的特征点，就可以拼接出一个全景图片，对生成全景图片时硬件的要求低，可降低硬件成本，对拍摄环境和原始图片要求低，室内室外都可以完成拼接，适用范围更广，此外拼接速度更快，可达到实时拼接。

附图说明

为了更清楚地说明本申请中的方案，下面将对本申请实施例描述中所需要使用的附图作一个简单介绍，下面描述中的附图对应于本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请可以应用于其中的示例性系统架构图；

图2是根据本申请的基于单PTZ摄像头的全景图片生成方法的一个实施例的流程图；

图3是根据本申请的基于单PTZ摄像头的全景图片生成装置的一个实施例的结构示意图；

图4是根据本申请的计算机设备的一个实施例的结构示意图。

具体实施方式

除非另有定义，本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同；本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的，不是旨在于限制本申请；本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形，意图在于覆盖不排他的包含。本申请说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

为了使本技术领域的人员更好地理解本申请方案，下面将结合附图，对本申请实施例中的技术方案进行清楚、完整地描述。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture ExpertsGroup Audio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving PictureExperts Group Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上显示的页面提供支持的后台服务器。

需要说明的是，本申请实施例所提供的基于单PTZ摄像头的全景图片生成方法一般由服务器执行，相应地，基于单PTZ摄像头的全景图片生成装置一般设置于服务器中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

继续参考图2，其示出了根据本申请的基于单PTZ摄像头的全景图片生成方法的一个实施例的流程图。所述的基于单PTZ摄像头的全景图片生成方法包括以下步骤：

S201，使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片，基于所述若干图片得到按拍摄顺序排列的第一图片集；

S202，判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除，得到第二图片集；

S203，提取所述第二图片集中相邻的图片作为图片对，生成若干图片对，对每个所述图片对进行区域匹配和特征匹配，获取所述区域匹配和所述特征匹配的联合匹配结果，根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点；

S204，判断所述有效特征匹配的特征点是否满足第二预设条件，若满足则将对应的图片对包含的图片作为待拼接图片，将所有的待拼接图片按拍摄顺序依次拼接融合得到全景图片。

下面对上述步骤进行展开说明。

对于步骤S201，PTZ为Pan/Tilt/Zoom的简写，代表云台全方位(左右/上下)移动及镜头变倍、变焦控制，PTZ摄像头是安防系统中一种支持全方位(上下、左右)移动及镜头变倍、变焦控制的摄像头。在本实施例中，PTZ摄像头的运动是基于时间控制的马达驱动方式，采集图片的视角范围为180度。

在具体实施例中，所述使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片的步骤包括：获取预设的运动参数，所述运动参数至少包括PTZ摄像头拍摄的起始位置和终止位置，以及单次运动时长和单次暂停时长；判断所述PTZ摄像头是否处于所述起始位置，若不是则使所述PTZ摄像头运动至所述起始位置，使所述PTZ摄像头从所述起始位置以所述单次运动时长和所述单次暂停时长为周期进行运动，并在每次所述单次暂停时长内拍摄至少一张图片，直到所述PTZ摄像头运动至所述终止位置。其中PTZ摄像头的运动方式为在同一平面内转动，假如起始位置为当前转动平面的最右边，单次运动时长和单次暂停时长分别为1.5秒和0.5秒，则获取图片的过程为控制PTZ摄像头首先转动至最右边，每次旋转1.5秒，然后暂停0.5秒，在暂停期间对焦完成后，快速采集至少一张清晰图片，再旋转1.5秒后进行下一次图片拍摄，待PTZ摄像头水平扫完至最左侧，完成若干张图片的连续采集，在一个场景下可大约采集10张连续且互不相同的图片，得到按拍摄顺序排列的第一图片集。在实际场景中，对于不同类型的PTZ摄像头，采用不同的单次运动时长和单次暂停时长采集到的图片数量将不同，本申请在此不做限定。

在一些实施例中，在拍摄得到若干图片后，对于每个所述单次暂停时长内拍摄多张图片的情形，可对该多张图片进行初步筛选，剔除因图片中物体处于运动状态导致拍摄模糊的图片，得到多张清晰连续的图片，提高后续拼接的成功率。

对于步骤S202，由于纹理稀疏性决定了图片是否适合进行特征提取，对于纹理非常稀疏的图片需要进行剔除。

在具体实施例中，所述判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除的步骤包括：根据所述第一图片集中的按顺序排列的图片，从位置最前和最后的图片开始，同步或异步向中间位置的图片依次进行纹理稀疏性判断，若当前判断的图片的纹理稀疏性不满足所述第一预设条件，则剔除所述当前判断的图片后进行下一幅图片的判断，直到首次得到纹理稀疏性满足所述第一预设条件的图片时停止判断。通过从前后位置的图片向中间位置的图片进行纹理稀疏性判断，且在首次判断出图片纹理稀疏性满足第一预设条件时停止判断，可以在保证图片连续性的同时去除不能进行拼接的图。

本实施例中具体根据图片像素点的梯度直方图来进行纹理稀疏性判断。

对于从第一张图片向中间图片的判断过程，计算每张图片在X方向和Y方向的梯度图，基于得到的梯度图计算得到梯度直方图，该梯度直方图包含256个bin，像素点之间的梯度幅值被累加至各bin，即bin中的数值为基于梯度幅值得到的统计量，基于梯度直方图统计梯度幅值处于预设范围(比如0到5)的像素点的数量，如果梯度幅值处于预设范围的像素点数量占图片总像素数的百分比达到预设阈值(比如70％)，则判定当前图片的纹理稀疏，不适合后续做特征匹配，则剔除当前图片，继续下一张图片的纹理稀疏性判断，若梯度幅值处于预设范围的像素点数量占图片总像素数的百分比达到预设阈值，则说明纹理稀疏性满足第一预设条件，则停止进行进一步的判断。

对于从最后一张图片向中间图片的判断过程，判断过程与前面从第一张图片向中间图片的判断过程相同，同样的，计算每张图片在X方向和Y方向的梯度图，基于得到的梯度图计算得到梯度直方图，基于梯度直方图统计梯度幅值处于预设范围的像素点的数量占图片总像素数的百分比是否达到预设阈值，若是则判定当前图片的纹理稀疏，剔除当前图片继续下一张图片的纹理稀疏性判断，否则说明纹理稀疏性满足第一预设条件，停止进行进一步的判断。

上述两个判断过程可以同步进行，也可以异步进行，最终保留下来的连续图片集(即第二图片集)中的图片被认为是合格可用于拼接融合的图片。

进一步地，在所述判断所述第一图片集中的图片的纹理稀疏性的步骤之前，所述方法还包括对所述第一图片集中任意相邻的两幅图片进行相似性判断筛选，其中筛选过程包括：确定相邻的两幅图片，在拍摄顺序在前的图片中选定ROI区域，在拍摄顺序在后的图片中匹配与所述ROI区域的相似区域，若所述相似区域在所述拍摄顺序在后的图片中的位置，与所述ROI区域在所述拍摄顺序在前的图片中的位置的相对位移量小于预设阈值，则判断所述相邻的两幅图片相同，并将所述拍摄顺序在前的图片剔除，直到完成所有图片的相似性判断。在本实施例中，ROI是指region of interest(感兴趣区域)，从被处理的图像中以方框、圆、椭圆、不规则多边形等方式勾勒出需要处理的区域，称为感兴趣区域，若PTZ摄像头正常工作，则采集到的前后两张连续图片(分别记为图片A和图片B)的重叠区域(或称相似区域)在图像中的位置是不同的，前述步骤基于此来判断图片是否相同，假如在图片A中选择图像的左半部分作为一个ROI区域，基于相关系数归一化的模板的匹配，在图像B中找到最相似区域的位置，如果跟ROI的位置一致，则说明图片A和图片B是同一张图片，则丢掉图片A，依次比较连续的两张图片后保留下来的图片，是一系列运动的图片集。

对于步骤S203，对每个图片对包含的两张连续的图片进行区域匹配时，所述区域匹配的过程包括：将所述图片对中的一幅图片的第一位置划分为多个第一区域，基于所述多个第一区域在所述图片对中的另一幅图片中匹配相应数量的多个第二区域；基于所述多个第二区域在所述第一位置的区域范围内匹配相应数量的第三区域；判断各所述第一区域是否存在一个可重合的第三区域，若是则保留存在可重合的第三区域的第一区域，记为匹配区域。分别记图片对包含的两张连续的图片为图片A和图片B，假如在把图片A右半部分划分为4个区域ROIA1，ROIA2，ROIA3，ROIA4，分别跟图片B做基于相关系数归一化的模板匹配，找到图片B中匹配的最佳位置ROIA1'，ROIA2'，ROIA3'，ROIA4'；再基于ROIA1'，ROIA2'，ROIA3'，ROIA4'进行交叉验证，使用图片B中的4个区域ROIA1'，ROIA2'，ROIA3'，ROIA4'分别跟图片A做基于相关系数归一化的模板匹配，找到最佳位置ROIA1”，ROIA2”，ROIA3”，ROIA4”，依次判断ROIA1”，ROIA2”，ROIA3”，ROIA4”跟ROIA1，ROIA2，ROIA3，ROIA4的位置是否相同，如果相同，则认为区域匹配正确，否则丢掉匹配失败的区域，比如ROIA1”，ROIA2”分别和ROIA1，ROIA2匹配，则丢弃ROIA3，ROIA4，将ROIA1，ROIA2作为匹配区域。

在一些实施例中，所述多个第一区域中相邻的两个区域可以部分重叠，由此在进行区域匹配时可以保留区域边界的特征，提高匹配的准确性。

进一步地，本步骤中对每个图片对包含的两张连续的图片进行特征匹配时，所述特征匹配的过程包括：分别提取所述图片对中两幅图片的ORB特征，所述ORB特征包含特征点和特征点的周围图像区域的特征信息，基于最近邻匹配法计算其中一幅图片的特征点在另一幅图片中匹配的特征点，再基于匹配的特征点进行反向交叉验证，得到两幅图的最佳匹配特征点。分别记图片对包含的两张连续的图片为图片A和图片B，其中的特征点采用二进制编码表示，当对图片A和图片B的特征点进行匹配时，图片A上特征点T1与图片B上特征点编码对应bit位上相同元素的个数最多的特征点T2被确定为特征匹配对，在进行反向交叉验证时，利用在图片B中确定的特征点T2在图片A中匹配特征点T3，若在图片A中匹配的特征点T3与特征点T1为同一特征点，则T1和T2为最佳匹配特征点。

在一些实施例中，若未得到最佳匹配特征点，则终止全景图片的生成过程，将PTZ摄像头重新定位至起始位置，进行新的全景图片的生成。

在另一些实施例中，若未得到最佳匹配特征点，则从上述相似性判断筛选后剔除出来的图片中匹配与所述图片对的图片在拍摄时间上临近的图片，若未匹配到则终止全景图片的生成过程，将PTZ摄像头重新定位至起始位置，进行新的全景图片的生成；若匹配到，则将匹配的图片代替所述图片对中的一幅图，重新进行区域匹配和特征匹配，若重新匹配后得到最佳匹配特征点，则进一步进行图片拼接融合，否者终止全景图片的生成过程。

对于步骤S204，根据根据区域匹配和特征匹配进行联合匹配来排查特征匹配的结果，通过使每对特征匹配的特征点所在位置符合区域匹配的关系，即特征点所在的区域也是最佳匹配最后得到的这些特征匹配就是有效的匹配特征点，比如在上述示例中ROIA1，ROIA2为匹配区域，T1和T2为最佳匹配特征点，若T1位于ROIA1，则判定特征点T1满足联合匹配，当满足联合匹配的特征点满足第二预设条件时，比如有效特征匹配的特征点的数量达到预设阈值(如3至5个)，则将图片对包含的图片作为拼接候选图，在对拼接候选图进行拼接融合时，可利用opencv中的stitching类，进行图像拼接和融合，得到一副完整的全景图片。

在一些实施例中，在执行完上述步骤后，还可以调整PTZ摄像头在垂直于上述步骤的运动轨迹上转动一定角度，生成一张新的全景图片，将生成的全景图片和上述步骤生成的全景图片进行拼接，可以得到取景范围更大的全景图片。

本申请提供的基于单PTZ摄像头的全景图片生成方法，仅使用一个PTZ摄像头，通过精准控制其水平运动，再联合特征匹配和区域匹配确定有效匹配的特征点，就可以拼接出一个全景图片，对生成全景图片时硬件的要求低，可降低硬件成本，对拍摄环境和原始图片要求低，室内室外都可以完成拼接，适用范围更广，此外拼接速度更快，可达到实时拼接。

需要强调的是，为进一步保证信息的私密和安全性，在得到所述待拼接图片之后，所述待拼接图片还可以按顺序存储于一区块链的节点中。

本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本申请可用于众多通用或专用的计算机系统环境或配置中。例如：个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机可读指令来指令相关的硬件来完成，该计算机可读指令可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)等非易失性存储介质，或随机存储记忆体(Random Access Memory，RAM)等。

应该理解的是，虽然附图的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，其可以以其他的顺序执行。而且，附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，其执行顺序也不必然是依次进行，而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。

进一步参考图3，作为对上述图2所示方法的实现，本申请提供了一种基于单PTZ摄像头的全景图片生成装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图3所示，本实施例所述的基于单PTZ摄像头的全景图片生成装置包括：图片采集模块301、图片筛选模块302、匹配模块303以及拼接模块304。

其中，所述图片采集模块301用于使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片，基于所述若干图片得到按拍摄顺序排列的第一图片集；所述图片筛选模块302用于判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除，得到第二图片集；所述匹配模块303用于提取所述第二图片集中相邻的图片作为图片对，生成若干图片对，对每个所述图片对进行区域匹配和特征匹配，获取所述区域匹配和所述特征匹配的联合匹配结果，根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点；所述拼接模块304用于判断所述有效特征匹配的特征点是否满足第二预设条件，若满足则将对应的图片对包含的图片作为待拼接图片，将所有的待拼接图片按拍摄顺序依次拼接融合得到全景图片。

在本实施例中，所述图片采集模块301控制PTZ摄像头的运动是基于时间控制的马达驱动方式，采集图片的视角范围为180度。

在具体实施例中，所述图片采集模块301使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片时，具体用于：获取预设的运动参数，所述运动参数至少包括PTZ摄像头拍摄的起始位置和终止位置，以及单次运动时长和单次暂停时长；判断所述PTZ摄像头是否处于所述起始位置，若不是则使所述PTZ摄像头运动至所述起始位置，使所述PTZ摄像头从所述起始位置以所述单次运动时长和所述单次暂停时长为周期进行运动，并在每次所述单次暂停时长内拍摄至少一张图片，直到所述PTZ摄像头运动至所述终止位置。具体参考上述方法实施例，在此不做展开。

在本实施例中，由于纹理稀疏性决定了图片是否适合进行特征提取，对于纹理非常稀疏的图片需要进行剔除。在具体实施例中，所述图片筛选模块302判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除时，具体用于：根据所述第一图片集中的按顺序排列的图片，从位置最前和最后的图片开始，同步或异步向中间位置的图片依次进行纹理稀疏性判断，若当前判断的图片的纹理稀疏性不满足所述第一预设条件，则剔除所述当前判断的图片后进行下一幅图片的判断，直到首次得到纹理稀疏性满足所述第一预设条件的图片时停止判断。通过从前后位置的图片向中间位置的图片进行纹理稀疏性判断，且在首次判断出图片纹理稀疏性满足第一预设条件时停止判断，可以在保证图片连续性的同时去除不能进行拼接的图。本实施例中具体根据图片像素点的梯度直方图来进行纹理稀疏性判断。具体参考上述方法实施例，在此不做展开。

在一些实施例中，所述图片筛选模块302在判断所述第一图片集中的图片的纹理稀疏性之前，还用于对所述第一图片集中任意相邻的两幅图片进行相似性判断筛选，其中筛选过程包括：确定相邻的两幅图片，在拍摄顺序在前的图片中选定ROI区域，在拍摄顺序在后的图片中匹配与所述ROI区域的相似区域，若所述相似区域在所述拍摄顺序在后的图片中的位置，与所述ROI区域在所述拍摄顺序在前的图片中的位置的相对位移量小于预设阈值，则判断所述相邻的两幅图片相同，并将所述拍摄顺序在前的图片剔除，直到完成所有图片的相似性判断。具体参考上述方法实施例，在此不做展开。

在本实施例中，所述匹配模块303对每个图片对包含的两张连续的图片进行区域匹配时，具体用于：将所述图片对中的一幅图片的第一位置划分为多个第一区域，基于所述多个第一区域在所述图片对中的另一幅图片中匹配相应数量的多个第二区域；基于所述多个第二区域在所述第一位置的区域范围内匹配相应数量的第三区域；判断各所述第一区域是否存在一个可重合的第三区域，若是则保留存在可重合的第三区域的第一区域，记为匹配区域。具体参考上述方法实施例，在此不做展开。

在一些实施例中，所述多个第一区域中相邻的两个区域可以部分重叠，由此在进行区域匹配时可以保留区域边界的特征，提高匹配的准确性。

进一步地，所述匹配模块303对每个图片对包含的两张连续的图片进行特征匹配时，具体用于：分别提取所述图片对中两幅图片的ORB特征，所述ORB特征包含特征点和特征点的周围图像区域的特征信息，基于最近邻匹配法计算其中一幅图片的特征点在另一幅图片中匹配的特征点，再基于匹配的特征点进行反向交叉验证，得到两幅图的最佳匹配特征点。具体参考上述方法实施例，在此不做展开。

在一些实施例中，若所述匹配模块303未得到最佳匹配特征点，则终止全景图片的生成过程，将PTZ摄像头重新定位至起始位置，进行新的全景图片的生成。

在另一些实施例中，若所述匹配模块303未得到最佳匹配特征点，则从上述相似性判断筛选后剔除出来的图片中匹配与所述图片对的图片在拍摄时间上临近的图片，若未匹配到则终止全景图片的生成过程，将PTZ摄像头重新定位至起始位置，进行新的全景图片的生成；若匹配到，则将匹配的图片代替所述图片对中的一幅图，重新进行区域匹配和特征匹配，若重新匹配后得到最佳匹配特征点，则进一步进行图片拼接融合，否者终止全景图片的生成过程。

在本实施例中，所述拼接模块304根据根据区域匹配和特征匹配进行联合匹配来排查特征匹配的结果，通过使每对特征匹配的特征点所在位置符合区域匹配的关系，即特征点所在的区域也是最佳匹配最后得到的这些特征匹配就是有效的匹配特征点，在对拼接候选图进行拼接融合时，可利用opencv中的stitching类，进行图像拼接和融合，得到一副完整的全景图片。

在一些实施例中，在得到一幅全景图后，所述图片采集模块301还可以调整PTZ摄像头在垂直于上述步骤的运动轨迹上转动一定角度，再由图片采集模块301、图片筛选模块302、匹配模块303以及拼接模块304配合生成一张新的全景图片，最后拼接模块304将生成的全景图片和在先生成的全景图片进行拼接，可以得到取景范围更大的全景图片。

本申请提供的基于单PTZ摄像头的全景图片生成装置，仅使用一个PTZ摄像头，通过精准控制其水平运动，再联合特征匹配和区域匹配确定有效匹配的特征点，就可以拼接出一个全景图片，对生成全景图片时硬件的要求低，可降低硬件成本，对拍摄环境和原始图片要求低，室内室外都可以完成拼接，适用范围更广，此外拼接速度更快，可达到实时拼接。

为解决上述技术问题，本申请实施例还提供计算机设备。具体请参阅图4，图4为本实施例计算机设备基本结构框图。所述计算机设备4包括通过系统总线相互通信连接存储器41、处理器42、网络接口43，所述存储器41中存储有计算机可读指令，所述处理器42执行所述计算机可读指令时实现上述方法实施例中所述的基于单PTZ摄像头的全景图片生成方法的步骤，并具有与上述基于单PTZ摄像头的全景图片生成方法相对应的有益效果，在此不作展开。

需要指出的是，图中仅示出了具有存储器41、处理器42、网络接口43的计算机设备4，但是应理解的是，并不要求实施所有示出的组件，可以替代的实施更多或者更少的组件。其中，本技术领域技术人员可以理解，这里的计算机设备是一种能够按照事先设定或存储的指令，自动进行数值计算和/或信息处理的设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程门阵列(Field－Programmable Gate Array，FPGA)、数字处理器(Digital Signal Processor，DSP)、嵌入式设备等。

所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。

在本实施例中，所述存储器41至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中，所述存储器41可以是所述计算机设备4的内部存储单元，例如该计算机设备4的硬盘或内存。在另一些实施例中，所述存储器41也可以是所述计算机设备4的外部存储设备，例如该计算机设备4上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。当然，所述存储器41还可以既包括所述计算机设备4的内部存储单元也包括其外部存储设备。本实施例中，所述存储器41通常用于存储安装于所述计算机设备4的操作系统和各类应用软件，例如对应于上述基于单PTZ摄像头的全景图片生成方法的计算机可读指令等。此外，所述存储器41还可以用于暂时地存储已经输出或者将要输出的各类数据。

所述处理器42在一些实施例中可以是中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器42通常用于控制所述计算机设备4的总体操作。本实施例中，所述处理器42用于运行所述存储器41中存储的计算机可读指令或者处理数据，例如运行对应于所述基于单PTZ摄像头的全景图片生成方法的计算机可读指令。

所述网络接口43可包括无线网络接口或有线网络接口，该网络接口43通常用于在所述计算机设备4与其他电子设备之间建立通信连接。

本申请还提供了另一种实施方式，即提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可读指令，所述计算机可读指令可被至少一个处理器执行，以使所述至少一个处理器执行如上述的基于单PTZ摄像头的全景图片生成方法的步骤，并具有与上述基于单PTZ摄像头的全景图片生成方法相对应的有益效果，在此不作展开。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本申请各个实施例所述的方法。

显然，以上所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例，附图中给出了本申请的较佳实施例，但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现，相反地，提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明，对于本领域的技术人员来而言，其依然可以对前述各具体实施方式所记载的技术方案进行修改，或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构，直接或间接运用在其他相关的技术领域，均同理在本申请专利保护范围之内。

Claims (8)

1.一种基于单PTZ摄像头的全景图片生成方法，其特征在于，包括下述步骤：

使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片，基于所述若干图片得到按拍摄顺序排列的第一图片集；

判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除，得到第二图片集；

提取所述第二图片集中相邻的图片作为图片对，生成若干图片对，对每个所述图片对进行区域匹配和特征匹配，获取所述区域匹配和所述特征匹配的联合匹配结果，根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点；

判断所述有效特征匹配的特征点是否满足第二预设条件，若满足则将对应的图片对包含的图片作为待拼接图片，将所有的待拼接图片按拍摄顺序依次拼接融合得到全景图片；

其中，所述区域匹配的过程包括：将所述图片对中的一幅图片的第一位置划分为多个第一区域，基于所述多个第一区域在所述图片对中的另一幅图片中匹配相应数量的多个第二区域；基于所述多个第二区域在所述第一位置的区域范围内匹配相应数量的第三区域；判断各所述第一区域是否存在一个可重合的第三区域，若是则保留存在可重合的第三区域的第一区域，记为匹配区域；

所述特征匹配的过程包括：分别提取所述图片对中两幅图片的ORB特征，所述ORB特征包含特征点和特征点的周围图像区域的特征信息，基于最近邻匹配法计算其中一幅图片的特征点在另一幅图片中匹配的特征点，再基于匹配的特征点进行反向交叉验证，得到两幅图的最佳匹配特征点；

所述根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点包括：获取每个所述图片对的匹配区域和最佳匹配特征点，将位于匹配区域的最佳匹配特征点作为每个所述图片对的有效特征匹配的特征点。

2.根据权利要求1所述的基于单PTZ摄像头的全景图片生成方法，其特征在于，所述判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除的步骤包括：

根据所述第一图片集中的按顺序排列的图片，从位置最前和最后的图片开始，同步或异步向中间位置的图片依次进行纹理稀疏性判断，若当前判断的图片的纹理稀疏性不满足所述第一预设条件，则剔除所述当前判断的图片后进行下一幅图片的判断，直到首次得到纹理稀疏性满足所述第一预设条件的图片时停止判断。

3.根据权利要求2所述的基于单PTZ摄像头的全景图片生成方法，其特征在于，在所述判断所述第一图片集中的图片的纹理稀疏性的步骤之前，所述方法还包括对所述第一图片集中任意相邻的两幅图片进行相似性判断筛选，其中筛选过程包括：

确定相邻的两幅图片，在拍摄顺序在前的图片中选定ROI区域，在拍摄顺序在后的图片中匹配与所述ROI区域的相似区域，若所述相似区域在所述拍摄顺序在后的图片中的位置，与所述ROI区域在所述拍摄顺序在前的图片中的位置的相对位移量小于预设阈值，则判断所述相邻的两幅图片相同，并将所述拍摄顺序在前的图片剔除，直到完成所有图片的相似性判断。

4.根据权利要求1至3任一项所述的基于单PTZ摄像头的全景图片生成方法，其特征在于，所述使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片的步骤包括：

获取预设的运动参数，所述运动参数至少包括PTZ摄像头拍摄的起始位置和终止位置，以及单次运动时长和单次暂停时长；

判断所述PTZ摄像头是否处于所述起始位置，若不是则使所述PTZ摄像头运动至所述起始位置，使所述PTZ摄像头从所述起始位置以所述单次运动时长和所述单次暂停时长为周期进行运动，并在每次所述单次暂停时长内拍摄至少一张图片，直到所述PTZ摄像头运动至所述终止位置。

5.根据权利要求1至3任一项所述的基于单PTZ摄像头的全景图片生成方法，其特征在于，在得到所述待拼接图片之后还包括：将所述待拼接图片按顺序存储至区块链中。

6.一种基于单PTZ摄像头的全景图片生成装置，其特征在于，包括：

图片采集模块，用于使PTZ摄像头以预设的运动参数运动并拍摄得到若干图片，基于所述若干图片得到按拍摄顺序排列的第一图片集；

图片筛选模块，用于判断所述第一图片集中的图片的纹理稀疏性，将纹理稀疏性不满足第一预设条件的图片删除，得到第二图片集；

匹配模块，用于提取所述第二图片集中相邻的图片作为图片对，生成若干图片对，对每个所述图片对进行区域匹配和特征匹配，获取所述区域匹配和所述特征匹配的联合匹配结果，根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点；

拼接模块，用于判断所述有效特征匹配的特征点是否满足第二预设条件，若满足则将对应的图片对包含的图片作为待拼接图片，将所有的待拼接图片按拍摄顺序依次拼接融合得到全景图片；

其中，所述匹配模块进行区域匹配时具体用于：将所述图片对中的一幅图片的第一位置划分为多个第一区域，基于所述多个第一区域在所述图片对中的另一幅图片中匹配相应数量的多个第二区域；基于所述多个第二区域在所述第一位置的区域范围内匹配相应数量的第三区域；判断各所述第一区域是否存在一个可重合的第三区域，若是则保留存在可重合的第三区域的第一区域，记为匹配区域；

所述匹配模块进行特征匹配时具体用于：分别提取所述图片对中两幅图片的ORB特征，所述ORB特征包含特征点和特征点的周围图像区域的特征信息，基于最近邻匹配法计算其中一幅图片的特征点在另一幅图片中匹配的特征点，再基于匹配的特征点进行反向交叉验证，得到两幅图的最佳匹配特征点；

所述匹配模块进行根据所述联合匹配结果确定每个所述图片对的有效特征匹配的特征点时具体用于：获取每个所述图片对的匹配区域和最佳匹配特征点，将位于匹配区域的最佳匹配特征点作为每个所述图片对的有效特征匹配的特征点。

7.一种计算机设备，其特征在于，包括存储器和处理器，所述存储器中存储有计算机可读指令，所述处理器执行所述计算机可读指令时实现如权利要求1至5中任一项所述的基于单PTZ摄像头的全景图片生成方法的步骤。

8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机可读指令，所述计算机可读指令被处理器执行时实现如权利要求1至5中任一项所述的基于单PTZ摄像头的全景图片生成方法的步骤。