CN114565815A - 一种基于三维模型的视频智能融合方法及系统 - Google Patents
一种基于三维模型的视频智能融合方法及系统 Download PDFInfo
- Publication number
- CN114565815A CN114565815A CN202210182143.3A CN202210182143A CN114565815A CN 114565815 A CN114565815 A CN 114565815A CN 202210182143 A CN202210182143 A CN 202210182143A CN 114565815 A CN114565815 A CN 114565815A
- Authority
- CN
- China
- Prior art keywords
- feature
- information
- image
- information set
- characteristic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000007500 overflow downdraw method Methods 0.000 title claims abstract description 21
- 238000012545 processing Methods 0.000 claims abstract description 124
- 230000004927 fusion Effects 0.000 claims abstract description 109
- 239000000463 material Substances 0.000 claims abstract description 74
- 238000012216 screening Methods 0.000 claims abstract description 70
- 238000012544 monitoring process Methods 0.000 claims abstract description 41
- 238000000034 method Methods 0.000 claims abstract description 37
- 238000000605 extraction Methods 0.000 claims abstract description 33
- 238000003066 decision tree Methods 0.000 claims description 72
- 238000011156 evaluation Methods 0.000 claims description 24
- 238000012549 training Methods 0.000 claims description 20
- 238000004458 analytical method Methods 0.000 claims description 14
- 238000012795 verification Methods 0.000 claims description 13
- 238000010276 construction Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 238000013461 design Methods 0.000 claims description 5
- 238000010200 validation analysis Methods 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 230000002159 abnormal effect Effects 0.000 description 5
- 238000007726 management method Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 239000000284 extract Substances 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 238000007637 random forest analysis Methods 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- VNWKTOKETHGBQD-UHFFFAOYSA-N methane Chemical compound C VNWKTOKETHGBQD-UHFFFAOYSA-N 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000003345 natural gas Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种基于三维模型的视频智能融合方法及系统,方法包括:遍历第一站场图像采集装置,获得第一视频融合素材进行特征提取,获得第一特征信息集包括第一特征值信息集和第一特征类型信息集输入图像筛选模型,获得第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;遍历待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;将待处理图像集依次输入第一处理模块、第二处理模块直到第N处理模块,获得第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;根据第一处理结果图像集和第一相对位置坐标集,构建第一三维全景监控图。
Description
技术领域
本发明涉及人工智能相关技术领域,具体涉及一种基于三维模型的视频智能融合方法及系统。
背景技术
站场综合安防系统主要是通过视频监控技术为基构建安全管理体系,为了提高安防管控过程中人力物力资源的调度效率,通过视频监控技术准确定位监控站点的具体位置是一项重要任务,传统的视频监控技术并不存在对监控地点和场景定位方法,主要通过图像或图像中标注的地点名称进行关联进而实现视频图像在监测地理位置中的定位。
然而随着视频监控装置的视频采集范围逐渐扩大,依赖图像或图像中标注的地点名称逐渐难以实现视频图像的准确定位。
针对以上问题,基于三维建模技术和定位系统的支持,提出了视频融合的概念,通过三维地图模型将传统多个站点监控的多个监测图像一体化为全景视频进行监控,可以得到准确的定位信息,从而实现安防管控。
但是当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题。
发明内容
本申请实施例通过提供了一种基于三维模型的视频智能融合方法及系统,解决了现有技术中由于当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题。
鉴于上述问题,本申请实施例提供了一种基于三维模型的视频智能融合方法及系统。
第一方面,本申请实施例提供了一种基于三维模型的视频智能融合方法,其中,所述方法包括:遍历第一站场图像采集装置,获得第一视频融合素材;对所述第一视频融合素材进行特征提取,获得第一特征信息集,其中,所述第一特征信息集包括第一特征值信息集和第一特征类型信息集;将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,其中,所述第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;遍历所述待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;将所述待处理图像集依次输入所述第一处理模块、所述第二处理模块直到所述第N处理模块,获得第一处理结果图像集将所述第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;根据所述第一处理结果图像集和所述第一相对位置坐标集,构建第一三维全景监控图。
另一方面,本申请实施例提供了一种基于三维模型的视频智能融合系统,其中,所述系统包括:第一获得单元,用于遍历第一站场图像采集装置,获得第一视频融合素材;第二获得单元,用于对所述第一视频融合素材进行特征提取,获得第一特征信息集,其中,所述第一特征信息集包括第一特征值信息集和第一特征类型信息集;第三获得单元,用于将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,其中,所述第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;第一匹配单元,用于遍历所述待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;第四获得单元,用于将所述待处理图像集依次输入所述第一处理模块、所述第二处理模块直到所述第N处理模块,获得第一处理结果图像集;第五获得单元,用于将所述第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;第一构建单元,用于根据所述第一处理结果图像集和所述第一相对位置坐标集,构建第一三维全景监控图。
第三方面,本申请实施例提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,所述处理器执行所述程序时实现第一方面任一项所述方法的步骤。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现第一方面任一项所述的方法。
本申请实施例中提供的一个或多个技术方案,至少具有如下技术效果或优点:
由于采用了通过图像采集装置对站场各个位置的图像信息进行采集设为视频融合素材,进一步对视频融合素材进行特征提取,得到特征值信息和特征类型信息;基于图像筛选模型对不满足要求的特征信息进行筛选,从而得到对应需要进行处理的图像集,根据不同的特征信息匹配处理模块对图像集进行加工处理,处理完毕后将处理后的图像集输入空间坐标系,得到相对位置坐标集,依据相对位置坐标集对处理后的图像集,结合视频融合素材中不需要处理的图像集合进行三维全景监控图的构建拼接的技术方案,对视频融合素材影响三维全景构建的多项特征进行提取,并实用智能化模型对各特征值的异常情况进行识别,从而实现了待处理图像集的自动识别,继而匹配对应的处理模块,实现自动化处理,提高了视频融合的智能化,达到了降低人工协助程度,提高视频融合效率的技术效果。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。
附图说明
图1为本申请实施例提供了一种基于三维模型的视频智能融合方法流程示意图;
图2为本申请实施例提供了一种基于三维模型的视频智能融合方法中的视频融合素材采集方法流程示意图;
图3为本申请实施例提供了一种基于三维模型的视频智能融合系统结构示意图;
图4为本申请实施例示例性电子设备的结构示意图。
附图标记说明:第一获得单元11,第二获得单元12,第三获得单元13,第一匹配单元14,第四获得单元15,第五获得单元16,第一构建单元17,电子设备300,存储器301,处理器302,通信接口303,总线架构304。
具体实施方式
本申请实施例通过提供了一种基于三维模型的视频智能融合方法及系统,解决了现有技术中由于当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题,通过对视频融合素材影响三维全景构建的多项特征进行提取,并实用智能化模型对各特征值的异常情况进行识别,从而实现了待处理图像集的自动识别,继而匹配对应的处理模块,实现自动化处理,提高了视频融合的智能化,达到了降低人工协助程度,提高视频融合效率的技术效果。
申请概述
通过三维地图模型将传统多个站点监控的多个监测图像一体化为全景视频进行监控,可以得到准确的定位信息,从而实现安防管控。但是当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题。。
针对上述技术问题,本申请提供的技术方案总体思路如下:
本申请实施例通过提供了一种基于三维模型的视频智能融合方法及系统,由于采用了通过图像采集装置对站场各个位置的图像信息进行采集设为视频融合素材,进一步对视频融合素材进行特征提取,得到特征值信息和特征类型信息;基于图像筛选模型对不满足要求的特征信息进行筛选,从而得到对应需要进行处理的图像集,根据不同的特征信息匹配处理模块对图像集进行加工处理,处理完毕后将处理后的图像集输入空间坐标系,得到相对位置坐标集,依据相对位置坐标集对处理后的图像集,结合视频融合素材中不需要处理的图像集合进行三维全景监控图的构建拼接的技术方案。解决了现有技术中由于当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题,通过对视频融合素材影响三维全景构建的多项特征进行提取,并实用智能化模型对各特征值的异常情况进行识别,从而实现了待处理图像集的自动识别,继而匹配对应的处理模块,实现自动化处理,提高了视频融合的智能化,达到了降低人工协助程度,提高视频融合效率的技术效果。
在介绍了本申请基本原理后,下面将结合说明书附图来具体介绍本申请的各种非限制性的实施方式。
实施例一
如图1所示,本申请实施例提供了一种基于三维模型的视频智能融合方法,其中,所述方法包括:
S100:遍历第一站场图像采集装置,获得第一视频融合素材;
具体而言,智慧站场是近些年随着物联网技术一同发展起来的概念,旨在应用物联网技术,基于机器学习等人工智能,实现站场内的数字化管理,智能化管理。在安全防护方面,提出了通过智能化的监控技术,实现安全隐患的预警、分析、预测和决策,为了实现智能化的监测,基于三维模型的三维全景监控技术的应用是必然趋势,但是现有技术的局限性导致一般的三维全景监控技术难以嫁接到诸如自然资源、大规模运输站场这种类型大型站场的监控系统中,本申请实施例中详细介绍了如何解决图像融合过程对于人工依赖较大的局限性问题。
所述第一站场指的是项目中进行执行业务工作的多个节点中的任意一个节点对应的场所,示例性地如:列车通过和停靠的场地、运输过程通过和停靠的场地、天然气等自然资源设定的进行开采、运输、存储其中一项或者多项业务的场地等;所述第一图像采集装置指的是部署在第一站场的各个位置进行图像采集的摄像装置,包括静态的固定采集装置和动态的移动采集装置中的一种或者两种,示例性地如:智能摄像头、无人机、机器人等采集装置,当图形传输入第一图像采集装置后,同步上传基于GPS定位系统对图像采集位置的具体定位信息对采集的图像信息和采集时间信息进行标识;所述第一视频融合素材将采集时间、定位信息和采集的图像一一对应进行存储,基于时序进行排序之后得到的结果,置为待响应状态,便于后步快速调用处理。
S200:对所述第一视频融合素材进行特征提取,获得第一特征信息集,其中,所述第一特征信息集包括第一特征值信息集和第一特征类型信息集;
具体而言,所述第一特征信息集指的是表征会对视频融合产生影响的图像特征信息,包括但不限于:聚焦特征信息、重合特征信息、三维建模拼接特征等信息。进一步的,拼接特征信息又包括:拼接角度、拼接位置等信息;聚焦特征信息又包括:拍摄聚焦范围、视频畸变程度等信息;重合特征信息又包括:重合位置、重合程度等信息。优选的将以如下形式进行存储:{聚焦特征[拍摄聚焦范围,视频畸变程度],重合特征[重合位置,重合程度],拼接特征[拼接角度,拼接位置]}。
更进一步的,第一特征信息集的特征提取方式优选的采用通过卷积神经网络训练构建的特征提取模型进行处理得到,特征提取模型的构建原理举不设限制一例说明:在已经构建了三维全景融合模型的历史数据中,采集多组视频融合素材历史数据,再基于构建三维全景融合模型的过程确定特征信息集的标识信息,将视频融合素材历史数据设为训练输入数据,将基于构建三维全景融合模型的过程确定特征信息集的标识信息设为有监督学习输出标识信息,基于卷积神经网络训练特征提取模型,模型达到收敛后即可使用对第一视频融合素材中的特征进行提取,其中,卷积神经网络是人工神经网络的一种,常用于视频和图像的特征提取,具有效率和准确率较高的优点,第一特征信息集的提取类型可由工作人员自定义设定,提取完成后则如上述形式进行存储,便于后步快速调用处理。
所述第一特征值信息集指的是第一特征信息集的所有特征信息的特征值集合;所述第一特征类型信息集指的是表征第一特征值信息集的特征类型的数据。进一步的,遍历第一特征信息集,得到全部特征的特征值具体信息,将特征值和特征类型一一对应进行存储,存储形式优选的如下:(特征类型:特征值),举不设限制两例如:(拍摄聚焦范围特征:聚焦范围值)、(视频畸变特征:畸变程度具体值)等,通过确定所有视频素材的第一特征信息集对应的第一特征值信息集,保障了后步图像筛选过程的准确性。
S300:将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,其中,所述第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;
具体而言,所述图像筛选模型指的是基于第一特征值信息集和第一特征类型信息集对第一视频融合素材进行筛选的过程,由于在第一视频融合素材中一部分素材的第一特征值信息集是满足构建三维全景图的要求;而另一部分素材的第一特征值信息集中的一项或者多项是不满足构建三维全景图的要求,因此需要通过图像筛选模型基于第一特征类型信息集判断第一视频融合素材中全部图像的特征值是否满足构建三维全景图的要求。
图像筛选模型优选的基于随机决策树森林训练构建,随机决策树森林指的是通过拟合多个决策树,集成为整体模型基于第一特征值信息集和第一特征类型信息集对第一视频融合素材进行二分类的,训练过程举不设限制的一例:
第一步输入多层级的第一特征类型信息集构建决策树的大体框架,将对应的第一特征值信息集都添加到对应的节点上,决策树框架的每个节点对应于一个特征类型和一个特征值,示例性地如:{聚焦特征[拍摄聚焦范围,视频畸变程度],重合特征[重合位置,重合程度],拼接特征[拼接角度,拼接位置]},则至少构建三棵子决策树,第一棵决策树框架的根节点为聚焦特征,第二层叶子节点为拍摄聚焦范围,视频畸变程度;第二棵决策树框架的根节点为重合特征,第二层叶子节点为重合位置,重合程度;第三棵决策树框架的根节点为拼接特征,第二层叶子节点为拼接角度,拼接位置,相应的特征值添加进对应的叶子节点,最后将三棵子决策树合并,得到大的决策树框架。
第二步确定第一特征类型信息集对应的预设特征值,预设特征值指的是表征特征类型的特征值是否需要调整的临界特征值,由工作人员自定义基于经验自定义调整,当第一特征值信息集满足对应预设特征值则需要对相应的视频融合素材的相应特征进行处理,由于视频融合素材的冗杂和特征信息识别的复杂性,人工识别处理效率极低,因此通过将预设特征值添加进第一步已经构建完成的决策树框架中,进行训练更新决策树,得到图像筛选模型,进而实现对第一视频融合素材的自动化筛选,第一特征类型信息集之间为逻辑与的关系,只有全部满足第一特征类型信息集的图像符合构建三维全景监控视频的条件,将满足第一特征类型信息集的图像记为待构图素材,便于后步调用处理。
所述第一筛选结果指的是表征经过图像筛选模型筛选出的不满足构建三维全景监控视频的条件的视频融合素材集合;所述待处理图像集指的是不满足构建三维全景监控视频的条件的视频融合素材集合对应的图像集合;所述待处理特征信息集指的是表征待处理图像集未筛选通过的特征值对应的特征信息,包括特征类型和特征值偏离度,其中,特征值偏离度指的是未筛选通过的特征值和预设特征值之间的偏差,同一个图像信息可能包括一个或者多个待处理特征信息,将待处理图像与待处理特征信息优选的以列表形式关联存储,便于后步调用。通过图像筛选模型实现对第一视频融合素材需要调整图像信息进行提取,并识别出需要调整的具体特征类型和特征值偏离度,保证了后步图像处理的精确性。
S400:遍历所述待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;
S500:将所述待处理图像集依次输入所述第一处理模块、所述第二处理模块直到所述第N处理模块,获得第一处理结果图像集;
具体而言,第一处理模块、第二处理模块直到第N处理模块指的是基于待处理特征信息集中的特征类型信息匹配的一一对应的功能处理模块,此处假设具有N个待处理的特征类型,示例性地如:若是重合位置,重合程度出现了偏差,则对应的处理模块将重合位置和重合程度的特征值调整至预设特征值对应的数值。依次将待处理图像集输入第一处理模块、第二处理模块直到第N处理模块,若是待处理图像具有对应的特征类型,则启动对应的处理模块进行处理,不具有则不启动,当待处理图像的最后一个图像从第N处理模块输出时,则调整完成。所述第一处理结果图像集指的是通过第一处理模块、第二处理模块直到第N处理模块对待处理图像集进行处理之后的结果,将处理之后的图像记为待构图素材,便于后步调用处理。
通过第一处理模块、第二处理模块直到第N处理模块可以实现对待处理特征信息集的自动化处理,提高了视频融合的智能性和处理效率。
S600:将所述第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;
具体而言,所述第一空间坐标系指的是为了将多个摄像装置采集的零散图像构建为全景图像而构建的统一的三维虚拟网格坐标空间,通过网格坐标空间可以实现对空间图像的具体定位,进而实现拼接,将前述记为待构图素材的全部图像信息输入第一空间坐标系,基于GPS定位系统上传的位置信息在第一空间坐标系确定相对位置信息,实现坐标位置的统一,便于后步信息反馈处理。所述第一相对位置坐标集指的是当接收到第一处理结果图像集时,并行调取在图像筛选模型中满足第一特征类型信息集的图像符合构建三维全景监控视频条件的视频融合素材一同输入第一空间坐标系,基于GPS定位系统上传的位置信息进行相对坐标位置统一之后的结果。
S700:根据所述第一处理结果图像集和所述第一相对位置坐标集,构建第一三维全景监控图。
具体而言,基于聚焦特征信息、重合特征信息、三维建模拼接特征等信息对坐标位置统一的第一处理结果图像集和在图像筛选模型中满足第一特征类型信息集的图像符合构建三维全景监控视频条件的视频融合素材,进行拼接构建三维全景模型,更进一步的,所述第一三维全景监控图指的是基于实际场景对三维全景模型进行渲染之后得到的视频融合结果。由于三维建模的影响特征信息,即为聚焦特征信息、重合特征信息、三维建模拼接特征等信息和建模素材,即为第一视频融合素材都已经提供,且三维建模技术和渲染技术已经相对成熟,在此不多加赘述。通过第一三维全景监控图即可进行第一站场的安防工作,且构建过程省却了人工处理过程,提高了自动化处理能力和智能化程度。
进一步的,如图2所示,基于所述遍历第一站场图像采集装置,获得第一视频融合素材,步骤S100包括:
S110:根据所述第一站场图像采集装置,获得第一固定图像采集装置和第一移动图像采集装置;
S120:根据所述第一固定图像采集装置,获得第一图像采集结果;
S130:遍历所述第一图像采集结果和第一站场全景设计图进行特征比对,获得第一图像采集盲点;
S140:基于所述第一图像采集盲点,调用所述第一移动图像采集装置进行图像采集,获得第二图像采集结果;
S150:将所述第一图像采集结果和所述第二图像采集结果添加进所述第一视频融合素材,其中,所述第一视频融合素材满足第一预设时间粒度。
具体而言,所述第一固定图像采集装置指的是部署在第一站场中多个位置进行监控的固定摄像装置,举不设限制一例为:和基于三维模型的视频智能融合系统通信连接的摄像头;所述第一移动图像采集装置指的是部署在第一站场中的多个可移动的图像采集设备,举不设限制一例为:和基于三维模型的视频智能融合系统通信连接的拍摄机器人;所述第一图像采集结果指的是通过第一固定图像采集装置对各自图像采集范围内采集的图像集合;所述第一站场全景设计图指的是第一站场全景静态图;所述第一图像采集盲点指的是将第一图像采集结果中覆盖的区域和第一站场全景设计图进行比对得到的第一图像采集结果未覆盖的图像采集区域;所述第二图像采集结果指的是调度距离第一图像采集盲点最近的第一移动图像采集装置对相应盲点进行图像采集的结果;所述第一预设时间粒度指的是预设视频融合素材采集的时区,包括但不限于历史监控数据某时区的视频融合素材、实时的视频融合素材;将满足第一预设时间粒度的第一图像采集结果和第二图像采集结果设为第一视频融合素材,等待后步调用。通过第一预设时间粒度的设定可以实现对历史监控信息的全景回溯和实时监控信息的全景展现。
进一步的,基于所述对所述第一视频融合素材进行特征提取,获得第一特征信息集,步骤S200包括:
S210:获得第一预设特征提取维度,其中,所述第一预设特征提取维度包括一级预设维度、二级预设维度、三级预设维度;
S220:基于所述一级预设维度对所述第一视频融合素材进行特征提取,获得聚焦特征信息集;
S230:基于所述二级预设维度遍历所述聚焦特征信息集,获得拼接特征信息集;
S240:基于所述三级预设维度和所述拼接特征信息集,遍历所述聚焦特征信息集,获得重合特征信息集;
S250:将所述聚焦特征信息集、所述拼接特征信息集和所述重合特征信息集添加进所述第一特征信息集。
具体而言,所述第一预设特征提取维度指的是工作人员基于历史数据自定义的影响视频融合的特征维度;所述一级预设维度表征聚焦特征信息维度,所述聚焦特征信息集指的是基于特征提取模型对第一视频融合素材中的一级预设维度的特征信息提取得到的信息集。
所述二级预设维度表征拼接特征维度,所述拼接特征信息集指的是针对第一视频融合素材中的二级预设维度的特征信息遍历提取得到的信息集,其中,遍历所述聚焦特征信息集指的是为了使得进行拼接特征提取后的视频融合素材仍具有聚焦特征,遍历多组具有不同聚焦特征信息的视频融合素材依次处理,提取拼接特征信息集的过程。
所述三级表征预设维度表征重合特征维度,所述重合特征信息集指的是在具有聚焦特征信息集和拼接特征信息集的基础上优选的使用特征提取模型对视频融合素材提取重合特征信息的结果。将视频融合素材中的聚焦特征信息集、拼接特征信息集和重合特征信息集和对应的图像信息关联存储,记为第一特征信息集。聚焦特征信息集、拼接特征信息集和重合特征信息集是本申请实施例中视频融合影响特征的优选例,工作人员可根据实际场景自定义添加或者调整,若是出现其它不同于聚焦特征信息集、拼接特征信息集和重合特征信息集的特征信息但仍然使用同本申请相同工作原理的进行视频融合,仍在本申请实施例的保护范围之内。
进一步的,基于所述将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,步骤S300包括:
S310:获得第一特征阈值信息集,其中,所述第一特征阈值信息集和所述第一预设特征提取维度一一对应;
S320:获得第一数据集,其中,所述第一数据集包括多组特征值信息、特征类型信息;
S330:基于所述第一特征阈值信息集和所述第一数据集,构建所述图像筛选模型;
S340:将所述第一特征值信息集和所述第一特征类型信息集输入所述图像筛选模型,获得所述第一筛选结果。
具体而言,所述第一特征阈值信息集指的是工作人员预设的表征特征值信息是否满足构建三维全景图像的临界值,即为上述预设特征值,综上,第一特征阈值信息集、第一预设特征提取维度和第一特征信息集三者一一对应;所述第一数据集指的是用来构建图像筛选模型的历史数据集;所述多组特征值信息指的是和已经构建三维全景图的视频融合素材相对应的历史特征值信息;所述多组特征类型信息指的是和已经构建三维全景图的视频融合素材相对应的历史特征类型信息,使用第一特征阈值信息集构建智能化模型筛选基准,将多组历史特征值信息、历史特征类型信息设为输入数据,优选的基于随机森林,进行无监督训练,生成图像筛选模型。基于随机森林构建的图像筛选模型具有泛化能力强,筛选结果准确等特点。
进一步的,基于所述第一特征阈值信息集和所述第一数据集,构建所述图像筛选模型,步骤S330包括:
S331:将所述第一数据集分为k组,有放回的随机单组抽取k次,将抽取的数据设为第一训练数据集,将未抽取的数据设为第一验证数据集;
S332:根据所述第一训练数据集,构建第一初始决策树;
S333:将所述第一特征阈值信息集分为j组,遍历所述第一初始决策树的每个节点随机抽取i组设为第一更新信息,其中,i≤j;
S334:通过所述第一更新信息和所述第一验证数据集,获得第一决策树;
S335:重复M次,获得第二决策树直到第M决策树;
S336:将所述第一决策树、所述第二决策树直到所述第M决策树合并,获得所述图像筛选模型。
具体而言,所述第一训练数据集指的是将第一数据集分为k组,有放回的随机单组抽取k次得到的结果,重复操作M次,则得到第二训练数据集直到第M训练数据集;所述第一验证数据集指的是有放回的随机单组抽取k次每次未抽取到的数据组成的数据集合,则上述重复M次,得到第二验证数据集直到第M验证数据集。
所述第一初始决策树指的是基于第一训练数据集构建的决策树框架,构建原理和步骤S300中描述相同,在此不多加赘述;同理,使用第二训练数据集构建第二初始决策树、使用第M训练数据集构建第M初始决策树。所述第一更新信息指的是遍历第一初始决策树的每个节点得到的多组信息,分组数和第一初始决策树的节点数目相同,第一更新信息的确定方式举不设限制的一例:将所述第一特征阈值信息集分为j组,遍历第一初始决策树,当遇到节点时,从将所述第一特征阈值信息集分为j组随机抽取i组,i≤j,设为更新信息中的一组数据,遍历完全部节点得到第一更新信息。同理得到,第二更新信息直到第M更新信息。
由于决策树框架中每个节点表征一个特征类型,由于更新信息没有重复的特征阈值信息,若是具有当前节点对应的特征类型的特征阈值信息,则在当前节点和该特征相关的信息数量最多,信息类型最少,若是不具有当前节点对应的特征类型的特征阈值信息,则所有特征相关的信息数量相同,类型最多;因此只有更新信息中在节点中出现数量最多,信息类型最少的特征阈值时,就自动将特征阈值添加进对应的节点中作为筛选基准,若是未出现,则在该节点处重新抽取i组更新信息进行判断直到特征阈值添加完成时停止。
基于上述思想遍历第一初始决策树的全部节点,完成对所有节点的特征阈值更新,更进一步的,使用第一验证数据集验证更新后的第一初始决策树输出准确率和稳定性,若是满足预设要求,则生成第一决策树;若是不满足,则调用第二训练数据集直到第M训练数据集中的一组或多组对更新后的第一初始决策树进行训练,直到满足预设要求时,生成第一决策树,其中,预设要求指的是工作人员设定输出准确率和泛化能力要求。同理,得到第二决策树直到第M决策树,更进一步,将第一决策树、第二决策树直到第M决策树合并,得到随机森林模型,即为图像筛选模型,通过随机森林构建的图像筛选模型具有较强的泛化能力和输出准确率。
进一步的,基于所述通过所述第一更新信息和所述第一验证数据集,获得第一决策树,步骤S334包括:
S3341:根据所述第一初始决策树,获得第一节点、第二节点直到第M节点;
S3342:遍历所述第一更新信息进行信息量分析,获得第一特征阈值集合和第一特征类型集合,其中,所述第一特征类型集合和所述第一特征阈值集合一一对应,且所述第一特征阈值在对应所述i组特征阈值信息中信息量最大;
S3343:基于所述第一特征阈值集合和所述第一特征类型集合,遍历所述第一节点、所述第二节点直到所述第M节点进行更新;
S3344:通过所述第一验证数据集对更新后的所述第一初始决策树进行验证,获得所述第一决策树。
具体而言,初始决策树内节点的更新过程以第一初始决策树举不设限制的一例:
第一节点、第二节点直到第M节点指的是第一初始决策树全部节点;第一特征阈值集合指的是第一更新信息中M个在各自i组特征阈值信息中信息量最大的特征信息对应的特征阈值;第一特征类型集合指的是第一更新信息中M个在各自i组特征阈值信息中信息量最大的特征信息对应的特征类型。其中,信息量最大指的是在各自i组特征阈值信息中特征信息数据量最大,信息类型最少,若是未出现则在该节点重新随机抽取i组特征阈值信息进行处理。
进一步的,通过第一特征阈值集合和第一特征类型集合对相对应的第一节点、第二节点直到第M节点进行更新,更新完成后,使用第一验证数据集对更新后的第一初始决策树进行验证,得到第一决策树,实现了特征阈值的自动化匹配过程。
进一步的,基于所述遍历所述第一更新信息进行信息量分析,获得第一特征阈值集合和第一特征类型集合,步骤S3342包括:
S33421:获得第一正相关评估指标和第一负相关评估指标,其中,所述第一正相关评估指标表征信息数量,所述第一负相关评估指标表征信息种类;
S33422:基于所述第一正相关评估指标和所述第一负相关评估指标对所述i组特征阈值信息进行分析,获得信息量分析结果;
S33423:基于所述信息量分析结果对所述i组特征阈值信息进行序列化调整,获得所述第一特征阈值和所述第一特征类型。
具体而言,所述第一正相关评估指标指的是表征节点特征信息数量的指标;所述第一负相关评估指标指的是表征节点特征信息种类的指标,在同一个节点中,第一正相关评估指标越大,信息量越大;第一负相关评估指标越小,信息量越大。所述信息量分析结果指的是通过第一正相关评估指标和第一负相关评估指标对相应节点上的i组特征阈值信息进行信息量分析之后的结果;所述序列化调整指的是基于信息量分析结果对相应节点上的i组特征阈值信息进行排序的过程,优选的方式为由大到小排序,若是全部相同,则显示无法调整;更进一步的,将排序第一的特征信息输出第一特征阈值和第一特征类型,添加进对应的节点上,若是显示无法调整,则在该节点重新随机抽取i组特征阈值信息进行信息量分析。
综上所述,本申请实施例所提供的一种基于三维模型的视频智能融合方法及系统具有如下技术效果:
1.本申请实施例通过提供了一种基于三维模型的视频智能融合方法及系统,解决了现有技术中由于当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题,通过对视频融合素材影响三维全景构建的多项特征进行提取,并实用智能化模型对各特征值的异常情况进行识别,从而实现了待处理图像集的自动识别,继而匹配对应的处理模块,实现自动化处理,提高了视频融合的智能化,达到了降低人工协助程度,提高视频融合效率的技术效果。
实施例二
基于与前述实施例中一种基于三维模型的视频智能融合方法相同的发明构思,如图3所示,本申请实施例提供了一种基于三维模型的视频智能融合系统,其中,所述系统包括:
第一获得单元11,用于遍历第一站场图像采集装置,获得第一视频融合素材;
第二获得单元12,用于对所述第一视频融合素材进行特征提取,获得第一特征信息集,其中,所述第一特征信息集包括第一特征值信息集和第一特征类型信息集;
第三获得单元13,用于将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,其中,所述第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;
第一匹配单元14,用于遍历所述待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;
第四获得单元15,用于将所述待处理图像集依次输入所述第一处理模块、所述第二处理模块直到所述第N处理模块,获得第一处理结果图像集;
第五获得单元16,用于将所述第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;
第一构建单元17,用于根据所述第一处理结果图像集和所述第一相对位置坐标集,构建第一三维全景监控图。
进一步的,所述系统还包括:
第六获得单元,用于根据所述第一站场图像采集装置,获得第一固定图像采集装置和第一移动图像采集装置;
第七获得单元,用于根据所述第一固定图像采集装置,获得第一图像采集结果;
第八获得单元,用于遍历所述第一图像采集结果和第一站场全景设计图进行特征比对,获得第一图像采集盲点;
第九获得单元,用于基于所述第一图像采集盲点,调用所述第一移动图像采集装置进行图像采集,获得第二图像采集结果;
第一添加单元,用于将所述第一图像采集结果和所述第二图像采集结果添加进所述第一视频融合素材,其中,所述第一视频融合素材满足第一预设时间粒度。
进一步的,所述系统还包括:
第十获得单元,用于获得第一预设特征提取维度,其中,所述第一预设特征提取维度包括一级预设维度、二级预设维度、三级预设维度;
第十一获得单元,用于基于所述一级预设维度对所述第一视频融合素材进行特征提取,获得聚焦特征信息集;
第十二获得单元,用于基于所述二级预设维度遍历所述聚焦特征信息集,获得拼接特征信息集;
第十三获得单元,用于基于所述三级预设维度和所述拼接特征信息集,遍历所述聚焦特征信息集,获得重合特征信息集;
第二添加单元,用于将所述聚焦特征信息集、所述拼接特征信息集和所述重合特征信息集添加进所述第一特征信息集。
进一步的,所述系统还包括:
第十四获得单元,用于获得第一特征阈值信息集,其中,所述第一特征阈值信息集和所述第一预设特征提取维度一一对应;
第十五获得单元,用于获得第一数据集,其中,所述第一数据集包括多组特征值信息、特征类型信息;
第一构建单元,用于基于所述第一特征阈值信息集和所述第一数据集,构建所述图像筛选模型;
第十六获得单元,用于将所述第一特征值信息集和所述第一特征类型信息集输入所述图像筛选模型,获得所述第一筛选结果。
进一步的,所述系统还包括:
第一处理单元,用于将所述第一数据集分为k组,有放回的随机单组抽取k次,将抽取的数据设为第一训练数据集,将未抽取的数据设为第一验证数据集;
第二构建单元,用于根据所述第一训练数据集,构建第一初始决策树;
第二处理单元,用于将所述第一特征阈值信息集分为j组,遍历所述第一初始决策树的每个节点随机抽取i组设为第一更新信息,其中,i≤j;
第十七获得单元,用于通过所述第一更新信息和所述第一验证数据集,获得第一决策树;
第十八获得单元,用于重复M次,获得第二决策树直到第M决策树;
第十九获得单元,用于将所述第一决策树、所述第二决策树直到所述第M决策树合并,获得所述图像筛选模型。
进一步的,所述系统还包括:
第二十获得单元,用于根据所述第一初始决策树,获得第一节点、第二节点直到第M节点;
第二十一获得单元,用于遍历所述第一更新信息进行信息量分析,获得第一特征阈值集合和第一特征类型集合,其中,所述第一特征类型集合和所述第一特征阈值集合一一对应,且所述第一特征阈值在对应所述i组特征阈值信息中信息量最大;
第一更新单元,用于基于所述第一特征阈值集合和所述第一特征类型集合,遍历所述第一节点、所述第二节点直到所述第M节点进行更新;
第二十二获得单元,用于通过所述第一验证数据集对更新后的所述第一初始决策树进行验证,获得所述第一决策树。
进一步的,所述系统还包括:
第二十三获得单元,用于获得第一正相关评估指标和第一负相关评估指标,其中,所述第一正相关评估指标表征信息数量,所述第一负相关评估指标表征信息种类;
第二十四获得单元,用于基于所述第一正相关评估指标和所述第一负相关评估指标对所述i组特征阈值信息进行分析,获得信息量分析结果;
第二十五获得单元,用于基于所述信息量分析结果对所述i组特征阈值信息进行序列化调整,获得所述第一特征阈值和所述第一特征类型。
实施例三
基于与前述实施例中一种基于三维模型的视频智能融合方法相同的发明构思,本申请实施例提供了一种计算机可读存储介质,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现实施例一任一项所述的方法。
示例性电子设备
下面参考图4来描述本申请实施例的电子设备,
基于与前述实施例中一种基于三维模型的视频智能融合方法相同的发明构思,本申请实施例还提供了一种电子设备,包括:处理器,所述处理器与存储器耦合,所述存储器用于存储程序,当所述程序被所述处理器执行时,使得系统以执行第一方面任一项所述的方法。
该电子设备300包括:处理器302、通信接口303、存储器301。可选的,电子设备300还可以包括总线架构304。其中,通信接口303、处理器302以及存储器301可以通过总线架构304相互连接;总线架构304可以是外设部件互连标(peripheral componentinterconnect,简称PCI)总线或扩展工业标准结构(extended industry Standardarchitecture,简称EISA)总线等。所述总线架构304可以分为地址总线、数据总线、控制总线等。为便于表示,图4中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
处理器302可以是一个CPU,微处理器,ASIC,或一个或多个用于控制本申请方案程序执行的集成电路。
通信接口303,使用任何收发器一类的系统,用于与其他设备或通信网络通信,如以太网,无线接入网(radio access network,RAN),无线局域网(wireless localareanetworks,WLAN),有线接入网等。
存储器301可以是ROM或可存储静态信息和指令的其他类型的静态存储设备,RAM或者可存储信息和指令的其他类型的动态存储设备,也可以是电可擦可编程只读存储器(electrically erasable Programmable read-only memory,EEPROM)、只读光盘(compactdisc
read-onlymemory,CD-ROM)或其他光盘存储、光碟存储(包括压缩光碟、激光碟、光碟、数字通用光碟、蓝光光碟等)、磁盘存储介质或者其他磁存储设备、或者能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。存储器可以是独立存在,通过总线架构304与处理器相连接。存储器也可以和处理器集成在一起。
其中,存储器301用于存储执行本申请方案的计算机执行指令,并由处理器302来控制执行。处理器302用于执行存储器301中存储的计算机执行指令,从而实现本申请上述实施例提供的一种基于三维模型的视频智能融合方法。
可选的,本申请实施例中的计算机执行指令也可以称之为应用程序代码,本申请实施例对此不作具体限定。
本申请实施例通过提供了一种基于三维模型的视频智能融合方法及系统,解决了现有技术中由于当前的视频融合在进行视频融合前缺乏对接入图像的处理仅为简单的帧数调整等前处理方式,更加复杂的预处理如重复图像的筛选、不同拼接图像位置的布局、拼接处理,由于监控图像的冗杂性,难以实现对于待处理特征的识别,依赖于人工处理,导致存在工作效率较低的技术问题,通过对视频融合素材影响三维全景构建的多项特征进行提取,并实用智能化模型对各特征值的异常情况进行识别,从而实现了待处理图像集的自动识别,继而匹配对应的处理模块,实现自动化处理,提高了视频融合的智能化,达到了降低人工协助程度,提高视频融合效率的技术效果。
本领域普通技术人员可以理解:本申请中涉及的第一、第二等各种数字编号仅为描述方便进行的区分,并不用来限制本申请实施例的范围,也不表示先后顺序。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。“至少一个”是指一个或者多个。至少两个是指两个或者多个。“至少一个”、“任意一个”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个、种),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程系统。所述计算机指
令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包括一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘(Solid State Disk,SSD))等。
本申请实施例中所描述的各种说明性的逻辑单元和电路可以通过通用处理器,数字信号处理器,专用集成电路(ASIC),现场可编程门阵列(FPGA)或其它可编程逻辑系统,离散门或晶体管逻辑,离散硬件部件,或上述任何组合的设计来实现或操作所描述的功能。通用处理器可以为微处理器,可选地,该通用处理器也可以为任何传统的处理器、控制器、微控制器或状态机。处理器也可以通过计算系统的组合来实现,例如数字信号处理器和微处理器,多个微处理器,一个或多个微处理器联合一个数字信号处理器核,或任何其它类似的配置来实现。
本申请实施例中所描述的方法或算法的步骤可以直接嵌入硬件、处理器执行的软件单元、或者这两者的结合。软件单元可以存储于RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动磁盘、CD-ROM或本领域中其它任意形式的存储媒介中。示例性地,存储媒介可以与处理器连接,以使得处理器可以从存储媒介中读取信息,并可以向存储媒介存写信息。可选地,存储媒介还可以集成到处理器中。处理器和存储媒介可以设置于ASIC中,ASIC可以设置于终端中。可选地,处理器和存储媒介也可以设置于终端中的不同的部件中。这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管结合具体特征及其实施例对本申请进行了描述,显而易见的,在不脱离本申请的精神和范围的情况下,可对其进行各种修改和组合。相应地,本说明书和附图仅仅是所附所界定的本申请的示例性说明,且视为已覆盖本申请范围内的任意和所有修改、变化、组合或等同物。显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的范围。这样,倘若本申请的这些修改和变型属于本申请及其等同技术的范围之内,则本申请意图包括这些改动和变型在内。
Claims (10)
1.一种基于三维模型的视频智能融合方法,其特征在于,所述方法包括:
遍历第一站场图像采集装置,获得第一视频融合素材;
对所述第一视频融合素材进行特征提取,获得第一特征信息集,其中,所述第一特征信息集包括第一特征值信息集和第一特征类型信息集;
将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,其中,所述第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;
遍历所述待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;
将所述待处理图像集依次输入所述第一处理模块、所述第二处理模块直到所述第N处理模块,获得第一处理结果图像集;
将所述第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;
根据所述第一处理结果图像集和所述第一相对位置坐标集,构建第一三维全景监控图。
2.如权利要求1所述的方法,其特征在于,所述遍历第一站场图像采集装置,获得第一视频融合素材,包括:
根据所述第一站场图像采集装置,获得第一固定图像采集装置和第一移动图像采集装置;
根据所述第一固定图像采集装置,获得第一图像采集结果;
遍历所述第一图像采集结果和第一站场全景设计图进行特征比对,获得第一图像采集盲点;
基于所述第一图像采集盲点,调用所述第一移动图像采集装置进行图像采集,获得第二图像采集结果;
将所述第一图像采集结果和所述第二图像采集结果添加进所述第一视频融合素材,其中,所述第一视频融合素材满足第一预设时间粒度。
3.如权利要求1所述的方法,其特征在于,所述对所述第一视频融合素材进行特征提取,获得第一特征信息集,包括:
获得第一预设特征提取维度,其中,所述第一预设特征提取维度包括一级预设维度、二级预设维度、三级预设维度;
基于所述一级预设维度对所述第一视频融合素材进行特征提取,获得聚焦特征信息集;
基于所述二级预设维度遍历所述聚焦特征信息集,获得拼接特征信息集;
基于所述三级预设维度和所述拼接特征信息集,遍历所述聚焦特征信息集,获得重合特征信息集;
将所述聚焦特征信息集、所述拼接特征信息集和所述重合特征信息集添加进所述第一特征信息集。
4.如权利要求2所述的方法,其特征在于,所述将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,包括:
获得第一特征阈值信息集,其中,所述第一特征阈值信息集和所述第一预设特征提取维度一一对应;
获得第一数据集,其中,所述第一数据集包括多组特征值信息、特征类型信息;
基于所述第一特征阈值信息集和所述第一数据集,构建所述图像筛选模型;
将所述第一特征值信息集和所述第一特征类型信息集输入所述图像筛选模型,获得所述第一筛选结果。
5.如权利要求4所述的方法,其特征在于,所述基于所述第一特征阈值信息集和所述第一数据集,构建所述图像筛选模型,包括:
将所述第一数据集分为k组,有放回的随机单组抽取k次,将抽取的数据设为第一训练数据集,将未抽取的数据设为第一验证数据集;
根据所述第一训练数据集,构建第一初始决策树;
将所述第一特征阈值信息集分为j组,遍历所述第一初始决策树的每个节点随机抽取i组设为第一更新信息,其中,i≤j;
通过所述第一更新信息和所述第一验证数据集,获得第一决策树;
重复M次,获得第二决策树直到第M决策树;
将所述第一决策树、所述第二决策树直到所述第M决策树合并,获得所述图像筛选模型。
6.如权利要求5所述的方法,其特征在于,所述通过所述第一更新信息和所述第一验证数据集,获得第一决策树,包括:
根据所述第一初始决策树,获得第一节点、第二节点直到第M节点;
遍历所述第一更新信息进行信息量分析,获得第一特征阈值集合和第一特征类型集合,其中,所述第一特征类型集合和所述第一特征阈值集合一一对应,且所述第一特征阈值在对应所述i组特征阈值信息中信息量最大;
基于所述第一特征阈值集合和所述第一特征类型集合,遍历所述第一节点、所述第二节点直到所述第M节点进行更新;
通过所述第一验证数据集对更新后的所述第一初始决策树进行验证,获得所述第一决策树。
7.如权利要求6所述的方法,其特征在于,所述遍历所述第一更新信息进行信息量分析,获得第一特征阈值和第一特征类型,包括:
获得第一正相关评估指标和第一负相关评估指标,其中,所述第一正相关评估指标表征信息数量,所述第一负相关评估指标表征信息种类;
基于所述第一正相关评估指标和所述第一负相关评估指标对所述i组特征阈值信息进行分析,获得信息量分析结果;
基于所述信息量分析结果对所述i组特征阈值信息进行序列化调整,获得所述第一特征阈值和所述第一特征类型。
8.一种基于三维模型的视频智能融合系统,其特征在于,所述系统包括:
第一获得单元,用于遍历第一站场图像采集装置,获得第一视频融合素材;
第二获得单元,用于对所述第一视频融合素材进行特征提取,获得第一特征信息集,其中,所述第一特征信息集包括第一特征值信息集和第一特征类型信息集;
第三获得单元,用于将所述第一特征值信息集和所述第一特征类型信息集输入图像筛选模型,获得第一筛选结果,其中,所述第一筛选结果包括一一对应的待处理图像集和待处理特征信息集;
第一匹配单元,用于遍历所述待处理特征信息集,匹配第一处理模块、第二处理模块直到第N处理模块;
第四获得单元,用于将所述待处理图像集依次输入所述第一处理模块、所述第二处理模块直到所述第N处理模块,获得第一处理结果图像集;
第五获得单元,用于将所述第一处理结果图像集输入第一空间坐标系,获得第一相对位置坐标集;
第一构建单元,用于根据所述第一处理结果图像集和所述第一相对位置坐标集,构建第一三维全景监控图。
9.一种电子设备,包括:处理器,所述处理器与存储器耦合,所述存储器用于存储程序,其特征在于,当所述程序被所述处理器执行时,使系统以执行如权利要求1~7任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1~7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210182143.3A CN114565815B (zh) | 2022-02-25 | 2022-02-25 | 一种基于三维模型的视频智能融合方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210182143.3A CN114565815B (zh) | 2022-02-25 | 2022-02-25 | 一种基于三维模型的视频智能融合方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114565815A true CN114565815A (zh) | 2022-05-31 |
CN114565815B CN114565815B (zh) | 2023-11-03 |
Family
ID=81714981
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210182143.3A Active CN114565815B (zh) | 2022-02-25 | 2022-02-25 | 一种基于三维模型的视频智能融合方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114565815B (zh) |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110349110A (zh) * | 2019-07-16 | 2019-10-18 | 天津师范大学 | 一种基于累帧过融合的模糊图像增强方法及应用 |
WO2019223513A1 (zh) * | 2018-05-21 | 2019-11-28 | Oppo广东移动通信有限公司 | 图像识别方法、电子设备和存储介质 |
WO2020125499A1 (zh) * | 2018-12-17 | 2020-06-25 | 中国科学院深圳先进技术研究院 | 一种操作提示方法及眼镜 |
CN112085659A (zh) * | 2020-09-11 | 2020-12-15 | 中德(珠海)人工智能研究院有限公司 | 一种基于球幕相机的全景拼接融合方法、系统及存储介质 |
WO2021008032A1 (zh) * | 2019-07-18 | 2021-01-21 | 平安科技(深圳)有限公司 | 监控视频处理方法、装置、计算机设备和存储介质 |
CN112802208A (zh) * | 2021-03-30 | 2021-05-14 | 中国民用航空总局第二研究所 | 一种航站楼内三维可视化方法及装置 |
US20210225027A1 (en) * | 2019-03-08 | 2021-07-22 | Tencent Technology (Shenzhen) Company Limited | Image region localization method, image region localization apparatus, and medical image processing device |
CN113590454A (zh) * | 2021-02-03 | 2021-11-02 | 腾讯科技(深圳)有限公司 | 测试方法、装置、计算机设备和存储介质 |
WO2021232941A1 (zh) * | 2020-05-18 | 2021-11-25 | 商汤集团有限公司 | 三维模型生成方法、装置、计算机设备及存储介质 |
WO2021237875A1 (zh) * | 2020-05-29 | 2021-12-02 | 广州幻境科技有限公司 | 基于图卷积网络的手部数据识别方法、系统和存储介质 |
CN113808267A (zh) * | 2021-09-16 | 2021-12-17 | 江苏自由光智能科技有限公司 | 一种基于gis地图的社区三维展示方法及系统 |
CN113808182A (zh) * | 2021-11-19 | 2021-12-17 | 首都医科大学附属北京安贞医院 | 一种2d与3d图像配准方法及装置 |
CN113838116A (zh) * | 2021-09-29 | 2021-12-24 | 北京有竹居网络技术有限公司 | 确定目标视图的方法、装置、电子设备及存储介质 |
CN114004929A (zh) * | 2021-10-28 | 2022-02-01 | 内蒙航天动力机械测试所 | 一种双视角x射线透视成像的三维快速重构系统 |
-
2022
- 2022-02-25 CN CN202210182143.3A patent/CN114565815B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019223513A1 (zh) * | 2018-05-21 | 2019-11-28 | Oppo广东移动通信有限公司 | 图像识别方法、电子设备和存储介质 |
WO2020125499A1 (zh) * | 2018-12-17 | 2020-06-25 | 中国科学院深圳先进技术研究院 | 一种操作提示方法及眼镜 |
US20210225027A1 (en) * | 2019-03-08 | 2021-07-22 | Tencent Technology (Shenzhen) Company Limited | Image region localization method, image region localization apparatus, and medical image processing device |
CN110349110A (zh) * | 2019-07-16 | 2019-10-18 | 天津师范大学 | 一种基于累帧过融合的模糊图像增强方法及应用 |
WO2021008032A1 (zh) * | 2019-07-18 | 2021-01-21 | 平安科技(深圳)有限公司 | 监控视频处理方法、装置、计算机设备和存储介质 |
WO2021232941A1 (zh) * | 2020-05-18 | 2021-11-25 | 商汤集团有限公司 | 三维模型生成方法、装置、计算机设备及存储介质 |
WO2021237875A1 (zh) * | 2020-05-29 | 2021-12-02 | 广州幻境科技有限公司 | 基于图卷积网络的手部数据识别方法、系统和存储介质 |
CN112085659A (zh) * | 2020-09-11 | 2020-12-15 | 中德(珠海)人工智能研究院有限公司 | 一种基于球幕相机的全景拼接融合方法、系统及存储介质 |
CN113590454A (zh) * | 2021-02-03 | 2021-11-02 | 腾讯科技(深圳)有限公司 | 测试方法、装置、计算机设备和存储介质 |
CN112802208A (zh) * | 2021-03-30 | 2021-05-14 | 中国民用航空总局第二研究所 | 一种航站楼内三维可视化方法及装置 |
CN113808267A (zh) * | 2021-09-16 | 2021-12-17 | 江苏自由光智能科技有限公司 | 一种基于gis地图的社区三维展示方法及系统 |
CN113838116A (zh) * | 2021-09-29 | 2021-12-24 | 北京有竹居网络技术有限公司 | 确定目标视图的方法、装置、电子设备及存储介质 |
CN114004929A (zh) * | 2021-10-28 | 2022-02-01 | 内蒙航天动力机械测试所 | 一种双视角x射线透视成像的三维快速重构系统 |
CN113808182A (zh) * | 2021-11-19 | 2021-12-17 | 首都医科大学附属北京安贞医院 | 一种2d与3d图像配准方法及装置 |
Non-Patent Citations (1)
Title |
---|
陈雪涛 等: "基于SURF和改进RANSAC的视频拼接算法", 《现代电子技术》, vol. 39, no. 10, pages 52 - 56 * |
Also Published As
Publication number | Publication date |
---|---|
CN114565815B (zh) | 2023-11-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108615071B (zh) | 模型测试的方法及装置 | |
CN109818961B (zh) | 一种网络入侵检测方法、装置和设备 | |
CN111401418A (zh) | 一种基于改进Faster r-cnn的员工着装规范检测方法 | |
CN113421192B (zh) | 对象统计模型的训练方法、目标对象的统计方法和装置 | |
CN113642938B (zh) | 一种智能化生产管理方法及系统 | |
CN111970400B (zh) | 骚扰电话识别方法及装置 | |
CN112199805B (zh) | 一种输电线路隐患识别模型评估方法及装置 | |
CN112288700A (zh) | 一种铁轨缺陷检测方法 | |
CN114428748B (zh) | 一种用于真实业务场景的模拟测试方法及系统 | |
CN117221087A (zh) | 告警根因定位方法、装置及介质 | |
Lin et al. | Integrated circuit board object detection and image augmentation fusion model based on YOLO | |
CN117765480A (zh) | 一种道路沿线野生动物迁徙预警方法及系统 | |
CN112164223B (zh) | 基于云平台的智能交通信息处理方法及装置 | |
CN117152528A (zh) | 绝缘子状态识别方法、装置、设备、存储介质和程序产品 | |
CN117475253A (zh) | 一种模型训练方法、装置、电子设备及存储介质 | |
CN114565815B (zh) | 一种基于三维模型的视频智能融合方法及系统 | |
CN111126456A (zh) | 神经网络模型的处理方法、装置、设备及存储介质 | |
CN115631184A (zh) | 基于决策树的输电线路故障分析方法、装置、设备及存储介质 | |
CN115049493A (zh) | 一种区块链数据追踪方法、装置及电子设备 | |
CN114694080A (zh) | 一种监控暴力行为检测方法、系统、装置及可读存储介质 | |
CN114841664A (zh) | 一种多任务处理顺序确定方法及装置 | |
CN112434648A (zh) | 一种墙体形状变化检测方法及系统 | |
CN114070438A (zh) | 一种5g基站电磁信号的检测方法及系统 | |
CN112434653A (zh) | 一种遥感图像建筑区检测方法及系统 | |
Trinks et al. | Image mining for real time quality assurance in rapid prototyping |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |