CN112712542A - 一种块匹配与光流法结合的地基云图运动预测方法 - Google Patents

一种块匹配与光流法结合的地基云图运动预测方法 Download PDF

Info

Publication number
CN112712542A
CN112712542A CN202011558439.8A CN202011558439A CN112712542A CN 112712542 A CN112712542 A CN 112712542A CN 202011558439 A CN202011558439 A CN 202011558439A CN 112712542 A CN112712542 A CN 112712542A
Authority
CN
China
Prior art keywords
sky
cloud
image
foundation
optical flow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011558439.8A
Other languages
English (en)
Other versions
CN112712542B (zh
Inventor
杜娟
万昕瑞
柯涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan University WHU
Original Assignee
Wuhan University WHU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan University WHU filed Critical Wuhan University WHU
Priority to CN202011558439.8A priority Critical patent/CN112712542B/zh
Publication of CN112712542A publication Critical patent/CN112712542A/zh
Application granted granted Critical
Publication of CN112712542B publication Critical patent/CN112712542B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/207Analysis of motion for motion estimation over a hierarchy of resolutions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/24323Tree-organised classifiers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/005Tree description, e.g. octree, quadtree
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20032Median filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种块匹配和光流法结合的地基云图运动预测方法,针对获取的地基全天空图像,利用云分类信息提取云区域,采用块匹配法计算云区域的主运动矢量,将其结果作为光流法的约束项之一,和亮度恒定项、全局平滑项和亮度梯度项共同构造光流法能量函数,同时在光流法云运动场计算过程中,对每层金字塔加入加权中值滤波,减小运动矢量异常值的影响,实现地基全天空图像的云运动快速准确的预测。本方法针对块匹配预测精度低,光流法计算时间长、光线敏感等问题,通过将块匹配和光流法结合,充分利用块匹配速度快、光流法精度高的优势,提高了全天空图像的云运动预测的速度和精度。

Description

一种块匹配与光流法结合的地基云图运动预测方法
技术领域
本发明属于摄影测量与遥感领域,尤其涉及一种块匹配与光流法结合的地基云图运动预测方法。
背景技术
在短期内到达地面的太阳辐射量可能发生大的波动,云层的遮挡是导致辐射量变化的关键性因素,当云层和太阳的相对位置发生变化时,会造成辐射量的剧烈波动,因此判断短期内云的运动位置和方向是预测太阳辐射量变化的关键。获取云观测数据的地基全天空成像仪安装在某个固定位置,可获取该地区一定范围的全天空图像,其时间分辨率一般为30秒,利用该仪器可实现云识别、云运动场预测和短期太阳辐照度预测。
目前常用的运动目标检测方法包括块匹配法和光流法。
块匹配方法首先将图像划分为若干块,假定每一个块内的所有像素作为一个整体,具有相同的运动模式,围绕某块B1建立大范围的搜索窗口,在后一幅图像的搜索窗口内,按照一定的搜索原理寻找与块B1最相似的块B2,它们中心点在水平和垂直方向上的差值即为块B1的运动矢量。块匹配的思路简单易懂,对硬件要求低,运算速度快,因其高效的优点而被广泛采用,但算法具有易陷入局部最优的固有缺陷,并且将整块作为一体的假设在一定程度上限制了块匹配算法的精度。
光流被定义为空间运动目标在二维成像平面上的像素运动的瞬时速度,是图像中亮度的表观运动,图像中所有像素点的光流集合组成了光流场,在理想情况下,光流场对应于运动场。光流法不需要预先知道场景的任何信息就能精确计算出目标的运动矢量,但它对光线的变化十分敏感,同时由于采用迭代计算的方式,耗时稍长。
为了克服块匹配精度低、光流法计算时间长且对光线敏感的不足,本发明将块匹配和光流法结合,将块匹配计算出的主运动矢量作为约束项代入光流法,减少光流法的迭代次数,克服光线导致的图像亮度突变,同时在光流计算中加入加权中值滤波,去除云边缘运动矢量异常值,提高计算精度。与单个方法相比,本发明具有云运动预测精度高、速度快、鲁棒性强的优点。
发明内容
本方法主要解决块匹配对云运动预测精度低和光流法预测计算时间长、光线敏感的问题,提出了一种块匹配和光流法结合的地基云图运动预测算法。
本发明核心过程包括以下步骤:
步骤1,读取原始地基全天空图像,首先利用平面结构引导的修复算法对原始地基全天空图像中被遮挡的区域进行图像修复,再以图像中心为原点、设置一定半径保留图像天空区域、裁掉与天空无关区域,最后根据角度的对应关系进一步进行图像畸变校正,得到第k幅和第k+1幅预处理后地基全天空图像Ik,Ik+1,k∈[1,K-1],K为预处理后地基全天空图像的数量。
步骤2,通过基于多特征的随机森林分类方法将预处理后地基全天空图像的每个像素分为云类别或者晴空类别,从而将预处理后地基全天空图像转换成云或晴空的二值图像,利用逆四叉树法在二值图像Ibw中确定云范围;
步骤3,根据预处理后地基全天空图像中方块坐标的像素亮度值构建均方误差优化目标,以均方误差最小化为优化目标进行块匹配,得到预处理后地基全天空图像的运动矢量;
步骤4,结合步骤2所述的预处理后地基全天空图像的云范围、步骤3所述的块匹配运动矢量得到预处理后地基全天空图像的云范围内的块匹配运动矢量,筛选出频次较高的多个块匹配运动矢量作为主运动矢量;
步骤5,针对步骤2中所述的相邻两幅预处理后地基全天空图像的总云范围内每个像素,分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差,以矢量差的模最小为准则将对应的主运动矢量赋值给该像素,从而重新确定云范围内的运动矢量,得到云的初步运动矢量;
步骤6,根据云的初步运动矢量构造主运动项,连同亮度恒定项、全局平滑项、亮度梯度项和加权中值滤波构建光流法能量函数,对能量函数最小化进行优化求解,得到全天空图像中每个像素点的运动矢量;
步骤7,针对基于微分的光流算法只能计算小位移的光流问题,引入金字塔思想进行由粗到细的多尺度计算,以一定比例将预处理后全天空图像降采样为N个不同分辨率的图像,在金字塔中从上到下按最低分辨率到最高分辨率依次排列,从金字塔顶层开始,对第n层图像进行步骤6的光流法计算,得到运动矢量(u,v)n,然后作为第n+1层的矢量计算初始值(u0,v0)n+1,直到最底层N,从而将大位移分解为若干个小位移的集合,达到计算大位移光流的目的;
作为优选,步骤2所述预处理后地基全天空图像的每个像素为:
Ik(i,j)
其中,Ik(i,j)表示第k幅预处理后地基全天空图像中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;
步骤2所述晴空类别定义为Csky
步骤2所述云类别定义为Ccloud
步骤2所述二值图像,具体定义为:
Ik,bw(i,j),typek(i,j)
其中,Ik,bw(i,j)表示第k幅预处理后地基全天空图像对应的二值图像Ibw中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率,typek(i,j)表示第k幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素类别,若Ik,bw(i,j)为晴空类别则typek(i,j)=Csky,若Ik,bw(i,j)为云类别则typek(i,j)=Ccloud
步骤2所述利用逆四叉树法在二值图像中确定相邻两幅预处理后地基全天空图像的总云范围,具体为:
对二值图像进行初步处理:
以n*n的像素方阵作为基本单元即Uk,1(i′,j′);
Uk,1(i′,j′)为第k幅预处理后地基全天空图像对应的二值图像中第i′行第j′列的第1级方阵,即基本单元,方阵的尺寸为n*n,i′∈[1,M/n],j′∈[1,N/n],k∈[1,K-1],K为预处理后地基全天空图像的数量;
当Uk,1(i′,j′)内属于云类别的像素个数超过单元总像素数n*n的一定比例时,则将Uk,1(i′,j′)内所有像素设置为云类别Ccloud,否则全部设置为晴空类别Csky
将基本单元按照四叉树原理自下而上逐步聚拢,得到第k幅全天空图像不同尺寸的云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L,其中第m级的方阵尺寸为2m-1n*2m-1n;
第k幅预处理后地基全天空图像的云范围Rk为第k幅预处理后地基全天空图像对应的二值图像中所有云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L的集合;
对第k+1幅预处理后地基全天空图像Ik+1重复上述操作得到对应的云范围Rk+1,则第k幅和第k+1幅预处理后地基全天空图像的总云范围为:
Rk,k+1=Rk∪Rk+1,Rk,k+1为Rk和Rk+1的并集。
作为优选,步骤3所述构建均方误差优化目标为:
Figure BDA0002859504520000041
其中,
Figure BDA0002859504520000042
为第k幅全天空图像中第i行第j列像素的运动矢量,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;方块的大小为N′*N′,fk+1(n+u,n+v)表示第k+1幅图像中方块坐标(n+u,n+v)处的像素亮度值,fk(n,n)则表示第k幅参考图像搜索窗口中方块坐标为(n,n)处的像素亮度值,u和v分别为横向和纵向的运动距离,u∈[-a,a],v∈[-a,a],a为块匹配搜索窗口的大小。
作为优选,步骤4所述相邻两幅预处理后地基全天空图像的总云范围内像素的块匹配运动矢量为:
Figure BDA0002859504520000043
其中,第k幅全天空图像第i行第j列像素为云类别Ccloud,其运动矢量为
Figure BDA0002859504520000044
Rk,k+1为步骤2所述第k幅和第k+1幅预处理后地基全天空图像的总云范围,M*N为预处理后地基全天空图像的分辨率,K为预处理后地基全天空图像的数量;
步骤4所述筛选出频次较高的多个矢量作为主运动矢量为:
统计第k幅全天空图像中每对
Figure BDA0002859504520000045
出现的频次
Figure BDA0002859504520000046
选取频次
Figure BDA0002859504520000047
最高的多个运动矢量作为该图像云层的主运动矢量Ω:
Figure BDA0002859504520000048
num为主运动矢量的个数。
作为优选,步骤5所述分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差的模为:
Figure BDA0002859504520000051
其中,
Figure BDA0002859504520000052
Figure BDA0002859504520000053
分别为第k幅和第k+1幅地基全天空图像的总云范围内第i行第j列像素的块匹配运动矢量的两个分量,
Figure BDA0002859504520000054
Figure BDA0002859504520000055
分别为第k幅全天空图像第i″个主运动矢量Ω的两个分量;
步骤5中所述以矢量差的模最小为准则将对应的主运动矢量赋值给该像素为:
Figure BDA0002859504520000056
其中,
Figure BDA0002859504520000057
为第k幅全天空图像第i行第j列像素的初步运动矢量,(i,j)∈Rk,k+1,k∈[1,K-1],Rk,k+1为步骤2所述第k幅和第k+1幅预处理后地基全天空图像的总云范围,K为预处理后地基全天空图像的数量。
作为优选,步骤6所述亮度恒定项为:
光流法的基本约束方程,假设同一像素点在连续两幅全天空图像Ik和Ik+1中的亮度值不发生变化,即灰度值不变,其中k∈[1,K-1],K为地基全天空图像的数量;
Eintensity(u,v)=∫∫ψ(|Ik+1(x+dx,y+dy)-Ik(x,y)|2)dxdy
其中,Ik(x,y)为某像素点(x,y)在第k幅图像中的亮度值,经过一定时间,该像素点移动了(dx,dy),此时的亮度值为Ik+1(x+dx,y+dy)。式中
Figure BDA0002859504520000058
ε=0.001为Charbonnier惩罚函数,(u,v)表示计算得到的该像素点(x,y)的运动矢量。
步骤6所述全局平滑项为:
整个图像Ik上光流的变化是平滑的,即u和v随着像素点移动而发生的变化是缓慢的;
Figure BDA0002859504520000059
步骤6所述亮度梯度项为:
由于太阳周围云的运动可能造成图像晴空背景亮度发生较大变化,使得像素亮度值的匹配出现错误,可通过亮度值梯度的约束来增强亮度恒定项的效果,达到进一步精确地预测出后一幅云图Ik+2的目的;
Figure BDA0002859504520000061
步骤6所述主运动项为:
将块匹配法获得的云初步运动矢量
Figure BDA0002859504520000062
作为约束项代入光流法,使得光流计算的迭代次数可适当降低,提高计算效率,同时减弱各云块内部亮度不均一的影响;
Figure BDA0002859504520000063
步骤6所述加权中值滤波为:
对运动矢量(u,v)进行加权中值滤波能有效改善云边缘处异常值的问题;
首先利用Sobel算子检测云边缘并适当扩大范围,对于非边缘的区域,以[m,m]的窗口大小进行传统中值滤波,而在云边缘区域,综合考虑空间距离、Lab颜色空间差距以及遮挡状态这三个因素,在[M,M]的窗口范围内进行加权中值滤波,且M>m;
Figure BDA0002859504520000064
其中,Nx,y是以(x,y)为中心的窗口范围内除中心外的点(x′,y′)的集合,
Figure BDA0002859504520000065
代表两个像素(x,y)和(x′,y′)之间相似性的权重,具体为下式,I代表Lab空间中的颜色向量,nc为颜色波段数,σ1=7,σ2=7:
Figure BDA0002859504520000066
遮挡状态变量o(x,y)被定义为
Figure BDA0002859504520000067
式中d(x,y)为单边散度函数,div(x,y)代表光流的散度
Figure BDA0002859504520000068
Figure BDA0002859504520000069
步骤6所述的光流法能量函数为:
Figure BDA0002859504520000071
式中,α,γ,β分别为全局平滑项的权重、亮度梯度项的权重、主运动项的权重;
以光流法能量函数最小化为优化目标,利用欧拉-拉格朗日方程、逐次超松弛法等数学手段求解,得到全天空图像Ik每个像素点的运动矢量(u,v);
作为优选,步骤7所述一定比例为:r,0<r<1;
步骤7所述N个不同分辨率的图像为:
Figure BDA0002859504520000072
本发明具有如下优点:通过综合利用块匹配运算速度快、光流法计算精度高的优点,同时在光流计算中引入的加权中值滤波,有效去除云边缘运动矢量的异常值,实现全天空图像云运动精确快速预测,该方法还具有鲁棒性,克服光流法对光线敏感的问题,对图像亮度突变的情况也能实现精确预测。
附图说明
图1为使用本发明提出的块匹配和光流法结合的地基云图运动预测的作业流程;
图2为图像的预处理过程,包括图像修复和图像校正。
图3为一组连续拍摄的全天空图像,拍摄时间间隔为1分钟。
图4为基于云分类信息采用块匹配计算的主运动矢量。
图5为根据块匹配结果,采用光流法计算出的运动矢量和预测图像。
图6为光流法中无滤波、中值滤波和加权中值滤波的对比图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
下面结合图1至图6介绍本发明的具体实施方式为一种块匹配与光流法结合的地基云图运动预测方法:
实施路线如图1所示:
步骤1,读取原始地基全天空图像,首先利用平面结构引导的修复算法对原始地基全天空图像中被遮挡的区域进行图像修复,再以图像中心为原点、设置一定半径保留图像天空区域、裁掉与天空无关区域,最后根据角度的对应关系进一步进行图像畸变校正,如图2。
得到的第1幅和第2幅预处理后地基全天空图像I1,I2,第3幅图像为预测时刻的真值全天空图像,如图3。
步骤2,通过基于多特征的随机森林分类方法将预处理后地基全天空图像的每个像素分为云类别或者晴空类别,从而将预处理后地基全天空图像转换成云或晴空的二值图像,利用逆四叉树法在二值图像Ibw中确定云范围,如图4(a);
步骤2所述预处理后地基全天空图像的每个像素为:
I1(i,j)
其中,I1(i,j)表示第1幅预处理后地基全天空图像中第i行第j列的像素,i∈[1,250],j∈[1,250],250*250为预处理后地基全天空图像的分辨率;
步骤2所述晴空类别定义为Csky
步骤2所述云类别定义为Ccloud
步骤2所述二值图像,具体定义为:
I1,bw(i,j),type1(i,j)
其中,I1,bw(i,j)表示第1幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素,i∈[1,250],j∈[1,250],250*250为预处理后地基全天空图像的分辨率,type1(i,j)表示第1幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素类别,若I1,bw(i,j)为晴空类别则type1(i,j)=Csky,若I1,bw(i,j)为云类别则type1(i,j)=Ccloud
步骤2所述利用逆四叉树法在二值图像中确定相邻两幅预处理后地基全天空图像的总云范围,具体为:
对二值图像进行初步处理:
以5*5的像素方阵作为基本单元即U1,1(i′,j′);
U1,1(i′,j′)为第1幅预处理后地基全天空图像对应的二值图像中第i′行第j′列的第1级方阵,即基本单元,方阵的尺寸为5*5,i′∈[1,50],j′∈[1,50];
当U1,1(i′,j′)内属于云类别的像素个数超过单元总像素数5*5的一定比例时,则将U1,1(i′,j′)内所有像素设置为云类别Ccloud,否则全部设置为晴空类别Csky
将基本单元按照四叉树原理自下而上逐步聚拢,得到第1幅全天空图像不同尺寸的云块单元U1,1,U1,2,...,U1,m,...,U1,L,其中第m级的方阵尺寸为(2m-1*5)*(2m-1*5);
第1幅预处理后地基全天空图像的云范围R1为第1幅预处理后地基全天空图像对应的二值图像中所有云块单元U1,1,U1,2,...,U1,m,...,U1,L的集合;
对第2幅预处理后地基全天空图像I2重复上述操作得到对应的云范围R2,则第1幅和第2幅预处理后地基全天空图像的总云范围为:
R1,2=R1∪R2,R1,2为R1和R2的并集。
步骤3,根据预处理后地基全天空图像中方块坐标的像素亮度值构建均方误差优化目标,以均方误差最小化为优化目标进行块匹配,得到预处理后地基全天空图像的运动矢量,如图4(b);
步骤3所述构建均方误差优化目标为:
Figure BDA0002859504520000091
其中,
Figure BDA0002859504520000092
为第1幅全天空图像中第i行第j列像素的运动矢量,i∈[1,250],j∈[1,250],250*250为预处理后地基全天空图像的分辨率;方块的大小为25*25,f2(n+u,n+v)表示第2幅图像中方块坐标(n+u,n+v)处的像素亮度值,f1(n,n)则表示第1幅参考图像搜索窗口中方块坐标为(n,n)处的像素亮度值,u和v分别为横向和纵向的运动距离,u∈[-50,50],v∈[-50,50],50为块匹配搜索窗口的大小。
步骤4,结合步骤2所述的相邻两幅预处理后地基全天空图像的总云范围、步骤3所述的块匹配运动矢量得到相邻两幅预处理后地基全天空图像的总云范围内的块匹配运动矢量,如图4(c)。筛选出频次较高的多个块匹配运动矢量作为主运动矢量;
步骤4所述相邻两幅预处理后地基全天空图像的总云范围内像素的块匹配运动矢量为:
Figure BDA0002859504520000101
其中,第1幅全天空图像第i行第j列像素为云类别Ccloud,其运动矢量为
Figure BDA0002859504520000102
R1,2为步骤2所述第1幅和第2幅预处理后地基全天空图像的总云范围,250*250为预处理后地基全天空图像的分辨率。
步骤4所述筛选出频次较高的多个矢量作为主运动矢量为:
统计第1幅全天空图像中每对
Figure BDA0002859504520000103
出现的频次
Figure BDA0002859504520000104
选取频次
Figure BDA0002859504520000105
最高的多个运动矢量作为该图像云层的主运动矢量Ω:
Figure BDA0002859504520000106
num为主运动矢量的个数。
步骤5,针对步骤2中所述的相邻两幅预处理后地基全天空图像的总云范围内每个像素,分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差,以矢量差的模最小为准则将对应的主运动矢量赋值给该像素,从而重新确定云范围内的运动矢量,得到云的初步运动矢量,如图4(d);
步骤5所述分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差的模为:
Figure BDA0002859504520000107
其中,
Figure BDA0002859504520000108
Figure BDA0002859504520000109
分别为第1幅和第2幅地基全天空图像的总云范围内第i行第j列像素的块匹配运动矢量的两个分量,
Figure BDA00028595045200001010
Figure BDA00028595045200001011
分别为第1幅全天空图像第i″个主运动矢量Ω的两个分量。
步骤5中所述以矢量差的模最小为准则将对应的主运动矢量赋值给该像素为:
Figure BDA00028595045200001012
其中,
Figure BDA0002859504520000111
为第1幅全天空图像第i行第j列像素的初步运动矢量,(i,j)∈R1,2,R1,2为步骤2所述第1幅和第2幅预处理后地基全天空图像的总云范围。
步骤6,根据云的初步运动矢量构造主运动项,连同亮度恒定项、全局平滑项、亮度梯度项和加权中值滤波构建光流法能量函数,对能量函数最小化进行优化求解,得到全天空图像中每个像素点的运动矢量,如图5,图中还展示了根据计算求得的运动矢量预测出的下一时刻的全天空图像I3以及其与真实全天空图像的差值;
步骤6所述亮度恒定项为:
光流法的基本约束方程,假设同一像素点在连续两幅全天空图像I1和I2中的亮度值不发生变化,即灰度值不变;
Eintensity(u,v)=∫∫ψ(|I2(x+dx,y+dy)-I1(x,y)|2)dxdy
其中,I1(x,y)为某像素点(x,y)在第1幅图像中的亮度值,经过一定时间,该像素点移动了(dx,dy),此时的亮度值为I2(x+dx,y+dy)。式中
Figure BDA0002859504520000112
ε=0.001为Charbonnier惩罚函数,(u,v)表示计算得到的该像素点(x,y)的运动矢量。
步骤6所述全局平滑项为:
整个图像I1上光流的变化是平滑的,即u和v随着像素点移动而发生的变化是缓慢的;
Figure BDA0002859504520000113
步骤6所述亮度梯度项为:
由于太阳周围云的运动可能造成图像晴空背景亮度发生较大变化,使得像素亮度值的匹配出现错误,可通过亮度值梯度的约束来增强亮度恒定项的效果,达到进一步精确地预测出后一幅云图Ik+2的目的;
Figure BDA0002859504520000114
步骤6所述主运动项为:
将块匹配法获得的云初步运动矢量
Figure BDA0002859504520000115
作为约束项代入光流法,使得光流计算的迭代次数可适当降低,提高计算效率,同时减弱各云块内部亮度不均一的影响;
Figure BDA0002859504520000121
步骤6所述加权中值滤波为:
对运动矢量(u,v)进行加权中值滤波能有效改善云边缘处异常值的问题;
首先利用Sobel算子检测云边缘并适当扩大范围,对于非边缘的区域,以[5,5]的窗口大小进行传统中值滤波,而在云边缘区域,综合考虑空间距离、Lab颜色空间差距以及遮挡状态这三个因素,在[15,15]的窗口范围内进行加权中值滤波;
Figure BDA0002859504520000122
其中,Nx,y是以(x,y)为中心的窗口范围内除中心外的点(x′,y′)的集合,
Figure BDA0002859504520000123
代表两个像素(x,y)和(x′,y′)之间相似性的权重,具体为下式,I代表Lab空间中的颜色向量,nc为颜色波段数,σ1=7,σ2=7:
Figure BDA0002859504520000124
遮挡状态变量o(x,y)被定义为
Figure BDA0002859504520000125
式中d(x,y)为单边散度函数,div(x,y)代表光流的散度
Figure BDA0002859504520000126
Figure BDA0002859504520000127
步骤6所述的光流法能量函数为:
Figure BDA0002859504520000128
式中,α,γ,β分别为全局平滑项的权重、亮度梯度项的权重、主运动项的权重;
以光流法能量函数最小化为优化目标,利用欧拉-拉格朗日方程、逐次超松弛法等数学手段求解,得到全天空图像I1每个像素点的运动矢量(u,v);
步骤7,针对基于微分的光流算法只能计算小位移的光流问题,引入金字塔思想进行由粗到细的多尺度计算,如图6分别展示了光流法计算中不使用滤波、使用传统中值滤波和使用加权中值滤波的效果。
以0.98的比例将预处理后全天空图像降采样为91个不同分辨率的图像,在金字塔中从上到下按最低分辨率到最高分辨率依次排列,从金字塔顶层开始,对第n层图像进行步骤6的光流法计算,得到运动矢量(u,v)n,然后作为第n+1层的矢量计算初始值(u0,v0)n+1,直到最底层第91层,从而将大位移分解为若干个小位移的集合,达到计算大位移光流的目的;
步骤7所述一定比例为:0.98;
步骤7所述91个不同分辨率的图像为:
Figure BDA0002859504520000131
应当理解的是,本说明书未详细阐述的部分均属于现有技术。
应当理解的是,本领域的普通技术人员在本发明的启示下,在不脱离本发明权利要求所保护的范围情况下,还可以做出替换或变形,均落入本发明的保护范围之内,本发明的请求保护范围应以所附权利要求为准。

Claims (7)

1.一种块匹配和光流法结合的地基云图运动预测方法,其特征在于,包括以下步骤:
步骤1,读取原始地基全天空图像,首先利用平面结构引导的修复算法对原始地基全天空图像中被遮挡的区域进行图像修复,再以图像中心为原点、设置一定半径保留图像天空区域、裁掉与天空无关区域,最后根据角度的对应关系进一步进行图像畸变校正,得到第k幅和第k+1幅预处理后地基全天空图像Ik,Ik+1,k∈[1,K-1],K为预处理后地基全天空图像的数量;
步骤2,通过基于多特征的随机森林分类方法将预处理后地基全天空图像的每个像素分为云类别或者晴空类别,从而将预处理后地基全天空图像转换成云或晴空的二值图像,利用逆四叉树法在二值图像Ibw中确定云范围;
步骤3,根据预处理后地基全天空图像中方块坐标的像素亮度值构建均方误差优化目标,以均方误差最小化为优化目标进行块匹配,得到预处理后地基全天空图像的运动矢量;
步骤4,结合步骤2所述的预处理后地基全天空图像的云范围、步骤3所述的块匹配运动矢量得到预处理后地基全天空图像的云范围内的块匹配运动矢量,筛选出频次较高的多个块匹配运动矢量作为主运动矢量;
步骤5,针对步骤2中所述的相邻两幅预处理后地基全天空图像的总云范围内每个像素,分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差,以矢量差的模最小为准则将对应的主运动矢量赋值给该像素,从而重新确定云范围内的运动矢量,得到云的初步运动矢量;
步骤6,根据云的初步运动矢量构造主运动项,连同亮度恒定项、全局平滑项、亮度梯度项和加权中值滤波构建光流法能量函数,对能量函数最小化进行优化求解,得到全天空图像中每个像素点的运动矢量;
步骤7,针对基于微分的光流算法只能计算小位移的光流问题,引入金字塔思想进行由粗到细的多尺度计算,以一定比例将预处理后全天空图像降采样为N个不同分辨率的图像,在金字塔中从上到下按最低分辨率到最高分辨率依次排列,从金字塔顶层开始,对第n层图像进行步骤6的光流法计算,得到运动矢量(u,v)n,然后作为第n+1层的矢量计算初始值(u0,v0)n+1,直到最底层N,从而将大位移分解为若干个小位移的集合,达到计算大位移光流的目的。
2.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤2所述预处理后地基全天空图像的每个像素为:
Ik(i,j)
其中,Ik(i,j)表示第k幅预处理后地基全天空图像中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;
步骤2所述晴空类别定义为Csky
步骤2所述云类别定义为Ccloud
步骤2所述二值图像,具体定义为:
Ik,bw(i,j),typek(i,j)
其中,Ik,bw(i,j)表示第k幅预处理后地基全天空图像对应的二值图像Ibw中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率,typek(i,j)表示第k幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素类别,若Ik,bw(i,j)为晴空类别则typek(i,j)=Csky,若Ik,bw(i,j)为云类别则typek(i,j)=Ccloud
步骤2所述利用逆四叉树法在二值图像中确定相邻两幅预处理后地基全天空图像的总云范围,具体为:
对二值图像进行初步处理:
以n*n的像素方阵作为基本单元即Uk,1(i′,j′);
Uk,1(i′,j′)为第k幅预处理后地基全天空图像对应的二值图像中第i′行第j′列的第1级方阵,即基本单元,方阵的尺寸为n*n,i′∈[1,M/n],j′∈[1,N/n],k∈[1,K-1],K为预处理后地基全天空图像的数量;
当Uk,1(i′,j′)内属于云类别的像素个数超过单元总像素数n*n的一定比例时,则将Uk,1(i′,j′)内所有像素设置为云类别Ccloud,否则全部设置为晴空类别Csky
将基本单元按照四叉树原理自下而上逐步聚拢,得到第k幅全天空图像不同尺寸的云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L,其中第m级的方阵尺寸为2m-1n*2m-1n;
第k幅预处理后地基全天空图像的云范围Rk为第k幅预处理后地基全天空图像对应的二值图像中所有云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L的集合;
对第k+1幅预处理后地基全天空图像Ik+1重复上述操作得到对应的云范围Rk+1,则第k幅和第k+1幅预处理后地基全天空图像的总云范围为:
Rk,k+1=Rk∪Rk+1,Rk,k+1为Rk和Rk+1的并集。
3.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤3所述构建均方误差优化目标为:
Figure FDA0002859504510000031
其中,
Figure FDA0002859504510000032
为第k幅全天空图像中第i行第j列像素的运动矢量,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;方块的大小为N′*N′,fk+1(n+u,n+v)表示第k+1幅图像中方块坐标(n+u,n+v)处的像素亮度值,fk(n,n)则表示第k幅参考图像搜索窗口中方块坐标为(n,n)处的像素亮度值,u和v分别为横向和纵向的运动距离,u∈[-a,a],v∈[-a,a],a为块匹配搜索窗口的大小。
4.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤4所述相邻两幅预处理后地基全天空图像的总云范围内像素的块匹配运动矢量为:
Figure FDA0002859504510000033
其中,第k幅全天空图像第i行第j列像素为云类别Ccloud,其运动矢量为
Figure FDA0002859504510000034
Rk,k+1为步骤2所述第k幅和第k+1幅预处理后地基全天空图像的总云范围,M*N为预处理后地基全天空图像的分辨率,K为预处理后地基全天空图像的数量;
步骤4所述筛选出频次较高的多个矢量作为主运动矢量为:
统计第k幅全天空图像中每对
Figure FDA0002859504510000041
出现的频次
Figure FDA0002859504510000042
选取频次
Figure FDA0002859504510000043
最高的多个运动矢量作为该图像云层的主运动矢量Ω:
Figure FDA0002859504510000044
num为主运动矢量的个数。
5.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤5所述分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差的模为:
Figure FDA0002859504510000045
其中,
Figure FDA0002859504510000046
Figure FDA0002859504510000047
分别为第k幅和第k+1幅地基全天空图像的总云范围内第i行第j列像素的块匹配运动矢量的两个分量,
Figure FDA0002859504510000048
Figure FDA0002859504510000049
分别为第k幅全天空图像第i″个主运动矢量Ω的两个分量;
步骤5中所述以矢量差的模最小为准则将对应的主运动矢量赋值给该像素为:
Figure FDA00028595045100000410
其中,
Figure FDA00028595045100000411
为第k幅全天空图像第i行第j列像素的初步运动矢量,(i,j)∈Rk,k+1,k∈[1,K-1],Rk,k+1为步骤2所述第k幅和第k+1幅预处理后地基全天空图像的总云范围,K为预处理后地基全天空图像的数量。
6.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤6所述亮度恒定项为:
光流法的基本约束方程,假设同一像素点在连续两幅全天空图像Ik和Ik+1中的亮度值不发生变化,即灰度值不变,其中k∈[1,K-1],K为地基全天空图像的数量;
Eintensity(u,v)=∫∫ψ(|Ik+1(x+dx,y+dy)-Ik(x,y)|2)dxdy
其中,Ik(x,y)为某像素点(x,y)在第k幅图像中的亮度值,经过一定时间,该像素点移动了(dx,dy),此时的亮度值为Ik+1(x+dx,y+dy);式中
Figure FDA0002859504510000051
ε=0.001为Charbonnier惩罚函数,(u,v)表示计算得到的该像素点(x,y)的运动矢量;
步骤6所述全局平滑项为:
整个图像Ik上光流的变化是平滑的,即u和v随着像素点移动而发生的变化是缓慢的;
Figure FDA0002859504510000052
步骤6所述亮度梯度项为:
由于太阳周围云的运动可能造成图像晴空背景亮度发生较大变化,使得像素亮度值的匹配出现错误,可通过亮度值梯度的约束来增强亮度恒定项的效果,达到进一步精确地预测出后一幅云图Ik+2的目的;
Figure FDA0002859504510000053
步骤6所述主运动项为:
将块匹配法获得的云初步运动矢量
Figure FDA0002859504510000054
作为约束项代入光流法,使得光流计算的迭代次数可适当降低,提高计算效率,同时减弱各云块内部亮度不均一的影响;
Figure FDA0002859504510000055
步骤6所述加权中值滤波为:
对运动矢量(u,v)进行加权中值滤波能有效改善云边缘处异常值的问题;
首先利用Sobel算子检测云边缘并适当扩大范围,对于非边缘的区域,以[m,m]的窗口大小进行传统中值滤波,而在云边缘区域,综合考虑空间距离、Lab颜色空间差距以及遮挡状态这三个因素,在[M,M]的窗口范围内进行加权中值滤波,且M>m;
Figure FDA0002859504510000056
其中,Nx,y是以(x,y)为中心的窗口范围内除中心外的点(x′,y′)的集合,
Figure FDA0002859504510000057
代表两个像素(x,y)和(x′,y′)之间相似性的权重,具体为下式,I代表Lab空间中的颜色向量,nc为颜色波段数,σ1=7,σ2=7:
Figure FDA0002859504510000061
遮挡状态变量o(x,y)被定义为
Figure FDA0002859504510000062
式中d(x,y)为单边散度函数,div(x,y)代表光流的散度
Figure FDA0002859504510000063
Figure FDA0002859504510000064
步骤6所述的光流法能量函数为:
Figure FDA0002859504510000065
式中,α,γ,β分别为全局平滑项的权重、亮度梯度项的权重、主运动项的权重;
以光流法能量函数最小化为优化目标,利用欧拉-拉格朗日方程、逐次超松弛法等数学手段求解,得到全天空图像Ik每个像素点的运动矢量(u,v)。
7.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤7所述一定比例为:r,0<r<1;
步骤7所述N个不同分辨率的图像为:
Figure FDA0002859504510000066
CN202011558439.8A 2020-12-25 2020-12-25 一种块匹配与光流法结合的地基云图运动预测方法 Active CN112712542B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011558439.8A CN112712542B (zh) 2020-12-25 2020-12-25 一种块匹配与光流法结合的地基云图运动预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011558439.8A CN112712542B (zh) 2020-12-25 2020-12-25 一种块匹配与光流法结合的地基云图运动预测方法

Publications (2)

Publication Number Publication Date
CN112712542A true CN112712542A (zh) 2021-04-27
CN112712542B CN112712542B (zh) 2024-02-02

Family

ID=75545810

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011558439.8A Active CN112712542B (zh) 2020-12-25 2020-12-25 一种块匹配与光流法结合的地基云图运动预测方法

Country Status (1)

Country Link
CN (1) CN112712542B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113411500A (zh) * 2021-06-18 2021-09-17 上海盈方微电子有限公司 一种全局运动向量估计方法及电子防抖方法
CN113947610A (zh) * 2021-10-25 2022-01-18 北京达佳互联信息技术有限公司 图像处理方法及装置
CN115205369A (zh) * 2022-08-03 2022-10-18 江苏科技大学 一种抗大气湍流的灯靶图像位移提取算法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010151597A (ja) * 2008-12-25 2010-07-08 Nippon Telegr & Teleph Corp <Ntt> 気象予測装置、気象予測方法および気象予測プログラム
US20140278108A1 (en) * 2013-03-13 2014-09-18 Locus Energy, Llc Methods and Systems for Optical Flow Modeling Applications for Wind and Solar Irradiance Forecasting
CN104869387A (zh) * 2015-04-19 2015-08-26 中国传媒大学 基于光流法的双目图像最大视差获取方法
CN106780540A (zh) * 2016-12-08 2017-05-31 浙江科技学院 面向光伏发电的地基云图云层跟踪及预警方法
CN106960445A (zh) * 2017-03-31 2017-07-18 卢涵宇 一种基于金字塔光流的云运动矢量计算方法
CN107862704A (zh) * 2017-11-06 2018-03-30 广东工业大学 一种目标跟踪方法、系统及其使用的云台相机

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010151597A (ja) * 2008-12-25 2010-07-08 Nippon Telegr & Teleph Corp <Ntt> 気象予測装置、気象予測方法および気象予測プログラム
US20140278108A1 (en) * 2013-03-13 2014-09-18 Locus Energy, Llc Methods and Systems for Optical Flow Modeling Applications for Wind and Solar Irradiance Forecasting
CN104869387A (zh) * 2015-04-19 2015-08-26 中国传媒大学 基于光流法的双目图像最大视差获取方法
CN106780540A (zh) * 2016-12-08 2017-05-31 浙江科技学院 面向光伏发电的地基云图云层跟踪及预警方法
CN106960445A (zh) * 2017-03-31 2017-07-18 卢涵宇 一种基于金字塔光流的云运动矢量计算方法
CN107862704A (zh) * 2017-11-06 2018-03-30 广东工业大学 一种目标跟踪方法、系统及其使用的云台相机

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
柯涛;张永军;: "SIFT特征算子在低空遥感影像全自动匹配中的应用", 测绘科学, no. 04 *
王飞;甄钊;米增强;孙宏斌;刘纯;王勃;卢静: "基于相位相关的天空图像云团运动速度计算方法研究", 太阳能学报, vol. 37, no. 10 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113411500A (zh) * 2021-06-18 2021-09-17 上海盈方微电子有限公司 一种全局运动向量估计方法及电子防抖方法
CN113411500B (zh) * 2021-06-18 2024-01-12 上海盈方微电子有限公司 一种全局运动向量估计方法及电子防抖方法
CN113947610A (zh) * 2021-10-25 2022-01-18 北京达佳互联信息技术有限公司 图像处理方法及装置
CN115205369A (zh) * 2022-08-03 2022-10-18 江苏科技大学 一种抗大气湍流的灯靶图像位移提取算法
CN115205369B (zh) * 2022-08-03 2024-04-02 江苏科技大学 一种抗大气湍流的灯靶图像位移提取算法

Also Published As

Publication number Publication date
CN112712542B (zh) 2024-02-02

Similar Documents

Publication Publication Date Title
CN112712542A (zh) 一种块匹配与光流法结合的地基云图运动预测方法
US9846946B2 (en) Objection recognition in a 3D scene
CN108647655B (zh) 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法
CN109934163A (zh) 一种基于场景先验和特征再融合的航空图像车辆检测方法
CN109816708B (zh) 基于倾斜航空影像的建筑物纹理提取方法
Gulick et al. Autonomous image analyses during the 1999 Marsokhod rover field test
US11010606B1 (en) Cloud detection from satellite imagery
US20030185420A1 (en) Target detection method and system
US20070242900A1 (en) Combining multiple exposure images to increase dynamic range
CN110147714B (zh) 基于无人机的煤矿采空区裂缝识别方法及检测系统
CN104574347A (zh) 基于多源遥感数据的在轨卫星图像几何定位精度评价方法
JP2006285310A (ja) 森林の樹冠の評価方法及びその樹冠評価プログラム
Sommer et al. Multi feature deconvolutional faster r-cnn for precise vehicle detection in aerial imagery
CN109559324A (zh) 一种线阵图像中的目标轮廓检测方法
CN112560619B (zh) 一种基于多聚焦图像融合的多距离鸟类精准识别方法
CN112906531B (zh) 一种基于非监督分类的多源遥感影像时空融合方法及系统
AU2020103470A4 (en) Shadow Detection for High-resolution Orthorectificed Imagery through Multi-level Integral Relaxation Matching Driven by Artificial Shadows
CN112767371A (zh) 一种基于人工智能的可变阻尼调节果冻效应方法及系统
Vida et al. Open-source meteor detection software for low-cost single-board computers
CN104700359A (zh) 像平面不同极轴方向图像序列进行超分辨率重建的方法
CN110427961B (zh) 一种基于规则和样本融合的建筑信息提取方法及系统
Iwaszczuk et al. Detection of windows in IR building textures using masked correlation
Özcan et al. Building detection using local features and DSM data
CN104820972A (zh) 一种基于在轨分类统计的红外影像me噪声去除方法
Yu et al. Advanced approach for automatic reconstruction of 3d buildings from aerial images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant