CN112712542A - 一种块匹配与光流法结合的地基云图运动预测方法 - Google Patents
一种块匹配与光流法结合的地基云图运动预测方法 Download PDFInfo
- Publication number
- CN112712542A CN112712542A CN202011558439.8A CN202011558439A CN112712542A CN 112712542 A CN112712542 A CN 112712542A CN 202011558439 A CN202011558439 A CN 202011558439A CN 112712542 A CN112712542 A CN 112712542A
- Authority
- CN
- China
- Prior art keywords
- sky
- cloud
- image
- foundation
- optical flow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 78
- 230000003287 optical effect Effects 0.000 title claims abstract description 74
- 239000013598 vector Substances 0.000 claims abstract description 122
- 238000001914 filtration Methods 0.000 claims abstract description 24
- 238000004364 calculation method Methods 0.000 claims abstract description 23
- 230000002159 abnormal effect Effects 0.000 claims abstract description 6
- 238000007781 pre-processing Methods 0.000 claims description 18
- 238000005457 optimization Methods 0.000 claims description 16
- 230000008859 change Effects 0.000 claims description 13
- 238000006073 displacement reaction Methods 0.000 claims description 12
- 239000011159 matrix material Substances 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000009499 grossing Methods 0.000 claims description 6
- 230000000694 effects Effects 0.000 claims description 5
- 238000012937 correction Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000007637 random forest analysis Methods 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 238000010276 construction Methods 0.000 claims description 2
- 230000008901 benefit Effects 0.000 abstract description 7
- 230000008569 process Effects 0.000 abstract description 4
- 206010034960 Photophobia Diseases 0.000 abstract 1
- 208000013469 light sensitivity Diseases 0.000 abstract 1
- 230000005855 radiation Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/207—Analysis of motion for motion estimation over a hierarchy of resolutions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/005—Tree description, e.g. octree, quadtree
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种块匹配和光流法结合的地基云图运动预测方法,针对获取的地基全天空图像,利用云分类信息提取云区域,采用块匹配法计算云区域的主运动矢量,将其结果作为光流法的约束项之一,和亮度恒定项、全局平滑项和亮度梯度项共同构造光流法能量函数,同时在光流法云运动场计算过程中,对每层金字塔加入加权中值滤波,减小运动矢量异常值的影响,实现地基全天空图像的云运动快速准确的预测。本方法针对块匹配预测精度低,光流法计算时间长、光线敏感等问题,通过将块匹配和光流法结合,充分利用块匹配速度快、光流法精度高的优势,提高了全天空图像的云运动预测的速度和精度。
Description
技术领域
本发明属于摄影测量与遥感领域,尤其涉及一种块匹配与光流法结合的地基云图运动预测方法。
背景技术
在短期内到达地面的太阳辐射量可能发生大的波动,云层的遮挡是导致辐射量变化的关键性因素,当云层和太阳的相对位置发生变化时,会造成辐射量的剧烈波动,因此判断短期内云的运动位置和方向是预测太阳辐射量变化的关键。获取云观测数据的地基全天空成像仪安装在某个固定位置,可获取该地区一定范围的全天空图像,其时间分辨率一般为30秒,利用该仪器可实现云识别、云运动场预测和短期太阳辐照度预测。
目前常用的运动目标检测方法包括块匹配法和光流法。
块匹配方法首先将图像划分为若干块,假定每一个块内的所有像素作为一个整体,具有相同的运动模式,围绕某块B1建立大范围的搜索窗口,在后一幅图像的搜索窗口内,按照一定的搜索原理寻找与块B1最相似的块B2,它们中心点在水平和垂直方向上的差值即为块B1的运动矢量。块匹配的思路简单易懂,对硬件要求低,运算速度快,因其高效的优点而被广泛采用,但算法具有易陷入局部最优的固有缺陷,并且将整块作为一体的假设在一定程度上限制了块匹配算法的精度。
光流被定义为空间运动目标在二维成像平面上的像素运动的瞬时速度,是图像中亮度的表观运动,图像中所有像素点的光流集合组成了光流场,在理想情况下,光流场对应于运动场。光流法不需要预先知道场景的任何信息就能精确计算出目标的运动矢量,但它对光线的变化十分敏感,同时由于采用迭代计算的方式,耗时稍长。
为了克服块匹配精度低、光流法计算时间长且对光线敏感的不足,本发明将块匹配和光流法结合,将块匹配计算出的主运动矢量作为约束项代入光流法,减少光流法的迭代次数,克服光线导致的图像亮度突变,同时在光流计算中加入加权中值滤波,去除云边缘运动矢量异常值,提高计算精度。与单个方法相比,本发明具有云运动预测精度高、速度快、鲁棒性强的优点。
发明内容
本方法主要解决块匹配对云运动预测精度低和光流法预测计算时间长、光线敏感的问题,提出了一种块匹配和光流法结合的地基云图运动预测算法。
本发明核心过程包括以下步骤:
步骤1,读取原始地基全天空图像,首先利用平面结构引导的修复算法对原始地基全天空图像中被遮挡的区域进行图像修复,再以图像中心为原点、设置一定半径保留图像天空区域、裁掉与天空无关区域,最后根据角度的对应关系进一步进行图像畸变校正,得到第k幅和第k+1幅预处理后地基全天空图像Ik,Ik+1,k∈[1,K-1],K为预处理后地基全天空图像的数量。
步骤2,通过基于多特征的随机森林分类方法将预处理后地基全天空图像的每个像素分为云类别或者晴空类别,从而将预处理后地基全天空图像转换成云或晴空的二值图像,利用逆四叉树法在二值图像Ibw中确定云范围;
步骤3,根据预处理后地基全天空图像中方块坐标的像素亮度值构建均方误差优化目标,以均方误差最小化为优化目标进行块匹配,得到预处理后地基全天空图像的运动矢量;
步骤4,结合步骤2所述的预处理后地基全天空图像的云范围、步骤3所述的块匹配运动矢量得到预处理后地基全天空图像的云范围内的块匹配运动矢量,筛选出频次较高的多个块匹配运动矢量作为主运动矢量;
步骤5,针对步骤2中所述的相邻两幅预处理后地基全天空图像的总云范围内每个像素,分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差,以矢量差的模最小为准则将对应的主运动矢量赋值给该像素,从而重新确定云范围内的运动矢量,得到云的初步运动矢量;
步骤6,根据云的初步运动矢量构造主运动项,连同亮度恒定项、全局平滑项、亮度梯度项和加权中值滤波构建光流法能量函数,对能量函数最小化进行优化求解,得到全天空图像中每个像素点的运动矢量;
步骤7,针对基于微分的光流算法只能计算小位移的光流问题,引入金字塔思想进行由粗到细的多尺度计算,以一定比例将预处理后全天空图像降采样为N个不同分辨率的图像,在金字塔中从上到下按最低分辨率到最高分辨率依次排列,从金字塔顶层开始,对第n层图像进行步骤6的光流法计算,得到运动矢量(u,v)n,然后作为第n+1层的矢量计算初始值(u0,v0)n+1,直到最底层N,从而将大位移分解为若干个小位移的集合,达到计算大位移光流的目的;
作为优选,步骤2所述预处理后地基全天空图像的每个像素为:
Ik(i,j)
其中,Ik(i,j)表示第k幅预处理后地基全天空图像中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;
步骤2所述晴空类别定义为Csky;
步骤2所述云类别定义为Ccloud;
步骤2所述二值图像,具体定义为:
Ik,bw(i,j),typek(i,j)
其中,Ik,bw(i,j)表示第k幅预处理后地基全天空图像对应的二值图像Ibw中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率,typek(i,j)表示第k幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素类别,若Ik,bw(i,j)为晴空类别则typek(i,j)=Csky,若Ik,bw(i,j)为云类别则typek(i,j)=Ccloud;
步骤2所述利用逆四叉树法在二值图像中确定相邻两幅预处理后地基全天空图像的总云范围,具体为:
对二值图像进行初步处理:
以n*n的像素方阵作为基本单元即Uk,1(i′,j′);
Uk,1(i′,j′)为第k幅预处理后地基全天空图像对应的二值图像中第i′行第j′列的第1级方阵,即基本单元,方阵的尺寸为n*n,i′∈[1,M/n],j′∈[1,N/n],k∈[1,K-1],K为预处理后地基全天空图像的数量;
当Uk,1(i′,j′)内属于云类别的像素个数超过单元总像素数n*n的一定比例时,则将Uk,1(i′,j′)内所有像素设置为云类别Ccloud,否则全部设置为晴空类别Csky;
将基本单元按照四叉树原理自下而上逐步聚拢,得到第k幅全天空图像不同尺寸的云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L,其中第m级的方阵尺寸为2m-1n*2m-1n;
第k幅预处理后地基全天空图像的云范围Rk为第k幅预处理后地基全天空图像对应的二值图像中所有云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L的集合;
对第k+1幅预处理后地基全天空图像Ik+1重复上述操作得到对应的云范围Rk+1,则第k幅和第k+1幅预处理后地基全天空图像的总云范围为:
Rk,k+1=Rk∪Rk+1,Rk,k+1为Rk和Rk+1的并集。
作为优选,步骤3所述构建均方误差优化目标为:
其中,为第k幅全天空图像中第i行第j列像素的运动矢量,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;方块的大小为N′*N′,fk+1(n+u,n+v)表示第k+1幅图像中方块坐标(n+u,n+v)处的像素亮度值,fk(n,n)则表示第k幅参考图像搜索窗口中方块坐标为(n,n)处的像素亮度值,u和v分别为横向和纵向的运动距离,u∈[-a,a],v∈[-a,a],a为块匹配搜索窗口的大小。
作为优选,步骤4所述相邻两幅预处理后地基全天空图像的总云范围内像素的块匹配运动矢量为:
其中,第k幅全天空图像第i行第j列像素为云类别Ccloud,其运动矢量为Rk,k+1为步骤2所述第k幅和第k+1幅预处理后地基全天空图像的总云范围,M*N为预处理后地基全天空图像的分辨率,K为预处理后地基全天空图像的数量;
步骤4所述筛选出频次较高的多个矢量作为主运动矢量为:
作为优选,步骤5所述分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差的模为:
步骤5中所述以矢量差的模最小为准则将对应的主运动矢量赋值给该像素为:
其中,为第k幅全天空图像第i行第j列像素的初步运动矢量,(i,j)∈Rk,k+1,k∈[1,K-1],Rk,k+1为步骤2所述第k幅和第k+1幅预处理后地基全天空图像的总云范围,K为预处理后地基全天空图像的数量。
作为优选,步骤6所述亮度恒定项为:
光流法的基本约束方程,假设同一像素点在连续两幅全天空图像Ik和Ik+1中的亮度值不发生变化,即灰度值不变,其中k∈[1,K-1],K为地基全天空图像的数量;
Eintensity(u,v)=∫∫ψ(|Ik+1(x+dx,y+dy)-Ik(x,y)|2)dxdy
其中,Ik(x,y)为某像素点(x,y)在第k幅图像中的亮度值,经过一定时间,该像素点移动了(dx,dy),此时的亮度值为Ik+1(x+dx,y+dy)。式中ε=0.001为Charbonnier惩罚函数,(u,v)表示计算得到的该像素点(x,y)的运动矢量。
步骤6所述全局平滑项为:
整个图像Ik上光流的变化是平滑的,即u和v随着像素点移动而发生的变化是缓慢的;
步骤6所述亮度梯度项为:
由于太阳周围云的运动可能造成图像晴空背景亮度发生较大变化,使得像素亮度值的匹配出现错误,可通过亮度值梯度的约束来增强亮度恒定项的效果,达到进一步精确地预测出后一幅云图Ik+2的目的;
步骤6所述主运动项为:
步骤6所述加权中值滤波为:
对运动矢量(u,v)进行加权中值滤波能有效改善云边缘处异常值的问题;
首先利用Sobel算子检测云边缘并适当扩大范围,对于非边缘的区域,以[m,m]的窗口大小进行传统中值滤波,而在云边缘区域,综合考虑空间距离、Lab颜色空间差距以及遮挡状态这三个因素,在[M,M]的窗口范围内进行加权中值滤波,且M>m;
其中,Nx,y是以(x,y)为中心的窗口范围内除中心外的点(x′,y′)的集合,代表两个像素(x,y)和(x′,y′)之间相似性的权重,具体为下式,I代表Lab空间中的颜色向量,nc为颜色波段数,σ1=7,σ2=7:
遮挡状态变量o(x,y)被定义为
式中d(x,y)为单边散度函数,div(x,y)代表光流的散度
步骤6所述的光流法能量函数为:
式中,α,γ,β分别为全局平滑项的权重、亮度梯度项的权重、主运动项的权重;
以光流法能量函数最小化为优化目标,利用欧拉-拉格朗日方程、逐次超松弛法等数学手段求解,得到全天空图像Ik每个像素点的运动矢量(u,v);
作为优选,步骤7所述一定比例为:r,0<r<1;
步骤7所述N个不同分辨率的图像为:
本发明具有如下优点:通过综合利用块匹配运算速度快、光流法计算精度高的优点,同时在光流计算中引入的加权中值滤波,有效去除云边缘运动矢量的异常值,实现全天空图像云运动精确快速预测,该方法还具有鲁棒性,克服光流法对光线敏感的问题,对图像亮度突变的情况也能实现精确预测。
附图说明
图1为使用本发明提出的块匹配和光流法结合的地基云图运动预测的作业流程;
图2为图像的预处理过程,包括图像修复和图像校正。
图3为一组连续拍摄的全天空图像,拍摄时间间隔为1分钟。
图4为基于云分类信息采用块匹配计算的主运动矢量。
图5为根据块匹配结果,采用光流法计算出的运动矢量和预测图像。
图6为光流法中无滤波、中值滤波和加权中值滤波的对比图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
下面结合图1至图6介绍本发明的具体实施方式为一种块匹配与光流法结合的地基云图运动预测方法:
实施路线如图1所示:
步骤1,读取原始地基全天空图像,首先利用平面结构引导的修复算法对原始地基全天空图像中被遮挡的区域进行图像修复,再以图像中心为原点、设置一定半径保留图像天空区域、裁掉与天空无关区域,最后根据角度的对应关系进一步进行图像畸变校正,如图2。
得到的第1幅和第2幅预处理后地基全天空图像I1,I2,第3幅图像为预测时刻的真值全天空图像,如图3。
步骤2,通过基于多特征的随机森林分类方法将预处理后地基全天空图像的每个像素分为云类别或者晴空类别,从而将预处理后地基全天空图像转换成云或晴空的二值图像,利用逆四叉树法在二值图像Ibw中确定云范围,如图4(a);
步骤2所述预处理后地基全天空图像的每个像素为:
I1(i,j)
其中,I1(i,j)表示第1幅预处理后地基全天空图像中第i行第j列的像素,i∈[1,250],j∈[1,250],250*250为预处理后地基全天空图像的分辨率;
步骤2所述晴空类别定义为Csky;
步骤2所述云类别定义为Ccloud;
步骤2所述二值图像,具体定义为:
I1,bw(i,j),type1(i,j)
其中,I1,bw(i,j)表示第1幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素,i∈[1,250],j∈[1,250],250*250为预处理后地基全天空图像的分辨率,type1(i,j)表示第1幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素类别,若I1,bw(i,j)为晴空类别则type1(i,j)=Csky,若I1,bw(i,j)为云类别则type1(i,j)=Ccloud;
步骤2所述利用逆四叉树法在二值图像中确定相邻两幅预处理后地基全天空图像的总云范围,具体为:
对二值图像进行初步处理:
以5*5的像素方阵作为基本单元即U1,1(i′,j′);
U1,1(i′,j′)为第1幅预处理后地基全天空图像对应的二值图像中第i′行第j′列的第1级方阵,即基本单元,方阵的尺寸为5*5,i′∈[1,50],j′∈[1,50];
当U1,1(i′,j′)内属于云类别的像素个数超过单元总像素数5*5的一定比例时,则将U1,1(i′,j′)内所有像素设置为云类别Ccloud,否则全部设置为晴空类别Csky;
将基本单元按照四叉树原理自下而上逐步聚拢,得到第1幅全天空图像不同尺寸的云块单元U1,1,U1,2,...,U1,m,...,U1,L,其中第m级的方阵尺寸为(2m-1*5)*(2m-1*5);
第1幅预处理后地基全天空图像的云范围R1为第1幅预处理后地基全天空图像对应的二值图像中所有云块单元U1,1,U1,2,...,U1,m,...,U1,L的集合;
对第2幅预处理后地基全天空图像I2重复上述操作得到对应的云范围R2,则第1幅和第2幅预处理后地基全天空图像的总云范围为:
R1,2=R1∪R2,R1,2为R1和R2的并集。
步骤3,根据预处理后地基全天空图像中方块坐标的像素亮度值构建均方误差优化目标,以均方误差最小化为优化目标进行块匹配,得到预处理后地基全天空图像的运动矢量,如图4(b);
步骤3所述构建均方误差优化目标为:
其中,为第1幅全天空图像中第i行第j列像素的运动矢量,i∈[1,250],j∈[1,250],250*250为预处理后地基全天空图像的分辨率;方块的大小为25*25,f2(n+u,n+v)表示第2幅图像中方块坐标(n+u,n+v)处的像素亮度值,f1(n,n)则表示第1幅参考图像搜索窗口中方块坐标为(n,n)处的像素亮度值,u和v分别为横向和纵向的运动距离,u∈[-50,50],v∈[-50,50],50为块匹配搜索窗口的大小。
步骤4,结合步骤2所述的相邻两幅预处理后地基全天空图像的总云范围、步骤3所述的块匹配运动矢量得到相邻两幅预处理后地基全天空图像的总云范围内的块匹配运动矢量,如图4(c)。筛选出频次较高的多个块匹配运动矢量作为主运动矢量;
步骤4所述相邻两幅预处理后地基全天空图像的总云范围内像素的块匹配运动矢量为:
步骤4所述筛选出频次较高的多个矢量作为主运动矢量为:
步骤5,针对步骤2中所述的相邻两幅预处理后地基全天空图像的总云范围内每个像素,分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差,以矢量差的模最小为准则将对应的主运动矢量赋值给该像素,从而重新确定云范围内的运动矢量,得到云的初步运动矢量,如图4(d);
步骤5所述分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差的模为:
步骤5中所述以矢量差的模最小为准则将对应的主运动矢量赋值给该像素为:
步骤6,根据云的初步运动矢量构造主运动项,连同亮度恒定项、全局平滑项、亮度梯度项和加权中值滤波构建光流法能量函数,对能量函数最小化进行优化求解,得到全天空图像中每个像素点的运动矢量,如图5,图中还展示了根据计算求得的运动矢量预测出的下一时刻的全天空图像I3以及其与真实全天空图像的差值;
步骤6所述亮度恒定项为:
光流法的基本约束方程,假设同一像素点在连续两幅全天空图像I1和I2中的亮度值不发生变化,即灰度值不变;
Eintensity(u,v)=∫∫ψ(|I2(x+dx,y+dy)-I1(x,y)|2)dxdy
其中,I1(x,y)为某像素点(x,y)在第1幅图像中的亮度值,经过一定时间,该像素点移动了(dx,dy),此时的亮度值为I2(x+dx,y+dy)。式中ε=0.001为Charbonnier惩罚函数,(u,v)表示计算得到的该像素点(x,y)的运动矢量。
步骤6所述全局平滑项为:
整个图像I1上光流的变化是平滑的,即u和v随着像素点移动而发生的变化是缓慢的;
步骤6所述亮度梯度项为:
由于太阳周围云的运动可能造成图像晴空背景亮度发生较大变化,使得像素亮度值的匹配出现错误,可通过亮度值梯度的约束来增强亮度恒定项的效果,达到进一步精确地预测出后一幅云图Ik+2的目的;
步骤6所述主运动项为:
步骤6所述加权中值滤波为:
对运动矢量(u,v)进行加权中值滤波能有效改善云边缘处异常值的问题;
首先利用Sobel算子检测云边缘并适当扩大范围,对于非边缘的区域,以[5,5]的窗口大小进行传统中值滤波,而在云边缘区域,综合考虑空间距离、Lab颜色空间差距以及遮挡状态这三个因素,在[15,15]的窗口范围内进行加权中值滤波;
其中,Nx,y是以(x,y)为中心的窗口范围内除中心外的点(x′,y′)的集合,代表两个像素(x,y)和(x′,y′)之间相似性的权重,具体为下式,I代表Lab空间中的颜色向量,nc为颜色波段数,σ1=7,σ2=7:
遮挡状态变量o(x,y)被定义为
式中d(x,y)为单边散度函数,div(x,y)代表光流的散度
步骤6所述的光流法能量函数为:
式中,α,γ,β分别为全局平滑项的权重、亮度梯度项的权重、主运动项的权重;
以光流法能量函数最小化为优化目标,利用欧拉-拉格朗日方程、逐次超松弛法等数学手段求解,得到全天空图像I1每个像素点的运动矢量(u,v);
步骤7,针对基于微分的光流算法只能计算小位移的光流问题,引入金字塔思想进行由粗到细的多尺度计算,如图6分别展示了光流法计算中不使用滤波、使用传统中值滤波和使用加权中值滤波的效果。
以0.98的比例将预处理后全天空图像降采样为91个不同分辨率的图像,在金字塔中从上到下按最低分辨率到最高分辨率依次排列,从金字塔顶层开始,对第n层图像进行步骤6的光流法计算,得到运动矢量(u,v)n,然后作为第n+1层的矢量计算初始值(u0,v0)n+1,直到最底层第91层,从而将大位移分解为若干个小位移的集合,达到计算大位移光流的目的;
步骤7所述一定比例为:0.98;
步骤7所述91个不同分辨率的图像为:
应当理解的是,本说明书未详细阐述的部分均属于现有技术。
应当理解的是,本领域的普通技术人员在本发明的启示下,在不脱离本发明权利要求所保护的范围情况下,还可以做出替换或变形,均落入本发明的保护范围之内,本发明的请求保护范围应以所附权利要求为准。
Claims (7)
1.一种块匹配和光流法结合的地基云图运动预测方法,其特征在于,包括以下步骤:
步骤1,读取原始地基全天空图像,首先利用平面结构引导的修复算法对原始地基全天空图像中被遮挡的区域进行图像修复,再以图像中心为原点、设置一定半径保留图像天空区域、裁掉与天空无关区域,最后根据角度的对应关系进一步进行图像畸变校正,得到第k幅和第k+1幅预处理后地基全天空图像Ik,Ik+1,k∈[1,K-1],K为预处理后地基全天空图像的数量;
步骤2,通过基于多特征的随机森林分类方法将预处理后地基全天空图像的每个像素分为云类别或者晴空类别,从而将预处理后地基全天空图像转换成云或晴空的二值图像,利用逆四叉树法在二值图像Ibw中确定云范围;
步骤3,根据预处理后地基全天空图像中方块坐标的像素亮度值构建均方误差优化目标,以均方误差最小化为优化目标进行块匹配,得到预处理后地基全天空图像的运动矢量;
步骤4,结合步骤2所述的预处理后地基全天空图像的云范围、步骤3所述的块匹配运动矢量得到预处理后地基全天空图像的云范围内的块匹配运动矢量,筛选出频次较高的多个块匹配运动矢量作为主运动矢量;
步骤5,针对步骤2中所述的相邻两幅预处理后地基全天空图像的总云范围内每个像素,分别计算像素点运动矢量与步骤4所述的运动矢量的矢量差,以矢量差的模最小为准则将对应的主运动矢量赋值给该像素,从而重新确定云范围内的运动矢量,得到云的初步运动矢量;
步骤6,根据云的初步运动矢量构造主运动项,连同亮度恒定项、全局平滑项、亮度梯度项和加权中值滤波构建光流法能量函数,对能量函数最小化进行优化求解,得到全天空图像中每个像素点的运动矢量;
步骤7,针对基于微分的光流算法只能计算小位移的光流问题,引入金字塔思想进行由粗到细的多尺度计算,以一定比例将预处理后全天空图像降采样为N个不同分辨率的图像,在金字塔中从上到下按最低分辨率到最高分辨率依次排列,从金字塔顶层开始,对第n层图像进行步骤6的光流法计算,得到运动矢量(u,v)n,然后作为第n+1层的矢量计算初始值(u0,v0)n+1,直到最底层N,从而将大位移分解为若干个小位移的集合,达到计算大位移光流的目的。
2.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤2所述预处理后地基全天空图像的每个像素为:
Ik(i,j)
其中,Ik(i,j)表示第k幅预处理后地基全天空图像中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率;
步骤2所述晴空类别定义为Csky;
步骤2所述云类别定义为Ccloud;
步骤2所述二值图像,具体定义为:
Ik,bw(i,j),typek(i,j)
其中,Ik,bw(i,j)表示第k幅预处理后地基全天空图像对应的二值图像Ibw中第i行第j列的像素,i∈[1,M],j∈[1,N],k∈[1,K-1],K为预处理后地基全天空图像的数量,M*N为预处理后地基全天空图像的分辨率,typek(i,j)表示第k幅预处理后地基全天空图像对应的二值图像中第i行第j列的像素类别,若Ik,bw(i,j)为晴空类别则typek(i,j)=Csky,若Ik,bw(i,j)为云类别则typek(i,j)=Ccloud;
步骤2所述利用逆四叉树法在二值图像中确定相邻两幅预处理后地基全天空图像的总云范围,具体为:
对二值图像进行初步处理:
以n*n的像素方阵作为基本单元即Uk,1(i′,j′);
Uk,1(i′,j′)为第k幅预处理后地基全天空图像对应的二值图像中第i′行第j′列的第1级方阵,即基本单元,方阵的尺寸为n*n,i′∈[1,M/n],j′∈[1,N/n],k∈[1,K-1],K为预处理后地基全天空图像的数量;
当Uk,1(i′,j′)内属于云类别的像素个数超过单元总像素数n*n的一定比例时,则将Uk,1(i′,j′)内所有像素设置为云类别Ccloud,否则全部设置为晴空类别Csky;
将基本单元按照四叉树原理自下而上逐步聚拢,得到第k幅全天空图像不同尺寸的云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L,其中第m级的方阵尺寸为2m-1n*2m-1n;
第k幅预处理后地基全天空图像的云范围Rk为第k幅预处理后地基全天空图像对应的二值图像中所有云块单元Uk,1,Uk,2,...,Uk,m,...,Uk,L的集合;
对第k+1幅预处理后地基全天空图像Ik+1重复上述操作得到对应的云范围Rk+1,则第k幅和第k+1幅预处理后地基全天空图像的总云范围为:
Rk,k+1=Rk∪Rk+1,Rk,k+1为Rk和Rk+1的并集。
6.根据权利要求1所述的块匹配和光流法结合的地基云图运动预测方法,其特征在于:
步骤6所述亮度恒定项为:
光流法的基本约束方程,假设同一像素点在连续两幅全天空图像Ik和Ik+1中的亮度值不发生变化,即灰度值不变,其中k∈[1,K-1],K为地基全天空图像的数量;
Eintensity(u,v)=∫∫ψ(|Ik+1(x+dx,y+dy)-Ik(x,y)|2)dxdy
其中,Ik(x,y)为某像素点(x,y)在第k幅图像中的亮度值,经过一定时间,该像素点移动了(dx,dy),此时的亮度值为Ik+1(x+dx,y+dy);式中ε=0.001为Charbonnier惩罚函数,(u,v)表示计算得到的该像素点(x,y)的运动矢量;
步骤6所述全局平滑项为:
整个图像Ik上光流的变化是平滑的,即u和v随着像素点移动而发生的变化是缓慢的;
步骤6所述亮度梯度项为:
由于太阳周围云的运动可能造成图像晴空背景亮度发生较大变化,使得像素亮度值的匹配出现错误,可通过亮度值梯度的约束来增强亮度恒定项的效果,达到进一步精确地预测出后一幅云图Ik+2的目的;
步骤6所述主运动项为:
步骤6所述加权中值滤波为:
对运动矢量(u,v)进行加权中值滤波能有效改善云边缘处异常值的问题;
首先利用Sobel算子检测云边缘并适当扩大范围,对于非边缘的区域,以[m,m]的窗口大小进行传统中值滤波,而在云边缘区域,综合考虑空间距离、Lab颜色空间差距以及遮挡状态这三个因素,在[M,M]的窗口范围内进行加权中值滤波,且M>m;
其中,Nx,y是以(x,y)为中心的窗口范围内除中心外的点(x′,y′)的集合,代表两个像素(x,y)和(x′,y′)之间相似性的权重,具体为下式,I代表Lab空间中的颜色向量,nc为颜色波段数,σ1=7,σ2=7:
遮挡状态变量o(x,y)被定义为
式中d(x,y)为单边散度函数,div(x,y)代表光流的散度
步骤6所述的光流法能量函数为:
式中,α,γ,β分别为全局平滑项的权重、亮度梯度项的权重、主运动项的权重;
以光流法能量函数最小化为优化目标,利用欧拉-拉格朗日方程、逐次超松弛法等数学手段求解,得到全天空图像Ik每个像素点的运动矢量(u,v)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011558439.8A CN112712542B (zh) | 2020-12-25 | 2020-12-25 | 一种块匹配与光流法结合的地基云图运动预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011558439.8A CN112712542B (zh) | 2020-12-25 | 2020-12-25 | 一种块匹配与光流法结合的地基云图运动预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112712542A true CN112712542A (zh) | 2021-04-27 |
CN112712542B CN112712542B (zh) | 2024-02-02 |
Family
ID=75545810
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011558439.8A Active CN112712542B (zh) | 2020-12-25 | 2020-12-25 | 一种块匹配与光流法结合的地基云图运动预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112712542B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113411500A (zh) * | 2021-06-18 | 2021-09-17 | 上海盈方微电子有限公司 | 一种全局运动向量估计方法及电子防抖方法 |
CN113947610A (zh) * | 2021-10-25 | 2022-01-18 | 北京达佳互联信息技术有限公司 | 图像处理方法及装置 |
CN115205369A (zh) * | 2022-08-03 | 2022-10-18 | 江苏科技大学 | 一种抗大气湍流的灯靶图像位移提取算法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010151597A (ja) * | 2008-12-25 | 2010-07-08 | Nippon Telegr & Teleph Corp <Ntt> | 気象予測装置、気象予測方法および気象予測プログラム |
US20140278108A1 (en) * | 2013-03-13 | 2014-09-18 | Locus Energy, Llc | Methods and Systems for Optical Flow Modeling Applications for Wind and Solar Irradiance Forecasting |
CN104869387A (zh) * | 2015-04-19 | 2015-08-26 | 中国传媒大学 | 基于光流法的双目图像最大视差获取方法 |
CN106780540A (zh) * | 2016-12-08 | 2017-05-31 | 浙江科技学院 | 面向光伏发电的地基云图云层跟踪及预警方法 |
CN106960445A (zh) * | 2017-03-31 | 2017-07-18 | 卢涵宇 | 一种基于金字塔光流的云运动矢量计算方法 |
CN107862704A (zh) * | 2017-11-06 | 2018-03-30 | 广东工业大学 | 一种目标跟踪方法、系统及其使用的云台相机 |
-
2020
- 2020-12-25 CN CN202011558439.8A patent/CN112712542B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010151597A (ja) * | 2008-12-25 | 2010-07-08 | Nippon Telegr & Teleph Corp <Ntt> | 気象予測装置、気象予測方法および気象予測プログラム |
US20140278108A1 (en) * | 2013-03-13 | 2014-09-18 | Locus Energy, Llc | Methods and Systems for Optical Flow Modeling Applications for Wind and Solar Irradiance Forecasting |
CN104869387A (zh) * | 2015-04-19 | 2015-08-26 | 中国传媒大学 | 基于光流法的双目图像最大视差获取方法 |
CN106780540A (zh) * | 2016-12-08 | 2017-05-31 | 浙江科技学院 | 面向光伏发电的地基云图云层跟踪及预警方法 |
CN106960445A (zh) * | 2017-03-31 | 2017-07-18 | 卢涵宇 | 一种基于金字塔光流的云运动矢量计算方法 |
CN107862704A (zh) * | 2017-11-06 | 2018-03-30 | 广东工业大学 | 一种目标跟踪方法、系统及其使用的云台相机 |
Non-Patent Citations (2)
Title |
---|
柯涛;张永军;: "SIFT特征算子在低空遥感影像全自动匹配中的应用", 测绘科学, no. 04 * |
王飞;甄钊;米增强;孙宏斌;刘纯;王勃;卢静: "基于相位相关的天空图像云团运动速度计算方法研究", 太阳能学报, vol. 37, no. 10 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113411500A (zh) * | 2021-06-18 | 2021-09-17 | 上海盈方微电子有限公司 | 一种全局运动向量估计方法及电子防抖方法 |
CN113411500B (zh) * | 2021-06-18 | 2024-01-12 | 上海盈方微电子有限公司 | 一种全局运动向量估计方法及电子防抖方法 |
CN113947610A (zh) * | 2021-10-25 | 2022-01-18 | 北京达佳互联信息技术有限公司 | 图像处理方法及装置 |
CN115205369A (zh) * | 2022-08-03 | 2022-10-18 | 江苏科技大学 | 一种抗大气湍流的灯靶图像位移提取算法 |
CN115205369B (zh) * | 2022-08-03 | 2024-04-02 | 江苏科技大学 | 一种抗大气湍流的灯靶图像位移提取算法 |
Also Published As
Publication number | Publication date |
---|---|
CN112712542B (zh) | 2024-02-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112712542A (zh) | 一种块匹配与光流法结合的地基云图运动预测方法 | |
US9846946B2 (en) | Objection recognition in a 3D scene | |
CN108647655B (zh) | 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 | |
CN109934163A (zh) | 一种基于场景先验和特征再融合的航空图像车辆检测方法 | |
CN109816708B (zh) | 基于倾斜航空影像的建筑物纹理提取方法 | |
Gulick et al. | Autonomous image analyses during the 1999 Marsokhod rover field test | |
US11010606B1 (en) | Cloud detection from satellite imagery | |
US20030185420A1 (en) | Target detection method and system | |
US20070242900A1 (en) | Combining multiple exposure images to increase dynamic range | |
CN110147714B (zh) | 基于无人机的煤矿采空区裂缝识别方法及检测系统 | |
CN104574347A (zh) | 基于多源遥感数据的在轨卫星图像几何定位精度评价方法 | |
JP2006285310A (ja) | 森林の樹冠の評価方法及びその樹冠評価プログラム | |
Sommer et al. | Multi feature deconvolutional faster r-cnn for precise vehicle detection in aerial imagery | |
CN109559324A (zh) | 一种线阵图像中的目标轮廓检测方法 | |
CN112560619B (zh) | 一种基于多聚焦图像融合的多距离鸟类精准识别方法 | |
CN112906531B (zh) | 一种基于非监督分类的多源遥感影像时空融合方法及系统 | |
AU2020103470A4 (en) | Shadow Detection for High-resolution Orthorectificed Imagery through Multi-level Integral Relaxation Matching Driven by Artificial Shadows | |
CN112767371A (zh) | 一种基于人工智能的可变阻尼调节果冻效应方法及系统 | |
Vida et al. | Open-source meteor detection software for low-cost single-board computers | |
CN104700359A (zh) | 像平面不同极轴方向图像序列进行超分辨率重建的方法 | |
CN110427961B (zh) | 一种基于规则和样本融合的建筑信息提取方法及系统 | |
Iwaszczuk et al. | Detection of windows in IR building textures using masked correlation | |
Özcan et al. | Building detection using local features and DSM data | |
CN104820972A (zh) | 一种基于在轨分类统计的红外影像me噪声去除方法 | |
Yu et al. | Advanced approach for automatic reconstruction of 3d buildings from aerial images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |