CN106355608B - 基于可变权重代价计算与S-census变换的立体匹配方法 - Google Patents

基于可变权重代价计算与S-census变换的立体匹配方法 Download PDF

Info

Publication number
CN106355608B
CN106355608B CN201610816422.5A CN201610816422A CN106355608B CN 106355608 B CN106355608 B CN 106355608B CN 201610816422 A CN201610816422 A CN 201610816422A CN 106355608 B CN106355608 B CN 106355608B
Authority
CN
China
Prior art keywords
parallax
census
cost
matching
initial parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610816422.5A
Other languages
English (en)
Other versions
CN106355608A (zh
Inventor
陈苏婷
吴月路
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Information Science and Technology
Original Assignee
Nanjing University of Information Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Information Science and Technology filed Critical Nanjing University of Information Science and Technology
Priority to CN201610816422.5A priority Critical patent/CN106355608B/zh
Publication of CN106355608A publication Critical patent/CN106355608A/zh
Application granted granted Critical
Publication of CN106355608B publication Critical patent/CN106355608B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20228Disparity calculation for image-based rendering

Landscapes

  • Image Processing (AREA)

Abstract

本发明公开了一种基于可变权重代价计算与S‑census变换的立体匹配方法,利用星型邻域最小均匀度的均值代替中心像素灰度值进行census变换;以可变权重的Hamming距作为匹配代价,采用非局部代价聚合方法获取初始视差;利用基于均值偏移的视差提精方法,对初始视差做进一步的处理,处理不可信视差区域,获得高精度视差图。本发明分析了传统census变换的不足,提出了可变权重代价计算与S‑census变换,有效地增强了算法的抗干扰能力;通过可变权重汉明距作为对匹配代价的选取分析方法,有效的提高了匹配精准度,减少了误匹配率;采用非局部代价聚合的方法获取初始视差,提高了视差的区分度;突破了局部立体匹配精度不高、抗干扰能力弱等局限性、能够实现高精度的立体匹配。

Description

基于可变权重代价计算与S-census变换的立体匹配方法
技术领域
本发明涉及一种立体匹配方法,特别涉及一种基于可变权重代价计算与S-census变换的立体匹配方法,属于数字图像处理领域。
背景技术
随立体匹配是计算机视觉领域的研究难点与热点之一,匹配精度对于视觉应用有着重大影响。目前,立体视觉在工业检测、机器人导航、军事航空测绘等众多领域有着广泛的应用。
依据最优化理论方法的不同,主要有局部的和全局的两大类匹配算法。全局算法通过能量函数最小化获得匹配结果,精度较高,效率较低。局部算法利用窗口内的邻域信息来进行单像素的匹配。速度快,容易实现,但局部算法存在支持窗口的大小和合适的匹配代价选取等问题。
在局部匹配算法中,算法SAD(sum of absolute differences)和ASW(adaptivesupport weight)等,对于理想图像能够获得较高精度的匹配结果,但对幅度失真非常敏感,难以用于真实场景图像的匹配。而基于census变换的匹配算法,在幅度失真方面具有较强的鲁棒性。适用于真实场景图像的立体匹配,但精度不高。
发明内容
本发明所要解决的技术问题是提供一种基于基于可变权重代价计算与S-census(variable support-weight S-census transform,VSC)变换的立体匹配算法。该算法在分析传统census变换不足的基础上,利用星型邻域最小均匀度的均值代替中心像素灰度值进行Census变换,以可变权重的Hamming距作为匹配代价,采用非局部代价聚合方法获取初始视差。利用基于均值偏移的视差提精方法,对初始视差做进一步的处理,处理不可信视差区域,获得高精度视差图。本发明使用改进后的S-census变换方法,融合加权区域海明距均值和方差作为匹配相似性测度,减少误匹配,提高匹配精度;采用非局部代价聚合自适应的进行代价聚合获取初始视差,利用一种基于均值偏移的视差提精方法,对于代价聚合后的初始视差处理,处理不可信视差区域。本发明方法突破了局部立体匹配精度不高、抗干扰能力弱等局限性,能够实现高精度的立体匹配,该局部立体匹配算法适用于真实场景图像的立体匹配。
本发明为解决上述技术问题采用以下技术方案:
本发明提供一种基于可变权重代价计算与S-census变换的立体匹配算法,包括以下具体步骤:
步骤1,分别对左右视图进行特征点提取,对提取到的左右视图的特征点进行匹配特征,建立以匹配特征点为中心的census变换窗口;
步骤2,以通过匹配特征点的线段划分步骤1中的census变换窗口,其中,划分线段呈星型领域状,计算各条划分线段上的灰度均匀度;
步骤3,采用步骤2中计算得到的最小灰度均匀度对应的区域灰度均值作为参考值进行census变换;
步骤4,通过加权区域海明距作为相似性测度,进行代价计算,获取单点匹配视差;
步骤5,采用非局部代价聚合方法自适应进行代价聚合,对步骤4中的单点匹配视差进行聚合,获取初始视差;
步骤6,获取初始视差后,采用均值偏移法和左右一致性校验方法提高初始视差的精度,获得最终视差图。
作为本发明的进一步优化方案,步骤1中,采用ORB特征提取算法分别对左右视图进行特征点提取。
作为本发明的进一步优化方案,步骤1中,建立以匹配特征点为中心的3*3或5*5大小的census变换窗口。
作为本发明的进一步优化方案,步骤2中,各条划分线段上的灰度均匀度W计算公式为:
式中,f(i,j)为星型邻域的像素灰度值;为f(i,j)的均值。
作为本发明的进一步优化方案,步骤4中,通过加权区域海明距作为相似性测度,进行代价计算,具体为:
(1)计算census变换窗口大小h,h=m×n,其中,m和n分别代表census变换窗口的宽度和高度;h即表示经census变换后码的长度;
(2)对census变换后的码值依次赋予权重,其中,权重因子δk为:
式中,k表示对census变换后码的编号,k=1,2,...,h。
(3)可变权重代价计算,其中,代价计算公式为:
式中,w1k(u,v)表示左视图中census变换窗口对应编号k的码,w2k(u-f,v)表示右视图中census变换窗口对应编号k的码。
作为本发明的进一步优化方案,步骤6中采用均值偏移法和左右一致性校验方法提高初始视差的精度,获得最终视差图,具体为:
1)对步骤5中的初始视差采用左右一致性校验方法进行校验,则初始视差划分为高置信度初始视差和低置信度初始视差;
2)采用均值偏移法对1)中的低置信度初始视差进行优化:
2.1)采用均值偏移法将低置信度初始视差分割为N个子区域,每个子区域记为Si,i=1,2,...,N;
2.2)对2.1)中的N个子区域分别建立视差估计统计直方图,记为统计不同视差出现次数;
2.3)选择视差估计统计直方图的峰值作为子区域Si视差结果,其中,其中,d是视差估计,d∈[0,dmax],dmax是最大的视差估计;
2.4)依据的结构特征确定视差估计,Si最后视差估计为:
式中,是初始视差估计,Ni是子区域Si中像素的个数,的像素量,α是比例阈值,A是子区域Si的大小阈值;
3)采用2.4)中的公式对低置信度初始视差所得视差结果进行判断,得到最终视差图。
本发明采用以上技术方案与现有技术相比,本发明利用星型邻域最小均匀度的均值代替中心像素灰度值进行census变换,有效地增强算法的抗干扰能力,以可变权重的Hamming距作为匹配代价求取初始视差。采用非局部代价聚合的方法进行自适应的代价聚合,提高了视差的区分度,获取初始视差。最后,采用均值偏移的视差提精方法,对初始视差进行处理,处理不可信的视差区域,获得高精度的最终视差图。算法突破了局部立体匹配精度不高、抗干扰能力弱等局限性。能够实现高精度的立体匹配。
附图说明
图1是本发明的算法流程图。
图2是本发明的一种星型邻域线段划分示意图。
图3是本发明的S-census变换示意图。
具体实施方式
下面结合附图以及具体实施例对本发明的技术方案做一详细说明:
本发明提供一种基于可变权重代价计算与S-census变换的立体匹配算法,如图1所示,包括以下具体步骤:
步骤1,建立变换窗口:采用ORB特征提取算法选择特征点并配对,建立以已匹配特征点(u,v)为中心3*3大小的变换窗口。
步骤2,S-census变换:在census变换过程中,加大census变换窗口内各个像素间的相关信息,缩小census变换过度依赖中心点亮度;
步骤3,基于权重可变汉明距代价计算:加权区域海明距的均值和方差作为立体匹配的相似性测度,减少误匹配,提高匹配精度;
步骤4,采用非局部代价聚合方法自适应的进行代价聚合,提高视差区分度,获取初始视差;
步骤5,均值偏移法进行视差提精:利用基于均值偏移的视差提精方法,处理不可信视差区域,获得高精度视差图;
下面通过具体实施例对本发明的方法进行进一步阐述:
1.S-census变换:在census变换过程中,加大census变换窗口内各个像素间的相关信息,缩小census变换过度依赖中心点亮度。具体实现如下:
1)以(u,v)为中心的窗口,划分窗口内以过(u,v)为点的各条线段,其中,线段划分方式如图2所示,划分线段呈星型领域状。
2)计算各条线段上的灰度均匀度W:
这里,f(i,j)表征星型邻域的像素灰度大小;是f(i,j)的均值。
3)取最小灰度均匀度对应的区域的灰度均值替换中心点(u,v)的灰度值。
4)以3)中替换后的中心点(u,v)的灰度值作为参考值,进行census变换,得到新的鲁棒性强的二进制码,如图3所示。
2.基于权重可变汉明距,获取初始匹配视差。通过加权区域海明距作为立体匹配的相似性测度,减少误匹配,提高匹配精度。具体实现如下:
(1)计算census变换窗口大小h,h=m×n,其中,m和n分别代表census变换窗口的宽度和高度;h即表示经census变换后码的长度;
(2)对census变换后的码值依次赋予权重,其中,权重因子δk为:
式中,k表示对census变换后码的编号,k=1,2,...,h。
(3)可变权重代价计算,其中,代价计算公式为:
式中,w1k(u,v)表示左视图中census变换窗口对应编号k的码,w2k(u-f,v)表示右视图中census变换窗口对应编号k的码。
3.采用非局部代价聚合方法自适应的进行代价聚合,提高视差区分度,获取初始视差。
4.利用均值偏移的视差提精方法,对不可信的视差区域进行处理,提高视差精度。具体步骤如下:
1)对步骤5中的初始视差采用左右一致性校验方法进行校验,则初始视差划分为高置信度初始视差和低置信度初始视差;
2)采用均值偏移法对1)中的低置信度初始视差进行优化:
2.1)采用均值偏移法将低置信度初始视差分割为N个子区域,每个子区域记为Si,i=1,2,...,N;
2.2)对2.1)中的N个子区域分别建立视差估计统计直方图,记为统计不同视差出现次数;
2.3)选择视差估计统计直方图的峰值作为子区域Si视差结果,其中,其中,d是视差估计,d∈[0,dmax],dmax是最大的视差估计;
2.4)依据的结构特征确定视差估计,Si最后视差估计为:
式中,是初始视差估计,Ni是子区域Si中像素的个数,的像素量,α是比例阈值,A是子区域Si的大小阈值;
3)采用2.4)中的公式对低置信度初始视差所得视差结果进行判断,得到最终视差图。
以上所述,仅为本发明中的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉该技术的人在本发明所揭露的技术范围内,可理解想到的变换或替换,都应涵盖在本发明的包含范围之内,因此,本发明的保护范围应该以权利要求书的保护范围为准。

Claims (5)

1.基于可变权重代价计算与S-census变换的立体匹配方法,其特征在于,包括以下具体步骤:
步骤1,分别对左右视图进行特征点提取,对提取到的左右视图的特征点进行匹配特征,建立以匹配特征点为中心的census变换窗口;
步骤2,以通过匹配特征点的线段划分步骤1中的census变换窗口,其中,划分线段呈星型领域状,计算各条划分线段上的灰度均匀度;
步骤3,采用步骤2中计算得到的最小灰度均匀度对应的区域灰度均值作为参考值进行census变换;
步骤4,通过加权区域海明距作为相似性测度,进行代价计算,获取单点匹配视差;其中,通过加权区域海明距作为相似性测度,进行代价计算,具体为:
(1)计算census变换窗口大小h,h=m×n,其中,m和n分别代表census变换窗口的宽度和高度;h即表示经census变换后码的长度;
(2)对census变换后的码值依次赋予权重,其中,权重因子δk为:
式中,k表示对census变换后码的编号,k=1,2,...,h;
(3)可变权重代价计算,其中,代价计算公式为:
式中,w1k(u,v)表示左视图中census变换窗口对应编号k的码,w2k(u-f,v)表示右视图中census变换窗口对应编号k的码;
步骤5,采用非局部代价聚合方法自适应进行代价聚合,对步骤4中的单点匹配视差进行聚合,获取初始视差;
步骤6,获取初始视差后,采用均值偏移法和左右一致性校验方法提高初始视差的精度,获得最终视差图。
2.根据权利要求1所述的基于可变权重代价计算与S-census变换的立体匹配方法,其特征在于,步骤1中,采用ORB特征提取算法分别对左右视图进行特征点提取。
3.根据权利要求1所述的基于可变权重代价计算与S-census变换的立体匹配方法,其特征在于,步骤1中,建立以匹配特征点为中心的3*3或5*5大小的census变换窗口。
4.根据权利要求1所述的基于可变权重代价计算与S-census变换的立体匹配方法,其特征在于,步骤2中,各条划分线段上的灰度均匀度W计算公式为:
式中,f(i,j)为星型邻域的像素灰度值;为f(i,j)的均值。
5.根据权利要求1所述的基于可变权重代价计算与S-census变换的立体匹配方法,其特征在于,步骤6中采用均值偏移法和左右一致性校验方法提高初始视差的精度,获得最终视差图,具体为:
1)对步骤5中的初始视差采用左右一致性校验方法进行校验,则初始视差划分为高置信度初始视差和低置信度初始视差;
2)采用均值偏移法对1)中的低置信度初始视差进行优化:
2.1)采用均值偏移法将低置信度初始视差分割为N个子区域,每个子区域记为Si,i=1,2,...,N;
2.2)对2.1)中的N个子区域分别建立视差估计统计直方图,记为统计不同视差出现次数;
2.3)选择视差估计统计直方图的峰值作为子区域Si视差结果,其中,其中,d是视差估计,d∈[0,dmax],dmax是最大的视差估计;
2.4)依据的结构特征确定视差估计,Si最后视差估计为:
式中,是初始视差估计,Ni是子区域Si中像素的个数,的像素量,α是比例阈值,A是子区域Si的大小阈值;
3)采用2.4)中的公式对低置信度初始视差所得视差结果进行判断,得到最终视差图。
CN201610816422.5A 2016-09-09 2016-09-09 基于可变权重代价计算与S-census变换的立体匹配方法 Active CN106355608B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610816422.5A CN106355608B (zh) 2016-09-09 2016-09-09 基于可变权重代价计算与S-census变换的立体匹配方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610816422.5A CN106355608B (zh) 2016-09-09 2016-09-09 基于可变权重代价计算与S-census变换的立体匹配方法

Publications (2)

Publication Number Publication Date
CN106355608A CN106355608A (zh) 2017-01-25
CN106355608B true CN106355608B (zh) 2019-03-26

Family

ID=57859194

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610816422.5A Active CN106355608B (zh) 2016-09-09 2016-09-09 基于可变权重代价计算与S-census变换的立体匹配方法

Country Status (1)

Country Link
CN (1) CN106355608B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109919991A (zh) * 2017-12-12 2019-06-21 杭州海康威视数字技术股份有限公司 一种深度信息确定方法、装置、电子设备及存储介质
CN109724537B (zh) * 2019-02-11 2020-05-12 吉林大学 一种双目三维成像方法及系统
CN110060283B (zh) * 2019-04-17 2020-10-30 武汉大学 一种多测度半全局密集匹配方法
CN110134803B (zh) * 2019-05-17 2020-12-11 哈尔滨工程大学 基于哈希学习的图像数据快速检索方法
CN111784756A (zh) * 2020-06-01 2020-10-16 安徽奇点智能新能源汽车有限公司 视差置信度的估计方法、装置、电子设备及介质
CN111762155B (zh) * 2020-06-09 2022-06-28 安徽奇点智能新能源汽车有限公司 车用测距系统及方法
CN111768437B (zh) * 2020-06-30 2023-09-05 中国矿业大学 一种用于矿井巡检机器人的图像立体匹配方法及装置
CN114638875A (zh) * 2022-05-23 2022-06-17 武汉依迅北斗时空技术股份有限公司 基于区域均匀度的立体匹配优化方法、装置、设备及介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102136136A (zh) * 2011-03-17 2011-07-27 南京航空航天大学 基于自适应Census变换的光度不敏感立体匹配方法
CN105160679A (zh) * 2015-09-01 2015-12-16 南京理工大学 基于自适应权重与图像分割相结合的局部立体匹配算法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100813100B1 (ko) * 2006-06-29 2008-03-17 성균관대학교산학협력단 실시간 확장 가능한 스테레오 매칭 시스템 및 방법
KR20120072245A (ko) * 2010-12-23 2012-07-03 한국전자통신연구원 스테레오 영상 정합 장치 및 방법
KR20150003573A (ko) * 2013-07-01 2015-01-09 한국전자통신연구원 영상 패턴 검출 방법 및 그 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102136136A (zh) * 2011-03-17 2011-07-27 南京航空航天大学 基于自适应Census变换的光度不敏感立体匹配方法
CN105160679A (zh) * 2015-09-01 2015-12-16 南京理工大学 基于自适应权重与图像分割相结合的局部立体匹配算法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
A Non-Local Cost Aggregating Method for Stereo Matching;Qingxiong Yang;《2012 IEEE Conference on Computer Vision and Pattern Recognition》;20120726;参见摘要
一种基于Census变换的可变权值立体匹配算法;王军政 等;《北京理工大学学报》;20130731;第33卷(第7期);参见第237页第3.1部分
一种基于米字形窗口的区域立体匹配算法;张志华 等;《科学技术与工程》;20140430;第14卷(第12期);参见第887-889页
基于Census变换和改进自适应窗口的立体匹配算法;周龙 等;《航空学报》;20120525;第33卷(第5期);参见第705页第1.2部分,第706页第2部分

Also Published As

Publication number Publication date
CN106355608A (zh) 2017-01-25

Similar Documents

Publication Publication Date Title
CN106355608B (zh) 基于可变权重代价计算与S-census变换的立体匹配方法
CN107220997B (zh) 一种立体匹配方法及系统
CN110490158B (zh) 一种基于多级模型的鲁棒人脸对齐方法
CN103971408B (zh) 三维人脸模型生成系统及方法
CN102930530B (zh) 一种双视点图像的立体匹配方法
CN104867133B (zh) 一种快速的分步立体匹配方法
CN105898278B (zh) 一种基于双目多维感知特性的立体视频显著性检测方法
CN103530599A (zh) 一种真实人脸和图片人脸的区别方法和系统
CN104463870A (zh) 一种图像显著区域检测方法
CN104574375A (zh) 结合彩色和深度信息的图像显著性检测方法
CN105243376A (zh) 一种活体检测方法和装置
CN106384363B (zh) 一种快速自适应权重立体匹配方法
CN103996201A (zh) 一种基于改进梯度和自适应窗口的立体匹配方法
CN107578430A (zh) 一种基于自适应权值和局部熵的立体匹配方法
CN104537342B (zh) 一种结合山脊边界检测及霍夫变换的快速车道线检测方法
CN103870808A (zh) 一种手指静脉识别方法
Luo et al. Gait recognition using GEI and AFDEI
CN103325120A (zh) 一种快速自适应支持权值双目视觉立体匹配方法
CN108010075B (zh) 一种基于多特征联合的局部立体匹配方法
CN110070574A (zh) 一种基于改进PSMNet的双目视觉立体匹配算法
KR20150053438A (ko) 스테레오 매칭 시스템과 이를 이용한 시차 맵 생성 방법
CN103095996A (zh) 基于时空显著性检测的多传感器视频融合方法
KR20140074201A (ko) 추적 장치
CN101344967B (zh) 天文图像中弱小动目标的检测方法
CN102289661A (zh) 一种基于谱匹配的三维网格模型的匹配方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP02 Change in the address of a patent holder
CP02 Change in the address of a patent holder

Address after: Room 420, block C, Kechuang headquarters building, No. 320, pubin Road, Jiangpu street, Pukou District, Nanjing, Jiangsu

Patentee after: Nanjing University of Information Science and Technology

Address before: 210044 No. 69 Olympic Sports street, Jianye District, Jiangsu, Nanjing

Patentee before: Nanjing University of Information Science and Technology

EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20170125

Assignee: Nantong Huanqiao Information Technology Co.,Ltd.

Assignor: Nanjing University of Information Science and Technology

Contract record no.: X2023320000239

Denomination of invention: A Stereo Matching Method Based on Variable Weight Cost Calculation and S-centers Transform

Granted publication date: 20190326

License type: Common License

Record date: 20231121

EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20170125

Assignee: Nanjing Xinqihang Software Technology Co.,Ltd.

Assignor: Nanjing University of Information Science and Technology

Contract record no.: X2023980051736

Denomination of invention: A Stereo Matching Method Based on Variable Weight Cost Calculation and S-centers Transform

Granted publication date: 20190326

License type: Common License

Record date: 20231213

Application publication date: 20170125

Assignee: Fujian Kailan Information Technology Co.,Ltd.

Assignor: Nanjing University of Information Science and Technology

Contract record no.: X2023980051725

Denomination of invention: A Stereo Matching Method Based on Variable Weight Cost Calculation and S-centers Transform

Granted publication date: 20190326

License type: Common License

Record date: 20231213

EE01 Entry into force of recordation of patent licensing contract
EC01 Cancellation of recordation of patent licensing contract

Assignee: Nanjing Xinqihang Software Technology Co.,Ltd.

Assignor: Nanjing University of Information Science and Technology

Contract record no.: X2023980051736

Date of cancellation: 20240507

Assignee: Fujian Kailan Information Technology Co.,Ltd.

Assignor: Nanjing University of Information Science and Technology

Contract record no.: X2023980051725

Date of cancellation: 20240507

EC01 Cancellation of recordation of patent licensing contract