CN109961417A - 图像处理方法、装置及移动装置控制方法 - Google Patents

图像处理方法、装置及移动装置控制方法 Download PDF

Info

Publication number
CN109961417A
CN109961417A CN201711437502.0A CN201711437502A CN109961417A CN 109961417 A CN109961417 A CN 109961417A CN 201711437502 A CN201711437502 A CN 201711437502A CN 109961417 A CN109961417 A CN 109961417A
Authority
CN
China
Prior art keywords
weak texture
gradient
pixel
variance
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201711437502.0A
Other languages
English (en)
Other versions
CN109961417B (zh
Inventor
池鹏可
刘鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangzhou Xaircraft Technology Co Ltd
Original Assignee
Guangzhou Xaircraft Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangzhou Xaircraft Technology Co Ltd filed Critical Guangzhou Xaircraft Technology Co Ltd
Priority to CN201711437502.0A priority Critical patent/CN109961417B/zh
Publication of CN109961417A publication Critical patent/CN109961417A/zh
Application granted granted Critical
Publication of CN109961417B publication Critical patent/CN109961417B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20228Disparity calculation for image-based rendering

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种图像处理方法,包括:获取两摄像装置拍摄的两实时图像,依据两所述实时图像确定视差图;依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区域信息;依据两所述实时图像中的所述弱纹理区域信息,去除所述视差图中的弱纹理区域。本发明基于去除了弱纹理区域的视差图上建立三维地图,使得建立的三维地图更为准确,避免了天空、水面、白墙等弱纹理区域的错误匹配,以及噪声对三维地图建立的干扰,便于无人机能够通过该三维地图实现精准的避障,提升无人机的使用寿命,降低无人机的损坏率。

Description

图像处理方法、装置及移动装置控制方法
技术领域
本发明涉及图像处理、三维重建以及飞行器领域,具体而言,本发明 涉及一种图像处理方法、装置及移动装置控制方法。
背景技术
目前,随着无人机的不断发展,无人机已运用于农业、航拍、航测领 域等,然而,无人机在飞行过程中需要识别阻碍无人机飞行的障碍物体, 以确保无人机的安全飞行,提高无人机的使用寿命,现有技术中,可通过 拍摄图像并基于拍摄的图像进行三维重建,建立三维地图,依据该三维地 图,更清楚准确地识别无人机航线中的障碍物,进而实现避障的过程,而 在无人机飞行过程中,天空、水面、白墙等弱纹理区域会导致错误的匹配 以及错误的景深恢复,又拍摄的图像在数字化和传输过程中常受到成像设 备与外部环境噪声干扰等影响,影响了三维地图的准确性,进而影响无人 机的避障飞行,增加了无人机完成任务的难度。
发明内容
本发明的目的旨在至少解决上述技术缺陷之一,特别是图像中弱纹理 区域导致的错误匹配以及错误景深恢复的问题,进一步解决三维地图不够 准确的问题。
本发明提供了一种图像处理方法,包括:
获取两摄像装置拍摄的两实时图像,依据两所述实时图像确定视差 图;
依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区域信 息;
依据两所述实时图像中的所述弱纹理区域信息,去除所述视差图中的 弱纹理区域。
优选地,所述预设弱纹理确定规则为预设梯度运算规则。
进一步地,在所述依据预设弱纹理确定规则分别确定两所述实时图像 的弱纹理区域信息的步骤中,包括:
依据预设预处理规则分别对两所述实时图像进行预处理。
进一步地,在所述依据预设弱纹理确定规则分别确定两所述实时图像 的弱纹理区域信息弱纹理的步骤中,具体包括:
依据预设梯度运算规则对预处理后的两所述实时图像进行梯度计算, 确定两所述实时图像中的梯度信息;
依据所述梯度信息,获得预处理后的两所述实时图像的梯度图;
结合所述梯度图和预设弱纹理区域信息规则,确定两所述实时图像中 所述弱纹理区域信息。
进一步地,在结合所述梯度图和预设弱纹理位置信息规则,确定两所 述实时图像中所述弱纹理区域信息的步骤中,具体包括:
依据所述梯度图和所述预设弱纹理位置信息规则,标识所述梯度图中 的弱纹理像素点;
按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方 差;
依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和预设弱 纹理位置信息规则确定所述弱纹理区域信息。
进一步地,在所述依据所述梯度图和所述预设弱纹理位置信息规则, 标识所述梯度图中的弱纹理像素点的步骤中,具体包括:
按照预设检测次序,依次确定所述梯度图中各像素点的像素值对应的 梯度值;
将所述梯度值与预设弱纹理梯度阈值进行对比,判断所述梯度值是否 在所述预设弱纹理梯度阈值内;
若所述像素值在所述预设弱纹理梯度阈值内,则所述像素值为弱纹理 的位置信息,将所述像素点标识为弱纹理像素点。
进一步地,在所述若所述像素值在所述预设弱纹理梯度阈值内,则所 述像素值为弱纹理的位置信息,将所述像素点标识为弱纹理像素点的步骤 之后,包括:
按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方 差。
进一步地,所述预设方差规则为预设方差函数,在所述按照预设方差 规则确定弱纹理位置信息方差和非弱纹理位置信息方差的步骤中,具体包 括:
依据所述梯度图中所述弱纹理区域像素点的像素值、所述梯度图中的 总像素平均值、所述梯度图中所述弱纹理像素点的总数目以及所述弱纹理 像素点对应所述梯度图中的标识确定所述弱纹理位置信息方差。
进一步地,所述预设方差规则为预设方差函数,在所述按照预设方差 规则确定弱纹理位置信息方差和非弱纹理位置信息方差的步骤中,具体包 括:
依据所述梯度图中非弱纹理区域像素点的像素值、所述梯度图中的总 像素平均值、所述梯度图中非弱纹理像素点的总数目以及所述非弱纹理像 素点对应所述梯度图中的标识确定所述非弱纹理位置信息方差。
进一步地,所述预设弱纹理位置信息规则为预设能量函数,在所述依 据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和预设弱纹理位 置信息规则确定所述弱纹理区域信息的步骤中,具体包括:
依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预 设能量函数确定能量值。
进一步地,在所述依据所述弱纹理位置信息方差、所述非弱纹理位置 信息方差和所述预设能量函数确定能量值的步骤中,具体包括:
基于奇异矩阵原理判断所述能量值是否为最大能量值;
当所述能量值不是最大能量值时,调整所述预设弱纹理梯度阈值使得 所述能量值最大;
当所述能量值最大时,结合所述梯度图和预设弱纹理区域信息规则, 确定两所述实时图像中所述弱纹理区域信息。
进一步地,在所述获取两摄像装置拍摄的两实时图像,依据两所述实 时图像确定视差图的步骤中,具体包括:
获取两所述实时图像中相对应的特征信息;
依据几何测量原理以及相对应的所述特征信息,确定两所述实时图像 的视差图。
进一步地,在所述获取两所述实时图像中相对应的特征信息的步骤 中,具体包括:
提取两所述实时图像中的所述特征信息,依据预设像素匹配规则将两 所述实时图像中的所述特征信息进行匹配,确定相对应的所述特征信息。
进一步地,在所述依据几何测量原理以及相对应的所述特征信息,确 定两所述实时图像的视差图的步骤中,具体包括:
将相对应的所述特征信息叠加,确定相对应的所述特征信息中像素值 最接近像素点,依据预设视差值规则确定相对应的所述特征信息中像素值 最接近像素点的视差值;
将所述视差值通过预设视差优化规则,确定所述视差图。
本发明还提供了一种图像处理装置,包括:
视差图确定模块,用于获取两摄像装置拍摄的两实时图像,依据两所 述实时图像确定视差图;
弱纹理区域信息确定模块,用于依据预设弱纹理确定规则分别确定两 所述实时图像的弱纹理区域信息;
去除模块,用于依据两所述实时图像中的所述弱纹理区域信息,去除 所述视差图中的弱纹理区域。
优选地,所述预设弱纹理确定规则为预设梯度运算规则。
进一步地,在所述弱纹理区域信息确定模块中,包括:
预处理单元,用于依据预设预处理规则分别对两所述实时图像进行预 处理。
进一步地,在所述弱纹理区域信息确定模块中,还具体包括:
梯度信息确定单元,用于依据预设梯度运算规则对预处理后的两所述 实时图像进行梯度计算,确定两所述实时图像中的梯度信息;
梯度图获得单元,用于依据所述梯度信息,获得预处理后的两所述实 时图像的梯度图;
第一弱纹理区域信息确定单元,用于结合所述梯度图和预设弱纹理区 域信息规则,确定两所述实时图像中所述弱纹理区域信息。
进一步地,在所述第一弱纹理区域信息确定单元中,具体包括:
弱纹理像素点标识单元,用于依据所述梯度图和所述预设弱纹理位置 信息规则,标识所述梯度图中的弱纹理像素点;
第一方差确定单元,用于按照预设方差规则确定弱纹理位置信息方差 和非弱纹理位置信息方差;
第二弱纹理区域信息确定单元,用于依据所述弱纹理位置信息方差、 所述非弱纹理位置信息方差和预设弱纹理位置信息规则确定所述弱纹理 区域信息。
进一步地,在所述第二弱纹理区域信息确定单元中,具体包括:
梯度值确定单元,用于按照预设检测次序,依次确定所述梯度图中各 像素点的像素值对应的梯度值;
判断单元,用于将所述梯度值与预设弱纹理梯度阈值进行对比,判断 所述梯度值是否在所述预设弱纹理梯度阈值内;
弱纹理像素点确定单元,用于若所述像素值在所述预设弱纹理梯度阈 值内,则所述像素值为弱纹理的位置信息,将所述像素点标识为弱纹理像 素点。
进一步地,还包括:
第二方差确定单元,用于按照预设方差规则确定弱纹理位置信息方差 和非弱纹理位置信息方差。
进一步地,所述预设方差规则为预设方差函数,在所述第二方差确定 单元中,具体包括:
第一方差运算单元,用于依据所述梯度图中所述弱纹理区域像素点的 像素值、所述梯度图中的总像素平均值、所述梯度图中所述弱纹理像素点 的总数目以及所述弱纹理像素点对应所述梯度图中的标识确定所述弱纹 理位置信息方差。
进一步地,所述第二方差确定单元中,具体包括:
第二方差运算单元,用于依据所述梯度图中非弱纹理区域像素点的像 素值、所述梯度图中的总像素平均值、所述梯度图中非弱纹理像素点的总 数目以及所述非弱纹理像素点对应所述梯度图中的标识确定所述非弱纹 理位置信息方差。
进一步地,所述预设弱纹理位置信息规则为预设能量函数,在所述第 二弱纹理区域信息确定单元中,具体包括:
能量值确定单元,用于依据所述弱纹理位置信息方差、所述非弱纹理 位置信息方差和所述预设能量函数确定能量值。
进一步地,在所述能量值确定单元中,具体包括:
能量值判断单元,用于基于奇异矩阵原理判断所述能量值是否为最大 能量值;
调整单元,用于当所述能量值不是最大能量值时,调整所述预设弱纹 理梯度阈值使得所述能量值最大;
确定单元,用于当所述能量值最大时,结合所述梯度图和预设弱纹理 区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
进一步地,在所述视差图确定模块中,具体包括:
特征信息获取单元,用于获取两所述实时图像中相对应的特征信息;
视差图确定单元,用于依据几何测量原理以及相对应的所述特征信 息,确定两所述实时图像的视差图。
进一步地,在所述特征信息获取单元中,具体包括:
提取单元,提取两所述实时图像中的所述特征信息,依据预设像素匹 配规则将两所述实时图像中的所述特征信息进行匹配,确定相对应的所述 特征信息。
进一步地,在所述视差图确定单元中,具体包括:
最接近像素点确定单元,用于将相对应的所述特征信息叠加,确定相 对应的所述特征信息中像素值最接近像素点,依据预设视差值规则确定相 对应的所述特征信息中像素值最接近像素点的视差值;
优化单元,用于将所述视差值通过预设视差优化规则,确定所述视差 图。
本发明还提供了一种计算机可读存储介质,其上存储有计算机程序, 该计算机程序执行时实现任一技术方案所述基于双摄像装置的图像处理 的步骤。
本发明还提供了一种图像处理终端,包括处理器、存储器,所述存储 器用于存储计算机程序,所述计算机程序被所述处理器执行时实现任一技 术方案所述图像处理方法的步骤。
本发明还提供了一种图像处理系统,包括摄像装置、所述的计算机可 读存储介质或所述图像处理终端。
本发明还提供了一种三维地图构建方法,包括:
依据任一技术方案所述的图像处理方法对双摄像装置拍摄的图像进 行处理,以得到去除噪声的视差图;
依据所述去除噪声的视差图构建三维地图。
本发明还提供了一种移动装置的控制方法,包括:
依据所述三维地图,确定移动装置航线中的障碍物位置信息;
依据所述障碍物的所述位置信息,控制所述移动装置绕行所述障碍 物。
与现有技术相比,本发明具有以下有益效果:
1、本发明提供的一种图像处理方法、移动装置控制方法,获取两摄 像装置同时拍摄同一范围内物体的不同的两实时图像,并依据该实时图像 获得视差图,经预处理以及预设梯度运算规则后得到弱纹理区域在所述实 时图像中的位置信息,即弱纹理区域在每一张实时图像中的位置信息,并 结合前述的视差图,去除视差图中的弱纹理区域,由于该视差图是构建三 维地图的基础,因此准确地确定弱纹理区域在视差图并将其从视差图中去除,避免了实时图像中各实时图像中的噪声对构建三维地图的影响,提高 了三维地图的准确性,另外,在本发明的实施例中,所述弱纹理区域为天 空、水面、白墙等弱纹理对象,弱纹理区域的纹理较弱时,会导致在三维 重建过程中,特征匹配错误,影响三维重建过程中,景深恢复的准确性。 在弱纹理区域的位置信息确定后,结合所述视差图,将两所述实时图像中 的所述弱纹理区域位置对应在所述视差图中,进而能够更为准确地确定视 差图中的弱纹理区域,实现准确地去除所述视差图中所述弱纹理区域,结 合所述视差图提高了重建的三维地图的准确性,实现无人机在飞行过程 中,依据该三维地图实现准确的避障,避免无人机较大幅度的绕行,降低 无人机对能量的损耗,实现无人机的安全飞行。
2、本发明提供的一种图像处理方法、移动装置控制方法,本发明通 过双目立体匹配原理,获得不同实时图像中相对应的特征之间的关系,并 依据几何原理中的三角测量原理,得到所述视差图,且构建三维地图的模 型为投影模型,简单的测量原理缩短了三维地图的构建时间,降低了构建 三维地图过程中所占用的内存,而投影模型具有较好的融合性,使得三维 地图中的物体更接近于实际的物体。
3、本发明提供的一种图像处理方法、移动装置控制方法,通过分别 对两实时图像中的每一帧图像单独的处理,得到每一帧图像中弱纹理区域 的位置信息,再将每一帧图像中的弱纹理区域的位置信息进行叠加,使获 得的弱纹理区域的位置信息更为精确。
4、本发明提供的一种图像处理方法、移动装置控制方法,按照预设 的检测次序对每一帧实时图像中像素点的像素值,确定弱纹理区域(如天 空、水面、纯白墙等)的区域以及非弱纹理区域的区域,将所述弱纹理区 域(如天空、水面、纯白墙等)以及非弱纹理区域的像素点通过预设方差 规则得到所述弱纹理区域以及非弱纹理区域方差,并结合能量函数获得最 佳的弱纹理区域位置信息,进而使三维地图更为精准,实现无人机的精准 避障。
5、本发明提供的一种图像处理方法、移动装置控制方法,在获取所 述视差图的过程中,还能够通过选取所述特征信息中像素值最接近像素 点、匹配代价的曲线拟合、图像滤波、图像分割等方式,获得较为精确的 视差图,为精准地建立三维地图提供基础。
本发明附加的方面和优点将在下面的描述中部分给出,这些将从下面 的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描 述中将变得明显和容易理解,其中:
图1为本发明一种图像处理方法的典型实施方式的流程图;
图2为本发明一种图像处理方法的又一种实施方式的流程图;
图3为本发明一种图像处理方法的又一种实施方式的流程图;
图4为本发明一种图像处理方法的又一种实施方式的流程图;
图5为本发明一种图像处理方法的又一种实施方式的流程图;
图6为本发明一种图像处理方法的又一种实施方式的流程图;
图7为本发明一种图像处理方法的又一种实施方式的流程图;
图8为双目测距原理图,主要示出了通过几何测量原理中三角测量原 理得到视差图;
图9为本发明一种图像处理方法的又一种实施方式的流程图;
图10为基于原始匹配代价算法的全局算法原理图;
图11为本发明一种图像处理装置的典型实施方式的结构示意图;
图12为本发明一种图像处理装置的又一种实施方式的结构示意图;
图13为本发明一种图像处理装置的又一种实施方式的结构示意图;
图14为本发明一种图像处理装置的又一种实施方式的结构示意图;
图15为本发明一种图像处理装置的又一种实施方式的结构示意图;
图16为本发明一种图像处理装置的又一种实施方式的结构示意图;
图17为本发明一种图像处理装置的又一种实施方式的结构示意图;
图18为本发明一种三维地图构建方法的典型方式的流程图;
图19为本发明一种移动装置的控制方法的典型实施方式的流程图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其 中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似 功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本 发明,而不能解释为对本发明的限制。
本技术领域技术人员可以理解,除非特意声明,这里使用的单数形式 “一”、“一个”、“所述”和“该”也可包括复数形式。应该进一步理解的是, 本发明的说明书中使用的措辞“包括”是指存在所述特征、整数、步骤、操 作、元件和/或组件,但是并不排除存在或添加一个或多个其他特征、整 数、步骤、操作、元件、组件和/或它们的组。应该理解,当我们称元件 被“连接”或“耦接”到另一元件时,它可以直接连接或耦接到其他元件,或 者也可以存在中间元件。此外,这里使用的“连接”或“耦接”可以包括无线 连接或无线耦接。这里使用的措辞“和/或”包括一个或更多个相关联的列出 项的全部或任一单元和全部组合。
本技术领域技术人员可以理解,除非另外定义,这里使用的所有术语 (包括技术术语和科学术语),具有与本发明所属领域中的普通技术人员 的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术 语,应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除 非像这里一样被特定定义,否则不会用理想化或过于正式的含义来解释。
本发明提供的一种图像处理方法,在其中一种实施方式中,如图1所 示,包括:S100、S200、S300。
S100:获取两摄像装置拍摄的两实时图像,依据两所述实时图像确定 视差图。
双摄像装置在拍摄过程中,对同一区域的物体会拍摄到两张不同的图 像,该图像即为本发明中的实时图像,其中一幅为左实时图像,另一幅为 右实时图像,双目摄像装置在增大摄像机的焦距的同时,还可同时获得较 宽视角的拍摄区域,通过视差计算便可确定前方物体距离双目摄像装置或 者搭载双目摄像装置的距离。视差为目标点在左右两幅视图中成像的横坐 标之间存在的差异,其主要依据双目立体视觉三维测量的视差原理,双目摄像装置的两摄像机具有一定的基线距离,且摄像装置具有同一个立体坐 标系即摄像机坐标系,摄像机坐标系的原点在摄像机镜头的光心处,而在 实际的使用过程中,摄像机的成像平面在镜头的光心后,在双目摄像装置 的左右摄像机成像平面的二维坐标轴与摄像机坐标系中对应的两坐标轴 相对应且方向一致,摄像机光轴在左右两实时图像坐标系所在的二维平面 相交,且分别为左右两实时图像分别对应的图像坐标系的原点,在运算过程中,假设左右两实时图像在同一个平面中,便于通过几何原理确定目标 点在左右两实时图像中的差值(即视差值),两幅图像对应点的视差形成 视差图,即得到视差值后,将原图像转换为灰度图像,再依据具体的匹配 算法以及优化处理,将相同的特征采用相同的像素处理显示,进而得到视 差图,由于本发明为双目摄像装置拍摄实时图像,在确定视差图时,其主 要也依据双目匹配算法确定视差图,具体的双目匹配算法包括:SGM算 法、BM算法、GC算法等的任意多种算法。SGM算法(半全局立体匹配 算法)基于一种逐像素匹配的方法,该方法使用户信息来评价匹配代价, 并通过组合很多一维的约束来近似一个全局的二维平滑约束,主要包括如 下任意一项或者多项如下步骤:逐像素匹配代价的计算、代价聚合、视差求精、大尺寸图片的处理、视差图融合。BM(bidirectional matching) 算法进行双向匹配,首先通过匹配代价在右图中计算得出匹配点。然后通 过相同的原理及计算在左图中的匹配点。比较找到的左匹配点和源匹配点 是否一致,如果是,则匹配成功。BM算法在移动模式串的时候是从左到 右,而进行比较的时候是从右到左的。常规的匹配算法移动模式串的时候 是从左到右,而进行比较的时候也是从左到右的。GC算法为垃圾收集器, 步骤包括:标记-清除算法、复制算法、标记-压缩算法。
本发明实施例中的双摄像装置具有两个摄像头,且本发明实施例中的 双摄像装置的两个摄像头均为标定好的摄像头。
S200:依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区 域信息。
进一步地,在所述依据预设弱纹理确定规则分别确定两所述实时图像 的弱纹理区域信息的步骤S200中,包括S201:
S201:依据预设预处理规则分别对两所述实时图像进行预处理。
为了获得较为精确的弱纹理区域在实时图像中的弱纹理区域信息,分 别对两实时图像进行预处理,图像预处理的主要目的是消除图像中无关的 信息,恢复有用的真实信息,增强有关信息的可检测性和最大限度地简化 数据,从而改进特征抽取、图像分割、匹配和识别的可靠性。预处理过程 一般有数字化、几何变换、归一化、平滑、复原和增强等步骤,预处理规 则依据图像预处理后的效果及步骤确定,如预处理规则为图像数字化规 则、图像几何变换规则、图像归一化规则、图像平滑规则、图像复原规则、 图像增强规则等中的一种或者多种组成。其中,图像滤波也是图像预处理 一部分,即在尽量保留图像细节特征的条件下对目标图像的噪声进行抑 制,是图像预处理中不可缺少的操作,其处理效果的好坏将直接影响到后 续图像处理和分析的有效性和可靠性。其目的主要为消除图像中混入的噪 声和为图像识别抽取出图像特征,在图像滤波过程中,不能损坏图像轮廓 及边缘且图像视觉效果应当更好,其滤波算法包括:高斯滤波、中值(均 值)滤波、方框滤波、双边滤波、非线性滤波等滤波方法的任意多种,在 滤波去噪过程中采用前述的任意一种或者多种结合的滤波算法。
具体的,方框滤波所用到的核:
其中
当normalize为true时,方框滤波也就成了均值滤波。也就是说均值 滤波是方框滤波归一化后的特殊情况。归一化就是将要处理的量缩放到一 定范围,比如(0,1)。
均值滤波为方框滤波中normalize为true的情况,此时就是在平均值。 均值滤波在去噪的同时破坏了图像的细节部分,也使得图像变得更加模 糊。
高斯滤波则不同,其能够很好的消除噪声。高斯滤波过程中,每个像 素点都是由本身和邻域内的其他像素值经过加权平均后得到的。从数学的 角度来看,图像的高斯模糊过程就是图像与正态分布做卷积,由于正态分 布也被称为高斯分布,因此这项技术被称为高斯模糊。由于高斯函数的傅 里叶变换是另外一个高斯函数,所以高斯模糊对图像来说就是一个低通滤 波器。N维空间正态分布方程和二维空间正态分布分别为:
中值滤波是用像素点邻域灰度值的中值来代替该像素的灰度值,该方 法在去除脉冲噪声、椒盐噪声的同时还能保留图像的细节部分。中值滤波 花费的时间比均值滤波更久,但其在噪声的消除能力上更强。
双边滤波是结合图像的空间邻近度和像素值相似度的一种折中处理, 同时考虑空域信息和灰度相似性,达到保留边缘且去除噪声的目的。
双边滤波中,输出的值取决于邻域像素值得加权和:
其中加权系数w(i,j,k,l)又取决于定义域核以及值域核的乘积:
(定义域核)
(值域核)
以上两者相乘,可得到双边权重函数如下:
采用了前述的预处理过程之后,对预处理后的两所述实时图像依据弱 纹理确定规则分别确定其弱纹理区域信息。优选地,所述预设弱纹理确定 规则为预设梯度预算规则,在梯度运算过程中,首先依据预设梯度运算规 则确定梯度信息,依据梯度信息得到梯度图,其中对梯度图依据预设弱纹 理区域规则得到弱纹理区域信息,进一步的,预设梯度运算规则包括 Sobel、Roberts、Prewitt、Lapacian、canny、差分运算法等算法的任意多种,确定梯度信息时采用前述任意一种或任意几种相结合的预设梯度运算 规则,具体后文详述。
S300:依据两所述实时图像中的所述弱纹理区域信息,去除所述视差 图中的弱纹理区域。
在前述过程中,得到两所述实时图像中的所述弱纹理区域信息后,将 所述弱纹理区域信息叠加得到较为准确的弱纹理区域,并将其与视差图结 合,即依据弱纹理区域新确定视差图中的弱纹理区域,采用图像去噪的方 法去除视差图中的弱纹理区域,避免弱纹理区域对后续的景深恢复区域的 影响,即避免弱纹理区域对强纹理区域景深恢复的影响。纹理是一种反映 图像中同质现象的视觉特征,它体现了物体表面的具有缓慢变化或者周期性变化的表面结构组织排列属性。强纹理区域为在两所述实时图像中相对 弱纹理区域的相对概念,即两所述实时图像中除去弱纹理区域部分,其他 均为强纹理区域,如实时图像中弱纹理区域为天空、水面、白墙等,而强 纹理区域为相对天空、水面、白墙等的陆地实物,如植物、山体、田地、 生活用品等,其在实时图像中的分布有较为明显、规则地重复排列的灰度 值,所谓弱纹理,即图像中像素的灰度不发生变换或者变换很微弱,而这 种变化就体现在像素灰度的梯度和特定窗口下像素灰度的统计特性上。
在基于颜色(灰度)的立体匹配算法中,丰富的纹理是高匹配率的保 障,因而对于纹理丰富的区域,简单的窗口匹配算法就能取得理想的匹配 率,更加复杂算法的匹配效果并不能有所提高,甚至会通过牺牲纹理区域 的匹配效果来提高病态区域的匹配率,所以需要将窗口匹配的结果(初始 视差图)作为纹理丰富区域的最终视差。而对于弱纹理区域,需要通过极 线距离变换来提高像素的可区分性,为了增强算法的鲁棒性和环境适应 性,在极线距离变换的算法的基础上改进,得到一种自适应极线距离变换 算法,并对变换后的图像对采用置信度传播算法计算变换视差图。最后, 基于弱纹理区域检测及其二值分割的结果,将初始视差图和变换视差图进 行融合,以获得能同时在弱纹理区域和纹理丰富区域取得高准确率匹配的 视差图。自适应极线距离变换算法即根据当前像素邻域像素(沿着极线)的 灰度相似性,自适应地确定变换支撑域的大小。
该算法首先根据输入图像的颜色(灰度)变化情况检测出弱纹理区域, 然后基于这一检测结果,对输入图像对应用改进的极线距离变换算法,以 提高弱纹理区域像素的可区分性,接着,采用窗口匹配算法和置信度传播 算法分别对原始输入图像和极线距离变换后的图像计算视差图谱,最后, 以弱纹理检测的结果为基准,对这2张视差图谱进行融合,以实现在弱纹 理区域和纹理区域的同步最优匹配。具体的,当一个像素对应在左图像中的图像像素段(以该像素为像素段端点)的分割系数也是2个视角图像下 的不变量,可以作为立体匹配的匹配基元,具体分割系数算法如下:
设P(x,y)是输入图像中的任一像素,沿着扫描线分别向左依次搜索, 如果某个像素S(xx,ys)与像素P(x,y)的灰度差异较大(大于某一固定 阈值),则S(xx,ys)为P(x,y)所在线段的左端点,同理,沿着扫面线 向右依次搜索,找到线段的右端点T(xT,yT),此时,就可以很容易地计 算当前像素P对线段ST的分割系数,则有:
在上式中以像素计数作为线段长度。
初始匹配为强纹理区域提供视差值,而经过极线变换和置信度传播匹 配之后的结果为弱纹理区域提供视差值,对于原始图像的弱纹理检测和分 割后的二值图像则可以作为这两者融合的基准,融合的过程用公式表示 为:
Finaldisp=Rawdisp·Thigh+Transdisp·Tlow
需要说明的是,前述的自适应极线距离变换算法并未对左右图像做抗 噪处理,也没有做遮挡检测和视差填充等后续处理,其可以采用本发明实 施例中相对应做抗噪处理,也没有做遮挡检测和视差填充等后续处理。
进一步地,在其中一种实施方式中,如图2所示,在所述依据预设弱 纹理确定规则分别确定两所述实时图像的弱纹理区域信息弱纹理的步骤 S200中,还具体包括S210、S220、S230。
S210:依据预设梯度运算规则对预处理后的两所述实时图像进行梯度 计算,确定两所述实时图像中的梯度信息。
如前文所述,在对两所述实时图像进行预处理的过程中,预处理过程 一般有数字化、几何变换、归一化、平滑、复原和增强等步骤。数字化: 一幅原始照片的灰度值是空间变量(位置的连续值)的连续函数。在M× N点阵上对照片灰度采样并加以量化(归为2b个灰度等级之一)。在接 收装置的空间和灰度分辨能力范围内,M、N、b的数值越大,重建图像 的质量就越好。当取样周期等于或小于原始图像中最小细节周期的一半 时,重建图像的频谱等于原始图像的频谱,因此重建图像与原始图像可以 完全相同。由于M、N、b三者的乘积决定一幅图像在计算机中的存储量, 因此在存储量一定的条件下需要根据图像的不同性质选择合适的M、N和 b值,以获取最好的处理效果。几何变换:用于改正图像采集系统的系统 误差和仪器位置的随机误差所进行的变换。对于卫星图像的系统误差,如 地图投影等因素所造成的畸变,可以用模型表示并通过几何变换来消除。 随机误差如飞行器姿态和高度变化引起的误差,难以用模型表示出来,所 以一般在系统误差被纠正后,通过把被观测的图和已知正确几何位置的图 相比较,用图中一定数量的地面控制点解双变量多项式函数组而达到变换 的目的。归一化:使图像的某些特征在给定变换下具有不变性质的一种图 像标准形式。图像的某些性质,例如物体的面积和周长。在一般情况下, 某些因素或变换对图像一些性质的影响可通过预处理得到消除或减弱,从 而可以被选作测量图像的依据。灰度归一化、几何归一化和变换归一化是 获取图像不变性质的三种归一化方法。平滑:消除图像中随机噪声的技术。 对平滑技术的基本要求是在消去噪声的同时不使图像轮廓或线条变得模 糊不清。常用的平滑方法有中值法、局部求平均法和k近邻平均法。复原: 校正各种原因所造成的图像退化,使重建或估计得到的图像尽可能逼近于 理想无退化的像场。在实际应用中常常发生图像退化现象。例如大气流的 扰动,光学系统的像差,相机和物体的相对运动都会使图像发生退化。基 本的复原技术是把获取的退化图像g(x,y)看成是退化函数h(x,y)和理想 图像f(x,y)的卷积。它们的傅里叶变换存在关系G(u,v)=H(u,v)F(u, v)。图像复原的代数方法是以最小二乘法最佳准则为基础。增强:对图像 中的信息有选择地加强和抑制,以改善图像的视觉效果,或将图像转变为 更适合于机器处理的形式,以便于数据抽取或识别。例如一个图像增强系 统可以通过高通滤波器来突出图像的轮廓线,从而使机器能够测量轮廓线 的形状和周长。图像增强技术有多种方法,反差展宽、对数变换、密度分层和直方图均衡等都可用于改变图像灰调和突出细节。当然,还包括前文 详述的对所述实时图像的滤波去噪过程。
经过前述的预处理步骤后,通过预设梯度运算规则对预处理后的所述 实时图像进行梯度计算,即通过Sobel、Roberts、Prewitt、Lapacian、canny、 差分运算法等对预处理后的图像进行卷积,确定两所述实时图像中的梯度 信息。图像的梯度,一般是对灰度图像或者彩色图像进行操作。数字图像 就是离散的点值谱,也可以叫二维离散函数。图像的梯度就是这个二维离 散函数的求导,图像的梯度即本发明中实时图像的梯度信息(包括梯度值 和梯度的方向)。
图像的求导就是水平方向或者垂直方向的,相邻两个像素之间的差 值。
图像梯度:
G(x,y)=dx(i,j)+dy(i,j);
dx(i,j)=I(i+1,j)-I(i,j);
dy(i,j)=I(i,j+1)-I(i,j);
其中,I是图像像素的值(如:RGB值),(i,j)为像素的坐标。图像梯度 一般也可以用中值差分:
dx(i,j)=[I(i+1,j)-I(i-1,j)]/2;
dy(i,j)=[I(i,j+1)-I(i,j-1)]/2。
采用Roberts时,对于图像来说,是一个二维的离散型数集,通过推 广二维连续型求函数偏导的方法,来求得图像的偏导数,即在(x,y)处的最 大变化率,也就是这里的梯度:
上述公式为图像的垂直和水平梯度,但我们有时候也需要对角线方向 的梯度,定义如下:
Prewitt中水平、垂直和两对角线方向的梯度定义为:
水平方向:
垂直方向:
对角线方向:
g′x=(z2+z3+z6)-(z4+z7+z8)
g′y=(z6+z8+z9)-(z1+z2+z4)
Sobel是在Prewitt的基础上改进的,在中心系数上使用一个权值2, 相比较Prewitt,Sobel能够较好的抑制(平滑)噪声。
前述Sobel、Prewitt、Roberts方法都是通过求一阶导数来计算梯度的, 用于线的检测,在图像处理中,通常用于边缘检测。在图像处理过程中, 除了检测线,有时候也需要检测特殊点,这就需要用二阶导数进行检测。
在图像处理中通过Lapacian求二阶导数,其定义如下:
在用lapacian对图像进行卷积运算时,当响应的绝对值超过指定阈值 时,那么该点就是被检测出来的孤立点,具体输出如下:
Canny主要用于边缘检测,而在其边缘检测过程中,边缘点具体算法 步骤如下:1、用高斯滤波器平滑图像;2、用一阶偏导有限差分计算梯度 幅值和方向;3、对梯度幅值进行非极大值抑制;4、用双阈值算法检测和 连接边缘。而在边缘检测过程中,有梯度值确定的过程,主要通过一阶偏 导有限差分计算梯度幅值和方向,且在此过程中包括了差分运算方法,通 过前面的Sobel、Prewitt、Roberts、lapacian、Canny中定义的方法便可确 定图像中的梯度信息。
S220:依据所述梯度信息,获得预处理后的两所述实时图像的梯度图。
在本发明中,梯度图主要通过前文详述的预设梯度运算规则确定梯度 信息,通过梯度信息得到梯度图。具体的,梯度图像是画梯度的幅值,图 象中每点f(x,y)的梯度(△xf(x,y),△yf(x,y))通过预设梯度运算规则确定,而 梯度方向为方向theta=atan2(△xf(x,y),△yf(x,y)),theta角度为0-2pi弧度, 转换为0-360度,以每点为中心,16×16的范围内,每个点都有梯度方向, 进而得到梯度直方图(其中在运算的实际过程中只计算特征点的),直方图 为18个区间,每个区间20度。常见的梯度直方图包括:HOG,Histogram ofOritentd Gradients(缩写为HOG)通过计算和统计图像的局部区域(Cell 和Block)的方向梯度直方图来构成特征,主要过程是:先将一整幅图像划 分为大小相等的Cell小区域,如先将图像划分为20pixel*20pixel的小区域, 然后分别计算这些小区域的梯度方向直方图;然后再由一定数量的小区域 组成稍微大一点的区域Block,比如说由2*2个Cell小区域组成1个Block 区域,然后,再由Block区域的方向梯度直方图特征向量组成整幅图像的 方向梯度直方图HOG的特征向量;而特征向量就可以唯一的描述这幅图 像。
S230:结合所述梯度图和预设弱纹理区域信息规则,确定两所述实时 图像中所述弱纹理区域信息。
如前文所述,将通过梯度信息得到的梯度图后,弱纹理区域与图像中 的其他部分纹理区域将变得较为容易区分,具体为,将梯度图与预设弱纹 理区域信息规则结合,便可确定弱纹理区域在两所述实时图像中的位置, 即本发明中的所述弱纹理区域信息,具体后文详述。
进一步地,在其中一种实施方式中,如图3所示,在所述结合所述梯 度图和预设弱纹理位置信息规则,确定两所述实时图像中所述弱纹理区域 信息的步骤S230中,具体包括S231、S232、S233。
S231:依据所述梯度图和所述预设弱纹理位置信息规则,标识所述梯 度图中的弱纹理像素点。
在确定梯度图后,梯度图中每一个像素点对应一像素值,结合具体的 预设弱纹理位置信息规则,便可以确定梯度图中一像素点是否为弱纹理区 域的像素点,在确定点为弱纹理像素点后,便将该像素点标识为具体的弱 纹理像素点,一个区域的多个弱纹理像素点构成弱纹理区域。优选地,将 梯度图中的弱纹理像素点均标识完成后,结合后文的运算规则确定弱纹理 区域信息,具体后文详述。
S232:按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信 息方差。
如前文所述,方差和中心偏离的程度,其用来衡量一批数据的波动大 小,主要为同一批数据偏离平均数的大小。在样本容量相同的情况下,方 差越大,说明数据的波动越大,越不稳定。在梯度图中标识出了弱纹理像 素点后,有必要确定弱纹理位置信息方差和非弱纹理位置信息方差,根据 方差能够大概预估弱纹理像素点的准确性,以及尽可能地将实时图像中的 弱纹理像素点标识出来,进而实现准确地划分实时图像中的弱纹理区域和非弱纹理区域,并能够结合视差图,竟可能精确地去除视差图中的弱纹理 区域,得到不包含弱纹理区域的视差图,并能够依据改图获得更为精确的 三维地图,其中,具体的弱纹理位置信息方差和非弱纹理位置信息方差在 后文详细说明。
S233:依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和 预设弱纹理位置信息规则确定所述弱纹理区域信息。
在确定弱纹理区域信息的过程中,还能够通过弱纹理位置信息规则确 定,该规则在所述弱纹理位置信息方差和所述非弱纹理位置信息方差的基 础上得到弱纹理位置信息,其中,通过判断预设弱纹理位置信息规则是否 为最大值,确定当前的所述弱纹理位置信息方差和所述非弱纹理位置信息 方差的值是否为最合适的值,进一步地,预设弱纹理位置信息规则为能量 函数,该函数的主要参数为所述弱纹理位置信息方差和所述非弱纹理位置 信息方差,且在所述弱纹理位置信息方差和所述非弱纹理位置信息方差两 者均较小时,所述能量函数的值最大,说明此时弱纹理区域为最佳区域, 具体地,所述预设弱纹理位置信息规则后文详述。
进一步地,在其中一种实施方式中,如图4所示,在所述梯度图结合 预设弱纹理位置信息规则,确定两所述实时图像中所述弱纹理区域信息的 步骤S231中,具体包括S2311、S2312、S2313。
S2311:按照预设检测次序,依次确定所述梯度图中各像素点的像素 值对应的梯度值。
特别地,如前文所述,在所述梯度图中包括了cell和block,在确定 弱纹理区域信息时,按照预设检测次序,依据确定cell/block中的每个像 素点对应的像素值,如将梯度图按照cell/block的排序分为行和列,或者 按照像素点的排序分为行和列,其中行为x,列为y,按照列依次检测每 个像素点的像素值以及所述像素值对应的梯度值,或者按照行依次检测每 个像素点的像素值以及所述像素值对应的梯度值,其中,梯度值为通过前 文的预设梯度运算规则确定,确定像素点是否为弱纹理区域像素点或者非 目标像素点,即确定像素点为弱纹理像素点或者是非弱纹理像素点。进而 便于用于后续的对比以及运算。
S2312:将所述梯度值与预设弱纹理梯度阈值进行对比,判断所述梯 度值是否在所述预设弱纹理梯度阈值内。
为了确定每一个像素点为弱纹理像素点或者非弱纹理像素点,需要预 设一个弱纹理梯度值的阈值,在前述过程中,检测到每一个像素点像素值 对应的梯度值后,将检测出的像素值对应的梯度值与弱纹理阈值进行对 比,判断该像素点的像素值是否为弱纹理区域的像素值。例如,设弱纹理 区域为天空,与弱纹理区域相对的区域为陆地区域,设一个预设弱纹理梯 度阈值t(tmin<t<tmax),按照像素点行x的排列次序,依次检测每列y中 像素点的像素值对应的梯度值,即按照列从上往下检测梯度图中每个像素 点的像素值,如果该点像素值grad(x,y)>t,则该点为天空区域的边界点, 记录在b(x)=y。其中x,y分别为列与行。特别地,时,则所述 像素点不在弱纹理区域(陆地区域g);tmin<grad(x,y)<tmax,则所述像素 点在弱纹理区域(天空区域s),每列都检测完之后,便可以得到该阈值下的天空区域s和陆地区域g。
S2313:若所述像素值在所述预设弱纹理梯度阈值内,则所述像素值 为弱纹理的位置信息,将所述像素点标识为弱纹理像素点。
进一步地,在其中一种实施方式中,如图5所示,在所述若所述像素 值在所述预设弱纹理梯度阈值内,则所述像素值为弱纹理的位置信息,将 所述像素点标识为弱纹理像素点的步骤S2313之后,包括S2314:
S2314:按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置 信息方差。
进一步地,所述预设方差规则为预设方差函数,在所述按照预设方差 规则确定弱纹理位置信息方差和非弱纹理位置信息方差的步骤中,具体包 括:
依据所述梯度图中所述弱纹理区域像素点的像素值、所述梯度图中的 总像素平均值、所述梯度图中所述弱纹理像素点的总数目以及所述弱纹理 像素点对应所述梯度图中的标识确定所述弱纹理位置信息方差。
如前文所述,在确定某一像素点的像素值在弱纹理区域后,即 tmin<grad(x,y)<tmax,则所述像素点在弱纹理区域(如天空区域s),则说明 该像素值处于弱纹理区域,且所述像素点为弱纹理的位置信息,即该点的 行列值(x,y),其中,为了便于后续与视差图结合,将行列值(x,y) 记录为弱纹理区域并存储,便于通过预设方差规则确定弱纹理位置信息方 差,如后文中方差规则为:
a为待处理图像区域,Ia为梯度图中待处理图像区域每个点的像素值, μa为待处理图像区域的总像素平均值,Na为梯度图中待处理图像区域像素 点的数目,(x,y)为对应梯度图中的下标值。
因此,如弱纹理区域为天空区域时,弱纹理像素点的方差为:
λs为天空区域的方差,Is所述梯度图中弱纹理区域每个点的像素值,μs分别是弱纹理的区域的总像素平均值的总像素平均值,Ns为所述梯度图中
弱纹理像素点的数目,(x,y)为对应梯度图中的下标值,s为天空区域。
进一步地,所述预设方差规则为预设方差函数,在所述按照预设方差 规则确定弱纹理位置信息方差和非弱纹理位置信息方差的步骤中,具体包 括:
依据所述梯度图中非弱纹理区域像素点的像素值、所述梯度图中的总 像素平均值、所述梯度图中非弱纹理像素点的总数目以及所述非弱纹理像 素点对应所述梯度图中的标识确定所述非弱纹理位置信息方差。
在所述像素值不在所述预设弱纹理梯度阈值内,则所述像素值为非弱 纹理的位置信息,将所述像素点可以标识为非弱纹理像素点,按照所述预 设方差规则确定非弱纹理位置信息方差,当然在同一幅实时图像中,当标 识了弱纹理像素点之后,可以不标识非弱纹理像素点,在运算过程中,直 接采用没有标识像素点对应的像素值以及总的没有标识像素点的总数目, 同样能够按照所述预设方差规则确定非弱纹理位置信息方差。
如前文所述,在两所述实时图像中,包括弱纹理区域,同时也可以包 括非弱纹理区域,在进行至检测时,一些像素点在弱纹理区域,剩余部分 像素点则有可能在非弱纹理区域,因此,在判断时,若检测到时,则所述像素点不在弱纹理区域(如陆地区域g),同样能够通过预设 方差规则确定所述非弱纹理区域的方差,具体为:
λg为陆地区域的方差,Ig为所述梯度图中非弱纹理区域每个点的像素 值,μg分别是非弱纹理区域的总像素平均值,Ng为所述梯度图中非弱纹理 像素点的数目,(x,y)为对应梯度图中的下标值,g为非弱纹理区域。
优选地,所述预设弱纹理位置信息规则为预设能量函数,在所述依据 所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预设弱纹理 位置信息规则确定所述弱纹理区域信息的步骤中,具体包括:
依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预 设能量函数确定能量值。
更优地,在其中一种实施方式中,如图6所示,在所述依据所述弱纹 理位置信息方差、所述非弱纹理位置信息方差和所述预设能量函数确定能 量值的步骤中,具体包括S234、S235、S236。
S234:基于奇异矩阵原理判断所述能量值是否为最大能量值;
S235:当所述能量值不是最大能量值时,调整所述预设弱纹理梯度阈 值使得所述能量值最大;
S236:当所述能量值最大时,结合所述梯度图和预设弱纹理区域信息 规则,确定两所述实时图像中所述弱纹理区域信息。
优选地,结合前文的说明,为了节约图像处理的时间,预设有弱纹理 位置信息规则,该规则主要依据为前文所述的述弱纹理位置信息方差、所 述非弱纹理位置信息方差,以及经验系数,具体的,所述预设弱纹理位置 信息规则为:
λa1为所述弱纹理位置信息方差,λa2为所述非弱纹理位置信息方差,γ为 一个经验值。
其中,所述预设弱纹理位置信息规则为能量函数,在J为最大值时, 此时的弱纹理区域为最佳值,判断J是否为最大值,由于理想的图像具有 最大的梯度值(如:1443),而常规图像不能达到该梯度值,且在梯度值 超过一定的值(如:600)时,J为一固定常数,因此,依据前述的梯度值, 判断J是否为最大值,如果J不是最大值,说明此阈值t下的天空区域不是最大最佳范围,则增大阈值t,重新返回运行计算进行像素点标识以及 所述弱纹理位置信息方差和所述非弱纹理位置信息方差确定的过程。如果 J为最大值,说明此时弱纹理区域为最佳区域,记录好弱纹理区域的边界 位置。具体的,在运算过程中,依据奇异矩阵原理确定能量值是否为最大 能量值,所述弱纹理位置信息方差对应弱纹理位置信息协方差的特征值, 所述非弱纹理位置信息方差对应非弱纹理位置信息协方差的特征值,且非 弱纹理位置信息协方差和弱纹理位置信息协方差均为3×3的矩阵,且矩阵 行列式等于零,其中,在非弱纹理位置信息协方差和弱纹理位置信息协方 差中,在同一个奇异矩阵中的三个特征值中,第二特征值和第三特征值远 远小于第一特征值时,此时依据能量函数得到最大能量值。
优选地,所述预设方差规则为:
a为待处理图像区域,Ia为梯度图中待处理图像区域每个点的像素值, μa为待处理图像区域的总像素平均值,Na为梯度图中待处理图像区域像素 点的数目,(x,y)为对应梯度图中的下标值,具体如前文详述。
进一步地,在其中一种实施方式中,如图7所示,在所述获取两摄像 装置拍摄的两实时图像,依据两所述实时图像确定视差图的步骤S100中, 具体包括S110和S120。
S110:获取两所述实时图像中相对应的特征信息。
如前文所述,视差为目标点在左右两幅视图中成像的横坐标之间存在 的差异,假设左右两实时图像在同一个平面中,便于通过几何原理确定目 标点在左右两实时图像中的差值(即视差值),两幅图像对应点的视差形 成视差图,即得到视差值后,将原图像转换为灰度图像,再依据具体的匹 配算法以及优化处理,将相同的特征采用相同的像素处理显示,进而得到 视差图,其中,目标点即为相对应特征的特征点,因此,得到视差图之前, 首先需要先确定两所述实时图像中相对应的特征信息。特征信息即为相同 物的像素值、对应在实时图像中的坐标值等,具体后文详述。
S120:依据几何测量原理以及相对应的所述特征信息,确定两所述实 时图像的视差图。
由于双目测距原理主要依据几何测量原理中三角测量原理得到视差 图,具体如图8。
图8中,空间中某点P在左图像xl和右图像xr中相应的实物特征点, Ol和Or左右图像坐标系的原点,也为两摄像机光轴与左右图像所在平面 的交点。双目测距主要是利用了目标点在左右两幅视图上成像的横向坐标 直接存在的差异(即视差d=xl-xr)与目标点到成像平面的距离Z存在 着反比例的关系:Z=fT/d。f、d是固定已知参数,f为两摄像装置的焦距, 当计算出左右图像中对应两点的视差值,便可求的该目标点与相机的真实 距离,即深度值Z,具体如下式:
进一步地,在所述获取两所述实时图像中相对应的特征信息的步骤 S110中,具体包括:
S111:提取两所述实时图像中的所述特征信息,依据预设像素匹配规 则将两所述实时图像中的所述特征信息进行匹配,确定相对应的所述特征 信息。
提取出两所述实时图像中的所述特征信息,便于将两所述实时图像中 通过运算得到相对应的特征信息,具体为通过预设像素匹配规则将两所述 实时图像中的特征信息进行匹配,进而确定相对应的特征信息,预设像素 匹配规则具体如匹配代价运算,匹配代价计算实际是对不同视差下进行灰 度相似性测量。常见的方法有灰度差的平方SD(squared intensity differences),灰度差的绝对值AD(absolute intensitydifferences)等。另 外,在求原始匹配代价时可以设定一个上限值,来减弱叠加过程中的误匹 配的影响。以AD法求匹配代价为例,可用下式进行计算,其中T为设定 的阈值。
当然,为了缩短匹配过程中的时间以及构建的三维地图更加精确,提 高无人机避障精度,本发明的实施例中还可以采用其他的方法,例如:采 用激光投点器投射出唯一性和抗噪性较好的光斑图案,以增加场景的纹理 信息;然后,基于积分灰度方差(IGSV)和积分梯度方差(IGV)提出了 自适应窗口立体匹配算法。该算法首先计算左相机的积分图像,根据积分 方差的大小确定匹配窗口内的图像纹理质量,然后对超过预设方差的阈值 与右相机进行相关计算,最后通过遍历整幅图像得到密集的视差图。基于 IGSV和IGV的自适应窗口匹配算法流程如:
(1)光斑图案采集。开启两个激光投点器,使它们向被测空间投射 各自的光斑场,利用视觉系统的两台摄像机采集物体表面调制的光斑图 案。
(2)立体视觉校正。根据事先标定的立体视觉系统内外参数,校正 左右两幅图像的坐标,从而使得左右图像仅在水平方向上含有视差值,而 在垂直方向上保持一致。
(3)积分图像计算。选择左图像作为参考图像,遍历其上所有像素 计算灰度积分图像和式,或梯度积分图像。
积分图像的具体的定义为:
其表示为灰度图中坐标(x,y)左上角区域内的灰度值和。
平方积分图像定义为:
梯度积分图像建立依据如下:
(4)积分方差计算。在参考图像上选择一个参考子窗口,图像坐标 位置为(x,y),大小设置为Mpixel×Npixel。然后计算该窗口内的IGSV 或IGV。
图像任意窗口的灰度方差定义为:
其中,Q为积分图像,QⅡ2为平方积分图像。
IGV的表达式如下:
其中,QGG为矩形区域内梯度求和,QGG2为矩形区域内平方求和,矩 形为灰度图中任意一矩形。
(5)窗口自适应调整。将上述步骤计算得到的IGSV(或IGV)与图 像纹理质量的阈值TH进行比较。若方差小于该阈值TH,则增加窗口的 尺寸(M+1,N+1),否则说明该窗口内的图像纹理质量较好,可以转到下一 步进行匹配计算。
(6)匹配计算。以右图像为目标图像,利用相似性度量函数在其y 行上搜索得到最为相似的区域,其横坐标即为匹配之后的视差值。
(7)完成整幅图像匹配搜索。图像坐标移动到下一个位置,并且将 窗口大小初始化为Mpixel×Npixel,重复(4)~(6)步完成参考图像上 所有像素的匹配计算,即可得到完整的密集视差图。
进一步地,在其中一种实施方式中,如图9所示,在所述依据几何测 量原理以及相对应的所述特征信息,确定两所述实时图像的视差图的步骤 S120中,具体包括S121和S122。
S121:将相对应的所述特征信息叠加,确定相对应的所述特征信息中 像素值最接近像素点,依据预设视差值规则确定相对应的所述特征信息中 像素值最接近像素点的视差值。
在本发明的此步骤中,主要采用区域算法,其不同于S111中的算法, 全局算法基于原始匹配代价进行后续算法计算。而区域算法则需要通过窗 口叠加来增强匹配代价的可靠性,根据S111原始匹配代价不同,可分为 如下几种算法如图10。
图10中的过程是核心算法的解释,就是计算区域内像素差值,可以 为单个像素也可以为一定区域内,主要看SAD的窗口大小的设置,同时 SAD设置决定误匹配的多少和运算效率问题,所以需要谨慎地设置SAD 大小。在前述的基础上,完成匹配代价的叠加以后,在一定范围内选取叠 加匹配代价最优的点(SAD和SSD取最小值,NCC取最大值)作为对应 匹配点,如胜者为王算法WTA(Winner-take-all)。而全局算法则直接对 原始匹配代价进行处理,一般会先给出一个能量评价函数,然后通过不同 的优化算法来求得能量的最小值,同时获得两实时图像中相对应每个点的 视差值,依据视差值,将两幅图像叠加获得视差图。
S122:将所述视差值通过预设视差优化规则,确定所述视差图。
在前述过程中获得视差图后,由于大多数立体匹配算法计算出来的视 差都是一些离散的特定整数值,可满足一般应用的精度要求,在需要视差 图像素较高时,需要通过预设视差优化规则(如匹配代价的曲线拟合、图 像滤波、图像分割等)优化视差图,进而降低视差图对后续步骤精确度的 印象。具体的,在一些精度要求比较高的场合,如精确的三维重构中,就 需要在初始视差获取后采用一些措施对视差进行细化,其措施为预设视差优化规则,具体如匹配代价的曲线拟合、图像滤波、图像分割等。视差细 化即为将视差图优化为亚像素级图像。
一种图像处理装置,在其中一种实施方式中,如图11所示,包括视 差图确定模块100、弱纹理区域信息确定模块200、去除模块300。
视差图确定模块100,用于获取两摄像装置拍摄的两实时图像,依据 两所述实时图像确定视差图。
双摄像装置在拍摄过程中,对同一区域的物体会同时拍摄到两张不同 帧的图像,该图像即为本发明中的实时图像,其中一幅为左实时图像,另 一幅为右实时图像,双目摄像装置在增大摄像机的焦距的同时,还可同时 获得较宽视角的拍摄区域,通过视差计算便可确定前方物体距离双目摄像 装置或者搭载双目摄像装置的距离。视差为目标点在左右两幅视图中成像 的横坐标之间存在的差异,视差图确定模块100主要依据双目立体视觉三维测量的视差原理,双目摄像装置的两摄像机具有一定的基线距离,且摄 像装置具有同一个立体坐标系即摄像机坐标系,摄像机坐标系的原点在摄 像机镜头的光心处,而在实际的使用过程中,摄像机的成像平面在镜头的 光心后,在双目摄像装置的左右摄像机成像平面的二维坐标轴与摄像机坐 标系中对应的两坐标轴相对应且方向一致,摄像机光轴在左右两实时图像 坐标系所在的二维平面相交,且分别为左右两实时图像分别对应的图像坐 标系的原点,在运算过程中,假设左右两实时图像在同一个平面中,便于 通过几何原理确定目标点在左右两实时图像中的差值(即视差值),两幅 图像对应点的视差形成视差图,即得到视差值后,将原图像转换为灰度图 像,再依据具体的匹配算法以及优化处理,将相同的特征采用相同的像素 处理显示,进而得到视差图,由于本发明为双目摄像装置拍摄实时图像, 在确定视差图时,视差图确定模块100主要也依据双目匹配算法确定视差 图,具体的双目匹配算法包括:SGM算法、BM算法、GC算法等。SGM 算法(半全局立体匹配算法)基于一种逐像素匹配的方法,该方法使用互 信息来评价匹配代价,并通过组合很多一维的约束来近似一个全局的二维 平滑约束,主要包括如下任意一项或者多项如下步骤:逐像素匹配代价的计算、代价聚合、视差求精、大尺寸图片的处理、视差图融合。BM (bidirectionalmatching)算法进行双向匹配,首先通过匹配代价在右图中 计算得出匹配点。然后通过相同的原理及计算在左图中的匹配点。比较找 到的左匹配点和源匹配点是否一致,如果是,则匹配成功。BM算法在移 动模式串的时候是从左到右,而进行比较的时候是从右到左的。常规的匹 配算法移动模式串的时候是从左到右,而进行比较的时候也是是从左到右 的。GC算法为垃圾收集器,步骤包括:标记-清除算法、复制算法、标记 -压缩算法。
弱纹理区域信息确定模块200,用于依据预设弱纹理确定规则分别确 定两所述实时图像的弱纹理区域信息。
进一步地,在所述弱纹理区域信息确定模块200中,包括:
预处理单元,用于依据预设预处理规则分别对两所述实时图像进行预 处理。
为了获得较为精确的弱纹理区域在实时图像中的弱纹理区域信息,弱 纹理区域信息确定模块200分别对两实时图像进行相同的预处理,图像预 处理的主要目的是消除图像中无关的信息,恢复有用的真实信息,增强有 关信息的可检测性和最大限度地简化数据,从而改进特征抽取、图像分割、 匹配和识别的可靠性。预处理模块201中一般进行的预处理过程有数字 化、几何变换、归一化、平滑、复原和增强等步骤。其中,图像滤波也是 图像预处理一部分,即在尽量保留图像细节特征的条件下对目标图像的噪 声进行抑制,是图像预处理中不可缺少的操作,其处理效果的好坏将直接 影响到后续图像处理和分析的有效性和可靠性。其目的主要为消除图像中 混入的噪声和为图像识别抽取出图像特征,在图像滤波过程中,不能损坏 图像轮廓及边缘且图像视觉效果应当更好,其滤波算法包括:高斯滤波、 中值(均值)滤波、方框滤波、双边滤波、非线性滤波等,在滤波去噪过 程中前述的任意一种或者多种结合的滤波算法。
具体的,方框滤波所用到的核:
其中
当normalize为true时,方框滤波也就成了均值滤波。也就是说均值 滤波是方框滤波归一化后的特殊情况。归一化就是将要处理的量缩放到一 定范围,比如(0,1)。
均值滤波为方框滤波中normalize为true的情况,此时就是在平均值。 均值滤波在去噪的同时破坏了图像的细节部分,也使得图像变得更加模 糊。
高斯滤波则不同,其能够很好的消除噪声。高斯滤波过程中,每个像 素点都是由本身和邻域内的其他像素值经过加权平均后得到的。从数学的 角度来看,图像的高斯模糊过程就是图像与正态分布做卷积,由于正态分 布也被称为高斯分布,因此这项技术被称为高斯模糊。由于高斯函数的傅 里叶变换是另外一个高斯函数,所以高斯模糊对图像来说就是一个低通滤 波器。N维空间正态分布方程和二维空间正态分布分别为:
中值滤波的基本思想是用像素点邻域灰度值的中值来代替该像素的 灰度值,该方法在去除脉冲噪声、椒盐噪声的同时还能保留图像的细节部 分。中值滤波花费的时间比均值滤波更久,但其在噪声的消除能力上更强。
双边滤波是结合图像的空间邻近度和像素值相似度的一种折中处理, 同时考虑空域信息和灰度相似性,达到保留边缘且去除噪声的目的。
双边滤波中,输出的值取决于邻域像素值得加权和:
其中加权系数w(i,j,k,l)又取决于定义域核以及值域核的乘积:
(定义域核)
(值域核)
以上两者相乘,可得到双边权重函数如下:
采用了前述的预处理过程之后,对预处理后的两所述实时图像依据弱 纹理确定规则分别确定其弱纹理区域信息。优选地,所述预设弱纹理确定 规则为预设梯度预算规则,在梯度运算过程中,首先依据预设梯度运算规 则确定梯度信息,依据梯度信息得到梯度图,其中对梯度图依据预设弱纹 理区域规则得到弱纹理区域信息,进一步的,预设梯度运算规则包括: Sobel、Roberts、Prewitt、Lapacian、canny、差分运算法等,确定梯度信 息时采用前述任意一种或任意几种相结合的预设梯度运算规则,具体后文 详述。
去除模块300,用于依据两所述实时图像中的所述弱纹理区域信息, 去除所述视差图中的弱纹理区域。
在前述过程中,得到两所述实时图像中的所述弱纹理区域信息后,将 所述弱纹理区域信息叠加得到较为准确的弱纹理区域,并将其与视差图结 合,去除模块300依据弱纹理区域新确定视差图中的弱纹理区域,采用图 像去噪的方法去除视差图中的弱纹理区域,避免弱纹理区域对后续的景深 恢复区域的影响,即避免弱纹理区域对强纹理区域景深恢复的影响。纹理 是一种反映图像中同质现象的视觉特征,它体现了物体表面的具有缓慢变化或者周期性变化的表面结构组织排列属性。强纹理区域为在两所述实时 图像中相对弱纹理区域的相对概念,即两所述实时图像中除去弱纹理区域 部分,其他均为强纹理区域,如实时图像中弱纹理区域为天空、水面、白 墙等,而强纹理区域为相对天空、水面、白墙等的陆地实物,如植物、山 体、田地、生活用品等,其在实时图像中的分布有较为明显、规则地重复 排列的灰度值,所谓弱纹理,即图像中像素的灰度不发生变换或者变换很 微弱,而这种变化就体现在像素灰度的梯度和特定窗口下像素灰度的统计 特性上。
在基于颜色(灰度)的立体匹配算法中,丰富的纹理是高匹配率的保 障,因而对于纹理丰富的区域,简单的窗口匹配算法就能取得理想的匹配 率,更加复杂算法的匹配效果并不能有所提高,甚至会通过牺牲纹理区域 的匹配效果来提高病态区域的匹配率,所以需要将窗口匹配的结果(初始 视差图)作为纹理丰富区域的最终视差。而对于弱纹理区域,需要通过极 线距离变换来提高像素的可区分性,为了增强算法的鲁棒性和环境适应 性,在极线距离变换的算法的基础上改进,得到一种自适应极线距离变换 算法,并对变换后的图像对采用置信度传播算法计算变换视差图。最后, 基于弱纹理区域检测及其二值分割的结果,将初始视差图和变换视差图进 行融合,以获得能同时在弱纹理区域和纹理丰富区域取得高准确率匹配的 视差图。自适应极线距离变换算法即根据当前像素邻域像素(沿着极线)的 灰度相似性,自适应地确定变换支撑域的大小。
该算法首先根据输入图像的颜色(灰度)变化情况检测出弱纹理区域, 然后基于这一检测结果,对输入图像对应用改进的极线距离变换算法,以 提高弱纹理区域像素的可区分性,接着,采用窗口匹配算法和置信度传播 算法分别对原始输入图像和极线距离变换后的图像计算视差图谱,最后, 以弱纹理检测的结果为基准,对这2张视差图谱进行融合,以实现在弱纹 理区域和纹理区域的同步最优匹配。具体的,当一个像素对应在左图像中的图像像素段(以该像素为像素段端点)的分割系数也是2个视角图像下 的不变量,可以作为立体匹配的匹配基元,具体分割系数算法如下:
设P(x,y)是输入图像中的任一像素,沿着扫描线分别向左依次搜索, 如果某个像素S(xx,ys)与像素P(x,y)的灰度差异较大(大于某一固定 阈值),则S(xx,ys)为P(x,y)所在线段的左端点,同理,沿着扫面线 向右依次搜索,找到线段的右端点T(xT,yT),此时,就可以很容易地计 算当前像素P对线段ST的分割系数,则有:
在上式中以像素计数作为线段长度。
初始匹配为强纹理区域提供视差值,而经过极线变换和置信度传播匹 配之后的结果为弱纹理区域提供视差值,对于原始图像的弱纹理检测和分 割后的二值图像则可以作为这两者融合的基准,融合的过程用公式表示 为:
Finaldisp=Rawdisp·Thigh+Transdisp·Tlow
需要说明的是,前述的自适应极线距离变换算法并未对左右图像做抗 噪处理,也没有做遮挡检测和视差填充等后续处理,其可以采用本发明实 施例中相对应做抗噪处理,也没有做遮挡检测和视差填充等后续处理。
进一步地,在其中一种实施方式中,如图12所示,在所述弱纹理区 域信息确定模块中,还具体包括梯度信息确定单元210、梯度图获得单元 220、第一弱纹理区域信息确定单元230。
梯度信息确定单元210,用于依据预设梯度运算规则对预处理后的两 所述实时图像进行梯度计算,确定两所述实时图像中的梯度信息。
如前文所述,在对两所述实时图像进行预处理的过程中,预处理过程 一般有数字化、几何变换、归一化、平滑、复原和增强等步骤。数字化: 一幅原始照片的灰度值是空间变量(位置的连续值)的连续函数。在M× N点阵上对照片灰度采样并加以量化(归为2b个灰度等级之一)。在接 收装置的空间和灰度分辨能力范围内,M、N、b的数值越大,重建图像 的质量就越好。当取样周期等于或小于原始图像中最小细节周期的一半 时,重建图像的频谱等于原始图像的频谱,因此重建图像与原始图像可以 完全相同。由于M、N、b三者的乘积决定一幅图像在计算机中的存储量, 因此在存储量一定的条件下需要根据图像的不同性质选择合适的M、N和 b值,以获取最好的处理效果。几何变换:用于改正图像采集系统的系统 误差和仪器位置的随机误差所进行的变换。对于卫星图像的系统误差,如 地图投影等因素所造成的畸变,可以用模型表示并通过几何变换来消除。 随机误差如飞行器姿态和高度变化引起的误差,难以用模型表示出来,所 以一般在系统误差被纠正后,通过把被观测的图和已知正确几何位置的图 相比较,用图中一定数量的地面控制点解双变量多项式函数组而达到变换 的目的。归一化:使图像的某些特征在给定变换下具有不变性质的一种图 像标准形式。图像的某些性质,例如物体的面积和周长。在一般情况下, 某些因素或变换对图像一些性质的影响可通过预处理得到消除或减弱,从 而可以被选作测量图像的依据。灰度归一化、几何归一化和变换归一化是 获取图像不变性质的三种归一化方法。平滑:消除图像中随机噪声的技术。 对平滑技术的基本要求是在消去噪声的同时不使图像轮廓或线条变得模 糊不清。常用的平滑方法有中值法、局部求平均法和k近邻平均法。复原: 校正各种原因所造成的图像退化,使重建或估计得到的图像尽可能逼近于 理想无退化的像场。在实际应用中常常发生图像退化现象。例如大气流的 扰动,光学系统的像差,相机和物体的相对运动都会使图像发生退化。基 本的复原技术是把获取的退化图像g(x,y)看成是退化函数h(x,y)和理想 图像f(x,y)的卷积。它们的傅里叶变换存在关系G(u,v)=H(u,v)F(u, v)。图像复原的代数方法是以最小二乘法最佳准则为基础。增强:对图像 中的信息有选择地加强和抑制,以改善图像的视觉效果,或将图像转变为 更适合于机器处理的形式,以便于数据抽取或识别。例如一个图像增强系 统可以通过高通滤波器来突出图像的轮廓线,从而使机器能够测量轮廓线 的形状和周长。图像增强技术有多种方法,反差展宽、对数变换、密度分层和直方图均衡等都可用于改变图像灰调和突出细节。当然,还包括前文 详述的对所述实时图像的滤波去噪过程。
经过前述的预处理步骤后,通过预设梯度运算规则对预处理后的所述 实时图像进行梯度计算,即通过Sobel、Roberts、Prewitt、Lapacian、canny、 差分运算法等对预处理后的图像进行卷积,梯度信息确定单元210确定两 所述实时图像中的梯度信息。图像的梯度,一般是对灰度图像或者彩色图 像进行操作。数字图像就是离散的点值谱,也可以叫二维离散函数。图像 的梯度就是这个二维离散函数的求导,图像的梯度即本发明中实时图像的 梯度信息(包括梯度值和梯度的方向)。
图像的求导就是水平方向或者垂直方向的,相邻两个像素之间的差 值。
图像梯度:
G(x,y)=dx(i,j)+dy(i,j);
dx(i,j)=I(i+1,j)-I(i,j);
dy(i,j)=I(i,j+1)-I(i,j);
其中,I是图像像素的值(如:RGB值),(i,j)为像素的坐标。图像梯度 一般也可以用中值差分:
dx(i,j)=[I(i+1,j)-I(i-1,j)]/2;
dy(i,j)=[I(i,j+1)-I(i,j-1)]/2。
采用Roberts时,对于图像来说,是一个二维的离散型数集,通过推 广二维连续型求函数偏导的方法,来求得图像的偏导数,即在(x,y)处的最 大变化率,也就是这里的梯度:
上述公式为图像的垂直和水平梯度,但我们有时候也需要对角线方向 的梯度,定义如下:
Prewitt中水平、垂直和两对角线方向的梯度定义为:
水平方向:
垂直方向:
对角线方向:
g′x=(z2+z3+z6)-(z4+z7+z8)
g′y=(z6+z8+z9)-(z1+z2+z4)
Sobel是在Prewitt的基础上改进的,在中心系数上使用一个权值2, 相比较Prewitt,Sobel能够较好的抑制(平滑)噪声。
前述Sobel、Prewitt、Roberts方法都是通过求一阶导数来计算梯度的, 用于线的检测,在图像处理中,通常用于边缘检测。在图像处理过程中, 除了检测线,有时候也需要检测特殊点,这就需要用二阶导数进行检测。
在图像处理中通过Lapacian求二阶导数,其定义如下:
在用lapacian对图像进行卷积运算时,当响应的绝对值超过指定阈值 时,那么该点就是被检测出来的孤立点,具体输出如下:
Canny主要用于边缘检测,而在其边缘检测过程中,边缘点具体算法 步骤如下:1、用高斯滤波器平滑图像;2、用一阶偏导有限差分计算梯度 幅值和方向;3、对梯度幅值进行非极大值抑制;4、用双阈值算法检测和 连接边缘。而在边缘检测过程中,有梯度值确定的过程,主要通过一阶偏 导有限差分计算梯度幅值和方向求,且在此过程中包括了差分运算方法, 通过前面的Sobel、Prewitt、Roberts、lapacian、Canny中定义的方法便可 确定图像中的梯度信息。
梯度图获得单元220,用于依据所述梯度信息,获得预处理后的两所 述实时图像的梯度图。
在本发明中,梯度图主要通过前文详述的预设梯度运算规则确定梯度 信息,梯度图获得单元220通过梯度信息得到梯度图。具体的,梯度图像 是画梯度的幅值,图象中每点f(x,y)的梯度(△xf(x,y),△yf(x,y))通过预设梯 度运算规则确定,而梯度方向为方向theta=atan2(△xf(x,y),△yf(x,y)),theta 角度为0-2pi弧度,转换为0-360度,以每点为中心,16x16的范围内,每 个点都有梯度方向,进而得到梯度直方图了(其中在运算的实际过程中只 计算特征点的),直方图为18个区间,每个区间20度。常见的梯度直方 图包括:HOG,Histogram of Oritentd Gradients(缩写为HOG)通过计算 和统计图像的局部区域(Cell和Block)的方向梯度直方图来构成特征,主 要过程是:先将一整幅图像像划分为大小相等的Cell小区域,如先将图像 划分为20pixel*20pixel的小区域,然后分别计算这些小区域的梯度方向直 方图;然后再由一定数量的小区域组成稍微大一点的区域Block,比如说 由2*2个Cell小区域组成1个Block区域,然后,再由Block区域的方向 梯度直方图特征向量组成整幅图像的方向梯度直方图HOG的特征向量; 而特征向量就可以唯一的描述这幅图像。
第一弱纹理区域信息确定单元230,用于所述梯度图结合预设弱纹理 区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
如前文所述,将通过梯度信息得到的梯度图后,弱纹理区域与图像中 的其他部分纹理区域将变得较为容易区域,具体为,第一弱纹理区域信息 确定单元230将梯度图与预设弱纹理区域信息规则结合,便可确定弱纹理 区域在两所述实时图像中的位置,即本发明中的所述弱纹理区域信息,具 体后文详述。
进一步地,在其中一种实施方式中,如图13所示,在所述第一弱纹 理区域信息确定单元中,具体包括弱纹理像素点标识单元231、第一方差 确定单元232、第二弱纹理区域信息确定单元233。
弱纹理像素点标识单元231,用于依据所述梯度图和所述预设弱纹理 位置信息规则,标识所述梯度图中的弱纹理像素点。
在确定梯度图后,梯度图中每一个像素点对应一像素值,结合具体的 预设弱纹理位置信息规则,便可以确定梯度图中一像素点是否为弱纹理区 域的像素点,在确定点为弱纹理像素点后,便将该像素点标识为具体的弱 纹理像素点,一个区域的多个弱纹理像素点构成弱纹理区域。优选地,将 梯度图中的弱纹理像素点均标识完成后,结合后文的运算规则确定弱纹理 区域信息,具体后文详述。
第一方差确定单元232,用于按照预设方差规则确定弱纹理位置信息 方差和非弱纹理位置信息方差。
如前文所述,方差和中心偏离的程度,其用来衡量一批数据的波动大 小,主要为同一批数据偏离平均数的大小。在样本容量相同的情况下,方 差越大,说明数据的波动越大,越不稳定。在梯度图中标识出了弱纹理像 素点后,有必要确定弱纹理位置信息方差和非弱纹理位置信息方差,根据 方差能够大概预估弱纹理像素点的准确性,以及尽可能地将实时图像中的 弱纹理像素点标识出来,进而实现准确地划分实时图像中的弱纹理区域和非弱纹理区域,并能够结合视差图,竟可能精确地去除视差图中的弱纹理 区域,得到不包含弱纹理区域的视差图,并能够依据改图获得更为精确的 三维地图,其中,具体的弱纹理位置信息方差和非弱纹理位置信息方差在 后文详细说明。
第二弱纹理区域信息确定单元S233,用于依据所述弱纹理位置信息 方差、所述非弱纹理位置信息方差和预设弱纹理位置信息规则确定所述弱 纹理区域信息。
在确定弱纹理区域信息的过程中,还能够通过弱纹理位置信息规则确 定,该规则在所述弱纹理位置信息方差和所述非弱纹理位置信息方差的基 础上得到弱纹理位置信息,其中,通过判断预设弱纹理位置信息规则是否 为最大值,确定当前的所述弱纹理位置信息方差和所述非弱纹理位置信息 方差的值是否为最合适的值,进一步地,预设弱纹理位置信息规则为能量 函数,该函数的主要参数为所述弱纹理位置信息方差和所述非弱纹理位置 信息方差,且在所述弱纹理位置信息方差和所述非弱纹理位置信息方差两 者均较小时,所述能量函数的值最大,说明此时弱纹理区域为最佳区域, 具体地,所述预设弱纹理位置信息规则后文详述。
进一步地,在其中一种实施方式中,如图14所示,在所述第二弱纹 理区域信息确定单元中,具体包括:梯度值确定单元2311、判断单元2312、 弱纹理像素点确定单元2313。
梯度值确定单元2311,用于按照预设检测次序,依次确定所述梯度 图中各像素点的像素值对应的梯度值。
特别地,如前文所述,在所述梯度图中包括了cell和block,在确定 弱纹理区域信息时,梯度值确定单元2311按照预设检测次序,依据确定 cell/block中的每个像素点对应的像素值,如将梯度图按照cell/block的排 序分为行和列,或者按照像素点的排序分为行和列,其中行为x,列为y, 按照列依次检测每个像素点的像素值以及所述像素值对应的梯度值,或者 按照行依次检测每个像素点的像素值以及所述像素值对应的梯度值,其 中,梯度值为通过前文的预设梯度运算规则确定,确定像素点是否为弱纹 理区域像素点或者非目标像素点,即确定像素点为弱纹理像素点或者是非 弱纹理像素点。进而便于用于后续的对比以及运算。
判断单元2312,用于将所述梯度值与预设弱纹理梯度阈值进行对比, 判断所述梯度值是否在所述预设弱纹理梯度阈值内。
为了确定每一个像素点为弱纹理像素点或者非弱纹理像素点,需要预 设一个弱纹理梯度值的阈值,在前述过程中,检测到每一个像素点像素值 对应的梯度值后,将检测出的像素值对应的梯度值与弱纹理阈值进行对 比,判断单元2312判断该像素点的像素值是否为弱纹理区域的像素值。 例如,设弱纹理区域为天空,与弱纹理区域相对的区域为陆地区域,设一 个预设弱纹理梯度阈值t(tmin<t<tmax),按照像素点行x的排列次序,依 次检测每列y中像素点的像素值对应的梯度值,即按照列从上往下检测梯 度图中每个像素点的像素值,如果该点像素值grad(x,y)>t,则该点为天空 区域的边界点,记录在b(x)=y。其中x,y分别为列与行。特别地, 时,则所述像素点不在弱纹理区域(陆地区域g);tmin<grad(x,y)<tmax, 则所述像素点在弱纹理区域(天空区域s),每列都检测完之后,便可以 得到该阈值下的天空区域s和陆地区域g。
弱纹理像素点确定单元2313,用于若所述像素值在所述预设弱纹理 梯度阈值内,则所述像素值为弱纹理的位置信息,将所述像素点标识为弱 纹理像素点。
进一步地,还包括:第二方差确定单元2314。
第二方差确定单元2314,用于按照预设方差规则确定弱纹理位置信 息方差和非弱纹理位置信息方差。
优选地,所述预设方差规则为预设方差函数,在所述第二方差确定单 元中,具体包括:
第一方差运算单元,用于依据所述梯度图中所述弱纹理区域像素点的 像素值、所述梯度图中的总像素平均值、所述梯度图中所述弱纹理像素点 的总数目以及所述弱纹理像素点对应所述梯度图中的标识确定所述弱纹 理位置信息方差。
如前文所述,在确定某一像素点的像素值在弱纹理区域后,即 tmin<grad(x,y)<tmax,则所述像素点在弱纹理区域(如天空区域s),则说明 该像素值处于弱纹理区域,且所述像素点为弱纹理的位置信息,即该点的 行列值(x,y),其中,为了便于后续与视差图结合,将行列值(x,y) 记录为弱纹理区域并存储,弱纹理像素点确定单元2313便于通过预设方 差规则确定弱纹理位置信息方差,如后文中方差规则为:
a为待处理图像区域,Ia为梯度图中待处理图像区域每个点的像素值, μa为待处理图像区域的总像素平均值,Na为梯度图中待处理图像区域像素 点的数目,(x,y)为对应梯度图中的下标值。
因此,如弱纹理区域为天空区域时,弱纹理像素点的方差为:
λs为天空区域的方差,Is所述梯度图中弱纹理区域每个点的像素值,μs分别是弱纹理的区域的总像素平均值的总像素平均值,Ns为所述梯度图中 弱纹理像素点的数目,(x,y)为对应梯度图中的下标值,s为天空区域。
优选地,所述预设方差规则为预设方差函数,在所述第二方差确定单 元中,具体包括:
第二方差运算单元,用于依据所述梯度图中非弱纹理区域像素点的像 素值、所述梯度图中的总像素平均值、所述梯度图中非弱纹理像素点的总 数目以及所述非弱纹理像素点对应所述梯度图中的标识确定所述非弱纹 理位置信息方差。
在所述像素值不在所述预设弱纹理梯度阈值内,则所述像素值为非弱 纹理的位置信息,将所述像素点可以标识为非弱纹理像素点,按照所述预 设方差规则确定非弱纹理位置信息方差,当然在同一幅实时图像中,当标 识了弱纹理像素点之后,可以不标识非弱纹理像素点,在运算过程中个, 直接采用没有标识像素点对应的像素值以及总的没有标识像素点的总数 目,同样能够按照所述预设方差规则确定非弱纹理位置信息方差。
如前文所述,在两所述实时图像中,包括弱纹理区域,同时也可以包 括非弱纹理区域,在进行至检测时,一些像素点在弱纹理区域,剩余部分 像素点则有可能在非弱纹理区域,因此,在判断时,若检测到时,则所述像素点不在弱纹理区域(如陆地区域g),第二方差运算单元 同样能够通过预设方差规则确定所述非弱纹理区域的方差,具体为:
λg为陆地区域的方差,Ig为所述梯度图中非弱纹理区域每个点的像素 值,μg分别是非弱纹理区域的总像素平均值,Ng为所述梯度图中非弱纹理 像素点的数目,(x,y)为对应梯度图中的下标值,g为非弱纹理区域。
进一步地,所述预设弱纹理位置信息规则为预设能量函数,在所述第 二弱纹理区域信息确定单元中,具体包括:
能量值确定单元,用于依据所述弱纹理位置信息方差、所述非弱纹理 位置信息方差和所述预设能量函数确定能量值。
更优地,在其中一种实施方式中,如图15所示,在所述能量值确定 单元中,具体包括:
能量值判断单元234,用于基于奇异矩阵原理判断所述能量值是否为 最大能量值;
调整单元235,用于当所述能量值不是最大能量值时,调整所述预设 弱纹理梯度阈值使得所述能量值最大;
确定单元236,用于当所述能量值最大时,结合所述梯度图和预设弱 纹理区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
优选地,结合前文的说明,为了节约图像处理的时间,能量值确定单 元预设有弱纹理位置信息规则,且该规则具体为能量函数,该规则主要依 据为前文所述弱纹理位置信息方差、所述非弱纹理位置信息方差,以及经 验系数,具体的,所述预设弱纹理位置信息规则为:
λa1为所述弱纹理位置信息方差,λa2为所述非弱纹理位置信息方差,γ为 一个经验值。
其中,所述预设弱纹理位置信息规则为能量函数,在J为最大值时, 此时的弱纹理区域为最佳值,判断J是否为最大值,由于理想的图像具有 最大的梯度值(如:1443),而常规图像不能达到该梯度值,且在梯度值 超过一定的值(如:600)时,J为一固定常数,因此,依据前述的梯度值, 判断J是否为最大值,如果J不是最大值,说明此阈值t下的天空区域不是最大最佳范围,则增大阈值t,重新返回运行计算进行像素点标识以及 所述弱纹理位置信息方差和所述非弱纹理位置信息方差确定的过程。如果 J为最大值,说明此时弱纹理区域为最佳区域,记录好弱纹理区域的边界 位置。具体的,在运算过程中,依据奇异矩阵原理确定能量值是否为最大 能量值,所述弱纹理位置信息方差对应弱纹理位置信息协方差的特征值, 所述非弱纹理位置信息方差对应非弱纹理位置信息协方差的特征值,且非 弱纹理位置信息协方差和弱纹理位置信息协方差均为3×3的矩阵,且矩阵 行列式等于零,其中,在非弱纹理位置信息协方差和弱纹理位置信息协方 差中,在同一个奇异矩阵中的三个特征值中,第二特征值和第三特征值远 远小于第一特征值时,此时依据能量函数得到最大能量值。
优选地,所述预设方差规则为:
a为待处理图像区域,Ia为梯度图中待处理图像区域每个点的像素值, μa为待处理图像区域的总像素平均值,Na为梯度图中待处理图像区域像素 点的数目,(x,y)为对应梯度图中的下标值,具体如前文详述。
进一步地,在其中一种实施方式中,如图16所示,在所述视差图确 定模块中,具体包括:特征信息获取单元110、视差图确定单元120。
特征信息获取单元110,用于获取两所述实时图像中相对应的特征信 息。
如前文所述,视差为目标点在左右两幅视图中成像的横坐标之间存在 的差异,假设左右两实时图像在同一个平面中,便于通过几何原理确定目 标点在左右两实时图像中的差值(即视差值),两幅图像对应点的视差形 成视差图,即得到视差值后,将原图像转换为灰度图像,再依据具体的匹 配算法以及优化处理,将相同的特征采用相同的像素处理显示,进而得到 视差图,其中,目标点即为相对应特征的特征点,因此,得到视差图之前, 首先需要先确定两所述实时图像中相对应的特征信息。特征信息即为相同 物的像素值、对应在实时图像中的坐标值等,具体后文详述。
视差图确定单元120,用于依据几何测量原理以及相对应的所述特征 信息,确定两所述实时图像的视差图。
由于双目测距原理主要依据几何测量原理中三角测量原理得到视差 图,具体如图8。
图8中,空间中某点P在左图像xl和右图像xr中相应的实物特征点, Ol和Or左右图像坐标系的原点,也为两摄像机光轴与左右图像所在平面 的交点。双目测距主要是利用了目标点在左右两幅视图上成像的横向坐标 直接存在的差异(即视差d=xl-xr)与目标点到成像平面的距离Z存在 着反比例的关系:Z=fT/d。f、d是固定已知参数,f为两摄像装置的焦距, 当计算出左右图像中对应两点的视差值,便可求的该目标点与相机的真实 距离,即深度值Z,具体如下式:
进一步地,在所述特征信息获取单元中,具体包括提取单元。
提取单元,用于提取两所述实时图像中的所述特征信息,依据预设像 素匹配规则将两所述实时图像中的所述特征信息进行匹配,确定相对应的 所述特征信息。
提取出两所述实时图像中的所述特征信息,便于将两所述实时图像中 通过运算得到相对应的特征信息,具体为通过预设像素匹配规则将两所述 实时图像中的特征信息进行匹配,进而确定相对应的特征信息,预设像素 匹配规则具体如匹配代价运算,匹配代价计算实际是对不同视差下进行灰 度相似性测量。常见的方法有灰度差的平方SD(squared intensity differences),灰度差的绝对值AD(absolute intensitydifferences)等。另 外,在求原始匹配代价时可以设定一个上限值,来减弱叠加过程中的误匹 配的影响。以AD法求匹配代价为例,可用下式进行计算,其中T为设定 的阈值。
当然,为了缩短匹配过程中的时间以及构建的三维地图更加精确,提 高无人机避障精度,本发明的实施例中还可以采用其他的方法,例如:采 用激光投点器投射出唯一性和抗噪性较好的光斑图案,以增加场景的纹理 信息;然后,基于积分灰度方差(IGSV)和积分梯度方差(IGV)提出了 自适应窗口立体匹配算法。该算法首先计算左相机的积分图像,根据积分 方差的大小确定匹配窗口内的图像纹理质量,然后对超过预设方差的阈值 与右相机进行相关计算,最后通过遍历整幅图像得到密集的视差图。基于 IGSV和IGV的自适应窗口匹配算法流程如:
(1)光斑图案采集。开启两个激光投点器,使它们向被测空间投射 各自的光斑场,利用视觉系统的两台摄像机采集物体表面调制的光斑图 案。(2)立体视觉校正。根据事先标定的立体视觉系统内外参数,校正 左右两幅图像的坐标,从而使得左右图像仅在水平方向上含有视差值,而 在垂直方向上保持一致。
(3)积分图像计算。选择左图像作为参考图像,遍历其上所有像素 计算灰度积分图像和式,或梯度积分图像。
积分图像的具体的定义为:
其表示为灰度图中坐标(x,y)左上角区域内的灰度值和。
平方积分图像定义为:
梯度积分图像建立依据如下:
(4)积分方差计算。在参考图像上选择一个参考子窗口,图像坐标 位置为(x,y),大小设置为Mpixel×Npixel。然后计算该窗口内的IGSV 或IGV。
图像任意窗口的灰度方差定义为:
其中,Q为积分图像,QⅡ2为平方积分图像。
IGV的表达式如下:
其中,QGG为矩形区域内梯度求,QGG2为矩形区域内平方求和,矩形 为灰度图中任意一矩形。
(5)窗口自适应调整。将上述步骤计算得到的IGSV(或IGV)与图 像纹理质量的阈值TH进行比较。若方差小于该阈值TH,则增加窗口的 尺寸(M+1,N+1),否则说明该窗口内的图像纹理质量较好,可以转到下一 步进行匹配计算。
(6)匹配计算。以右图像为目标图像,利用相似性度量函数在其y行 上搜索得到最为相似的区域,其横坐标即为匹配之后的视差值。
(7)完成整幅图像匹配搜索。图像坐标移动到下一个位置,并且将 窗口大小初始化为Mpixel×Npixel,重复(4)~(6)步完成参考图像上 所有像素的匹配计算,即可得到完整的密集视差图。
进一步地,在其中一种实施方式中,如图17所示,在所述视差图确 定单元120中,具体包括:最接近像素点确定单元121、优化单元122。
最接近像素点确定单元121,用于将相对应的所述特征信息叠加,确 定相对应的所述特征信息中像素值最接近像素点,依据预设视差值规则确 定相对应的所述特征信息中像素值最接近像素点的视差值。
在本发明的此步骤中,主要采用区域算法,全局算法基于原始匹配代 价进行后续算法计算。而区域算法则需要通过窗口叠加来增强匹配代价的 可靠性,根据原始匹配代价不同,可分为如下几种算法,具体如图10。
图10过程是核心算法的解释,就是计算区域内像素差值,可以为单 个像素也可以为一定区域内,主要看SAD的窗口大小的设置,同时SAD 设置决定误匹配的多少和运算效率问题,所以需要谨慎地设置SAD大小。 在前述的基础上,完成匹配代价的叠加以后,在一定范围内选取叠加匹配 代价最优的点(SAD和SSD取最小值,NCC取最大值)作为对应匹配点,如胜者为王算法WTA(Winner-take-all)。而全局算法则直接对原始匹配 代价进行处理,一般会先给出一个能量评价函数,然后通过不同的优化算 法来求得能量的最小值,同时获得两实时图像中相对应每个点的视差值, 依据视差值,将两幅图像叠加获得视差图。
优化单元122,用于将所述视差值通过预设视差优化规则,确定所述 视差图。
在前述过程中获得视差图后,由于大多数立体匹配算法计算出来的视 差都是一些离散的特定整数值,可满足一般应用的精度要求,在需要视差 图像素较高时,需要通过预设视差优化规则(如匹配代价的曲线拟合、图 像滤波、图像分割等)优化视差图,进而降低视差图对后续步骤精确度的 印象。具体的,在一些精度要求比较高的场合,如精确的三维重构中,就 需要在初始视差获取后采用一些措施对视差进行细化,其措施为预设视差优化规则,具体如匹配代价的曲线拟合、图像滤波、图像分割等。视差细 化即为将视差图优化为亚像素级图像。
本发明还提供了一种计算机可读存储介质,其上存储有计算机程序, 该计算机程序执行时实现任一技术方案所述基于双摄像装置的图像处理 的步骤。
本发明还提供了一种图像处理终端,包括处理器、存储器,所述存储 器用于存储计算机程序,所述计算机程序被所述处理器执行时实现任一技 术方案所述图像处理方法的步骤。
本发明还提供了一种图像处理系统,包括摄像装置、所述的计算机可 读存储介质或所述图像处理终端。
本发明还提供了一种三维地图构建方法,在其中一种实施方式中,如 图18所示,包括:
S400:依据任一技术方案所述的图像处理方法对双摄像装置拍摄的图 像进行处理,以得到去除噪声的视差图;
S500:依据所述去除噪声的视差图构建三维地图。
本发明还提供了一种移动装置的控制方法,在其中一种实施方式中, 如图19所示,包括:
S600:依据所述三维地图,确定移动装置航线中的障碍物位置信息;
S700:依据所述障碍物的所述位置信息,控制所述移动装置绕行所述 障碍物。
本发明在基于双摄像装置的图像处理方法的基础上,将两实时图像中 的弱纹理区域位置信息和视差图结合,进而得到较优的不包括弱纹理区域 的视差图,由于两实时图像中的弱纹理区域位置信息可能相同,也可能不 同,进而在两者的基础上,去除视差图中的弱纹理区域时,结合两实时图 像中弱纹理区域位置信息,选取较优地弱纹理区域信息,即尽可能地去除 视差图中弱纹理区域,同时也避免将不是弱纹理区域的图像去除,使得得到的弱纹理区域的视差图像为较优的视差图,进而能够基于该视差图构建 三维地图,具体构建三维地图时,主要通过三角测量原理与投影模型得到 三维赌,其具体如图8,以及前述的三角测量原理,三角测量原理中的Z 为景深即为物体据摄像装置的距离,更进一步地,本发明应用于无人机上, 因此Z同时可表示为视差图中物体距离无人机的距离,在检测出弱纹理区 域(如天空区域、水面区域、纯白墙等)在两所述实时图像中的位置后, 结合两所述实时图像的视差图去除视差图中的弱纹理区域,避免了弱纹理 区域对实时图像中其他物体的景深恢复的影响,同时避免了在有弱纹理区 域时,将弱纹理区域的特征与其他物体特征错误匹配的情况,即为构建三 维地图提供基础的视差图中,只包括了用于构建地图以及无人机避障的物 体。在两实时图像通过前述的图像处理过程之后得到的视差图,便可依据该视差图以及预设投影模型构建三维地图,投影的方式构建三维地图能够 最大程度的还原原物的颜色,使得三维地图更加真实。在得到三维地图后, 移动装置(无人机)能够依据给三维地图,确定处于移动装置航线中的障 碍物的位置,障碍物的位置信息具体包括:障碍物与移动装置的距离、障 碍物的体积、障碍物在世界坐标系中的坐标值,具体可采用如Slam技术, 通过sift和/或ORB提取图像中的特征,并依据RANSAC估计各特征的运 动参数,并通过该技术确定障碍物的位置信息后,移动装置能够障碍物的 位置信息控制移动装置绕过障碍物飞行,实现移动装置的避障功能,更进 一步地,移动装置避障的精度,主要在于三维地图的精度,而三维地图的 精度主要来自于视差图,在前述过程中,没有弱纹理区域的视差图,避免 弱纹理区域对构建三维地图过程中景深恢复的影响以及特征匹配的影响,提高了三维地图的精度,并进一步提高无人机的避障精度。
此外,在本发明各个实施例中的各功能单元可以集成在一个处理模块 中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在 一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软 件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现 并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介 质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅是本发明的部分实施方式,应当指出,对于本技术领域的 普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进 和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (33)

1.一种图像处理方法,其特征在于,包括:
获取两摄像装置拍摄的两实时图像,依据两所述实时图像确定视差图;
依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区域信息;
依据两所述实时图像中的所述弱纹理区域信息,去除所述视差图中的弱纹理区域。
2.根据权利要求1所述的图像处理方法,其特征在于,所述预设弱纹理确定规则为预设梯度运算规则。
3.根据权利要求2所述的图像处理方法,其特征在于,在所述依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区域信息的步骤中,包括:
依据预设预处理规则分别对两所述实时图像进行预处理。
4.根据权利要求3所述的图像处理方法,其特征在于,在所述依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区域信息的步骤中,还具体包括:
依据预设梯度运算规则对预处理后的两所述实时图像进行梯度计算,确定两所述实时图像中的梯度信息;
依据所述梯度信息,获得预处理后的两所述实时图像的梯度图;
结合所述梯度图和预设弱纹理区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
5.根据权利要求4所述的图像处理方法,其特征在于,在结合所述梯度图和预设弱纹理位置信息规则,确定两所述实时图像中所述弱纹理区域信息的步骤中,具体包括:
依据所述梯度图和所述预设弱纹理位置信息规则,标识所述梯度图中的弱纹理像素点;
按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方差;
依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预设弱纹理位置信息规则确定所述弱纹理区域信息。
6.根据权利要求5所述的图像处理方法,其特征在于,在所述依据所述梯度图和所述预设弱纹理位置信息规则,标识所述梯度图中的弱纹理像素点的步骤中,具体包括:
按照预设检测次序,依次确定所述梯度图中各像素点的像素值对应的梯度值;
将所述梯度值与预设弱纹理梯度阈值进行对比,判断所述梯度值是否在所述预设弱纹理梯度阈值内;
若所述像素值在所述预设弱纹理梯度阈值内,则所述像素值为弱纹理的位置信息,将所述像素点标识为弱纹理像素点。
7.根据权利要求6所述的图像处理方法,其特征在于,在所述若所述像素值在所述预设弱纹理梯度阈值内,则所述像素值为弱纹理的位置信息,将所述像素点标识为弱纹理像素点的步骤之后,包括:
按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方差。
8.根据权利要求7所述的图像处理方法,其特征在于,所述预设方差规则为预设方差函数,在所述按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方差的步骤中,具体包括:
依据所述梯度图中所述弱纹理区域像素点的像素值、所述梯度图中的总像素平均值、所述梯度图中所述弱纹理像素点的总数目以及所述弱纹理像素点对应所述梯度图中的标识确定所述弱纹理位置信息方差。
9.根据权利要求7所述的图像处理方法,其特征在于,所述预设方差规则为预设方差函数,在所述按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方差的步骤中,具体包括:
依据所述梯度图中非弱纹理区域像素点的像素值、所述梯度图中的总像素平均值、所述梯度图中非弱纹理像素点的总数目以及所述非弱纹理像素点对应所述梯度图中的标识确定所述非弱纹理位置信息方差。
10.根据权利要求6所述的图像处理方法,其特征在于,所述预设弱纹理位置信息规则为预设能量函数,在所述依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和预设弱纹理位置信息规则确定所述弱纹理区域信息的步骤中,具体包括:
依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预设能量函数确定能量值。
11.根据权利要求10所述的图像处理方法,其特征在于,在所述依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预设能量函数确定能量值的步骤中,具体包括:
基于奇异矩阵原理判断所述能量值是否为最大能量值;
当所述能量值不是最大能量值时,调整所述预设弱纹理梯度阈值使得所述能量值最大;
当所述能量值最大时,结合所述梯度图和预设弱纹理区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
12.根据权利要求5所述的图像处理方法,其特征在于,在所述获取两摄像装置拍摄的两实时图像,依据两所述实时图像确定视差图的步骤中,具体包括:
获取两所述实时图像中相对应的特征信息;
依据几何测量原理以及相对应的所述特征信息,确定两所述实时图像的视差图。
13.根据权利要求12所述的图像处理方法,其特征在于,在所述获取两所述实时图像中相对应的特征信息的步骤中,具体包括:
提取两所述实时图像中的所述特征信息,依据预设像素匹配规则将两所述实时图像中的所述特征信息进行匹配,确定相对应的所述特征信息。
14.根据权利要求13所述的图像处理方法,其特征在于,在所述依据几何测量原理以及相对应的所述特征信息,确定两所述实时图像的视差图的步骤中,具体包括:
将相对应的所述特征信息叠加,确定相对应的所述特征信息中像素值最接近像素点,依据预设视差值规则确定相对应的所述特征信息中像素值最接近像素点的视差值;
将所述视差值通过预设视差优化规则,确定所述视差图。
15.一种图像处理装置,其特征在于,包括:
视差图确定模块,用于获取两摄像装置拍摄的两实时图像,依据两所述实时图像确定视差图;
弱纹理区域信息确定模块,用于依据预设弱纹理确定规则分别确定两所述实时图像的弱纹理区域信息;
去除模块,用于依据两所述实时图像中的所述弱纹理区域信息,去除所述视差图中的弱纹理区域。
16.根据权利要求15所述的图像处理装置,其特征在于,所述预设弱纹理确定规则为预设梯度运算规则。
17.根据权利要求16所述的图像处理装置,其特征在于,在所述弱纹理区域信息确定模块中,包括:
预处理单元,用于依据预设预处理规则分别对两所述实时图像进行预处理。
18.根据权利要求17所述的图像处理装置,其特征在于,在所述弱纹理区域信息确定模块中,还具体包括:
梯度信息确定单元,用于依据预设梯度运算规则对预处理后的所述实时图像进行梯度计算,确定两所述实时图像中的梯度信息;
梯度图获得单元,用于依据所述梯度信息,获得预处理后的两所述实时图像的梯度图;
第一弱纹理区域信息确定单元,用于结合所述梯度图和预设弱纹理区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
19.根据权利要求18所述的图像处理装置,其特征在于,在所述第一弱纹理区域信息确定单元中,具体包括:
弱纹理像素点标识单元,用于依据所述梯度图和所述预设弱纹理位置信息规则,标识所述梯度图中的弱纹理像素点;
第一方差确定单元,用于按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方差;
第二弱纹理区域信息确定单元,用于依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和预设弱纹理位置信息规则确定所述弱纹理区域信息。
20.根据权利要求19所述的图像处理装置,其特征在于,在所述第二弱纹理区域信息确定单元中,具体包括:
梯度值确定单元,用于按照预设检测次序,依次确定所述梯度图中各像素点的像素值对应的梯度值;
判断单元,用于将所述梯度值与预设弱纹理梯度阈值进行对比,判断所述梯度值是否在所述预设弱纹理梯度阈值内;
弱纹理像素点确定单元,用于若所述像素值在所述预设弱纹理梯度阈值内,则所述像素值为弱纹理的位置信息,将所述像素点标识为弱纹理像素点。
21.根据权利要求20所述的图像处理装置,其特征在于,还包括:
第二方差确定单元,用于按照预设方差规则确定弱纹理位置信息方差和非弱纹理位置信息方差。
22.根据权利要求21所述的图像处理装置,其特征在于,所述预设方差规则为预设方差函数,在所述第二方差确定单元中,具体包括:
第一方差运算单元,用于依据所述梯度图中所述弱纹理区域像素点的像素值、所述梯度图中的总像素平均值、所述梯度图中所述弱纹理像素点的总数目以及所述弱纹理像素点对应所述梯度图中的标识确定所述弱纹理位置信息方差。
23.根据权利要求21所述的图像处理装置,其特征在于,所述第二方差确定单元中,具体包括:
第二方差运算单元,用于依据所述梯度图中非弱纹理区域像素点的像素值、所述梯度图中的总像素平均值、所述梯度图中非弱纹理像素点的总数目以及所述非弱纹理像素点对应所述梯度图中的标识确定所述非弱纹理位置信息方差。
24.根据权利要求20所述的图像处理装置,其特征在于,所述预设弱纹理位置信息规则为预设能量函数,在所述第二弱纹理区域信息确定单元中,具体包括:
能量值确定单元,用于依据所述弱纹理位置信息方差、所述非弱纹理位置信息方差和所述预设能量函数确定能量值。
25.根据权利要求24所述的图像处理装置,其特征在于,在所述能量值确定单元中,具体包括:
能量值判断单元,用于基于奇异矩阵原理判断所述能量值是否为最大能量值;
调整单元,用于当所述能量值不是最大能量值时,调整所述预设弱纹理梯度阈值使得所述能量值最大;
确定单元,用于当所述能量值最大时,结合所述梯度图和预设弱纹理区域信息规则,确定两所述实时图像中所述弱纹理区域信息。
26.根据权利要求19所述的图像处理装置,其特征在于,在所述视差图确定模块中,具体包括:
特征信息获取单元,用于获取两所述实时图像中相对应的特征信息;
视差图确定单元,用于依据几何测量原理以及相对应的所述特征信息,确定两所述实时图像的视差图。
27.根据权利要求26所述的图像处理装置,其特征在于,在所述特征信息获取单元中,具体包括:
提取单元,提取两所述实时图像中的所述特征信息,依据预设像素匹配规则将两所述实时图像中的所述特征信息进行匹配,确定相对应的所述特征信息。
28.根据权利要求27所述的图像处理装置,其特征在于,在所述视差图确定单元中,具体包括:
最接近像素点确定单元,用于将相对应的所述特征信息叠加,确定相对应的所述特征信息中像素值最接近像素点,依据预设视差值规则确定相对应的所述特征信息中像素值最接近像素点的视差值;
优化单元,用于将所述视差值通过预设视差优化规则,确定所述视差图。
29.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,该计算机程序执行时实现权利要求1至14任一项所述图像处理方法的步骤。
30.一种图像处理终端,其特征在于,包括处理器、存储器,所述存储器用于存储计算机程序,所述计算机程序被所述处理器执行时实现权利要求1至14任一项所述图像处理方法的步骤。
31.一种图像处理系统,其特征在于,包括摄像装置、权利要求29所述的计算机可读存储介质或权利要求30所述图像处理终端。
32.一种三维地图构建方法,其特征在于,包括:
依据权利要求1至14中任意一项所述的图像处理方法对双摄像装置拍摄的图像进行处理,以得到去除噪声的视差图;
依据所述去除噪声的视差图构建三维地图。
33.一种移动装置的控制方法,其特征在于,包括:
依据权利要求32所述三维地图,确定移动装置航线中的障碍物位置信息;
依据所述障碍物的所述位置信息,控制所述移动装置绕行所述障碍物。
CN201711437502.0A 2017-12-26 2017-12-26 图像处理方法、装置及移动装置控制方法 Active CN109961417B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711437502.0A CN109961417B (zh) 2017-12-26 2017-12-26 图像处理方法、装置及移动装置控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711437502.0A CN109961417B (zh) 2017-12-26 2017-12-26 图像处理方法、装置及移动装置控制方法

Publications (2)

Publication Number Publication Date
CN109961417A true CN109961417A (zh) 2019-07-02
CN109961417B CN109961417B (zh) 2021-04-06

Family

ID=67022596

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711437502.0A Active CN109961417B (zh) 2017-12-26 2017-12-26 图像处理方法、装置及移动装置控制方法

Country Status (1)

Country Link
CN (1) CN109961417B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533703A (zh) * 2019-09-04 2019-12-03 深圳市道通智能航空技术有限公司 一种双目立体视差确定方法、装置及无人机
CN111197976A (zh) * 2019-12-25 2020-05-26 山东唐口煤业有限公司 一种顾及弱纹理区域多阶段匹配传播的三维重建方法
CN112070694A (zh) * 2020-09-03 2020-12-11 深兰人工智能芯片研究院(江苏)有限公司 双目立体视觉视差图后处理方法和装置
CN112364862A (zh) * 2020-12-08 2021-02-12 杭州电子科技大学 一种基于直方图相似度的扰动变形汉字图片匹配的方法
CN113066173A (zh) * 2021-04-21 2021-07-02 国家基础地理信息中心 三维模型构建方法、装置和电子设备
WO2021174539A1 (zh) * 2020-03-06 2021-09-10 深圳市大疆创新科技有限公司 物体检测方法、可移动平台、设备和存储介质
CN113627429A (zh) * 2021-08-12 2021-11-09 深圳市爱培科技术股份有限公司 一种图像的低纹理区域识别方法、装置、存储介质及设备
CN117671011A (zh) * 2024-01-31 2024-03-08 山东大学 基于改进orb算法的agv定位精度提升方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103226821A (zh) * 2013-04-27 2013-07-31 山西大学 基于视差图像素分类校正优化的立体匹配方法
CN105654492A (zh) * 2015-12-30 2016-06-08 哈尔滨工业大学 基于消费级摄像头的鲁棒实时三维重建方法
CN106504284A (zh) * 2016-10-24 2017-03-15 成都通甲优博科技有限责任公司 一种基于立体匹配与结构光相结合的深度图获取方法
CN107221029A (zh) * 2017-04-07 2017-09-29 天津大学 一种三维图像重建方法
CN107341823A (zh) * 2017-06-06 2017-11-10 东北大学 一种基于特征融合的最小分支立体匹配方法
CN107392950A (zh) * 2017-07-28 2017-11-24 哈尔滨理工大学 一种基于弱纹理检测的跨尺度代价聚合立体匹配方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103226821A (zh) * 2013-04-27 2013-07-31 山西大学 基于视差图像素分类校正优化的立体匹配方法
CN105654492A (zh) * 2015-12-30 2016-06-08 哈尔滨工业大学 基于消费级摄像头的鲁棒实时三维重建方法
CN106504284A (zh) * 2016-10-24 2017-03-15 成都通甲优博科技有限责任公司 一种基于立体匹配与结构光相结合的深度图获取方法
CN107221029A (zh) * 2017-04-07 2017-09-29 天津大学 一种三维图像重建方法
CN107341823A (zh) * 2017-06-06 2017-11-10 东北大学 一种基于特征融合的最小分支立体匹配方法
CN107392950A (zh) * 2017-07-28 2017-11-24 哈尔滨理工大学 一种基于弱纹理检测的跨尺度代价聚合立体匹配方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110533703A (zh) * 2019-09-04 2019-12-03 深圳市道通智能航空技术有限公司 一种双目立体视差确定方法、装置及无人机
CN110533703B (zh) * 2019-09-04 2022-05-03 深圳市道通智能航空技术股份有限公司 一种双目立体视差确定方法、装置及无人机
CN111197976A (zh) * 2019-12-25 2020-05-26 山东唐口煤业有限公司 一种顾及弱纹理区域多阶段匹配传播的三维重建方法
WO2021174539A1 (zh) * 2020-03-06 2021-09-10 深圳市大疆创新科技有限公司 物体检测方法、可移动平台、设备和存储介质
CN112070694A (zh) * 2020-09-03 2020-12-11 深兰人工智能芯片研究院(江苏)有限公司 双目立体视觉视差图后处理方法和装置
CN112364862A (zh) * 2020-12-08 2021-02-12 杭州电子科技大学 一种基于直方图相似度的扰动变形汉字图片匹配的方法
CN112364862B (zh) * 2020-12-08 2024-04-16 杭州电子科技大学 一种基于直方图相似度的扰动变形汉字图片匹配的方法
CN113066173A (zh) * 2021-04-21 2021-07-02 国家基础地理信息中心 三维模型构建方法、装置和电子设备
CN113627429A (zh) * 2021-08-12 2021-11-09 深圳市爱培科技术股份有限公司 一种图像的低纹理区域识别方法、装置、存储介质及设备
CN117671011A (zh) * 2024-01-31 2024-03-08 山东大学 基于改进orb算法的agv定位精度提升方法及系统

Also Published As

Publication number Publication date
CN109961417B (zh) 2021-04-06

Similar Documents

Publication Publication Date Title
CN109961417A (zh) 图像处理方法、装置及移动装置控制方法
CN110569704B (zh) 一种基于立体视觉的多策略自适应车道线检测方法
CN107844750B (zh) 一种水面全景图像目标检测识别方法
CN106708084B (zh) 复杂环境下无人机自动障碍物检测和避障方法
KR100653288B1 (ko) 비디오 화상으로부터의 얼굴 인식
US8326025B2 (en) Method for determining a depth map from images, device for determining a depth map
CN103822616B (zh) 一种图分割与地形起伏约束相结合的遥感影像匹配方法
Kang et al. Automatic targetless camera–lidar calibration by aligning edge with gaussian mixture model
CN108596975B (zh) 一种针对弱纹理区域的立体匹配算法
US10366501B2 (en) Method and apparatus for performing background image registration
CN109961468A (zh) 基于双目视觉的体积测量方法、装置及存储介质
CN106485690A (zh) 基于点特征的点云数据与光学影像的自动配准融合方法
Forkuo Automatic fusion of photogrammetric imagery and laser scanner point clouds
Esteban et al. Multi-stereo 3d object reconstruction
Aykin et al. On feature extraction and region matching for forward scan sonar imaging
CN111126116A (zh) 无人船河道垃圾识别方法及系统
CN109410234A (zh) 一种基于双目视觉避障的控制方法及控制系统
CN108876861B (zh) 一种地外天体巡视器的立体匹配方法
CN108362205A (zh) 基于条纹投影的空间测距方法
CN112561996A (zh) 一种自主水下机器人回收对接中目标检测方法
Lo et al. Depth map super-resolution via Markov random fields without texture-copying artifacts
Fei et al. Ossim: An object-based multiview stereo algorithm using ssim index matching cost
Meline et al. A camcorder for 3D underwater reconstruction of archeological objects
Kruger et al. In-factory calibration of multiocular camera systems
Parmehr et al. Automatic registration of optical imagery with 3d lidar data using local combined mutual information

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: 510000 Block C, 115 Gaopu Road, Tianhe District, Guangzhou City, Guangdong Province

Patentee after: Guangzhou Jifei Technology Co.,Ltd.

Address before: 510032 no.3a01, No.1 Sicheng Road, Gaotang Software Park, Tianhe District, Guangzhou City, Guangdong Province

Patentee before: Guangzhou Xaircraft Technology Co.,Ltd.

CP03 Change of name, title or address