CN115406371A - 一种基于dic的柔性指尖形变测量方法 - Google Patents
一种基于dic的柔性指尖形变测量方法 Download PDFInfo
- Publication number
- CN115406371A CN115406371A CN202211066765.6A CN202211066765A CN115406371A CN 115406371 A CN115406371 A CN 115406371A CN 202211066765 A CN202211066765 A CN 202211066765A CN 115406371 A CN115406371 A CN 115406371A
- Authority
- CN
- China
- Prior art keywords
- image
- camera
- deformation
- formula
- eye camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000691 measurement method Methods 0.000 title claims abstract description 17
- 238000000034 method Methods 0.000 claims abstract description 66
- 238000013528 artificial neural network Methods 0.000 claims abstract description 19
- 230000010363 phase shift Effects 0.000 claims abstract description 17
- 239000011521 glass Substances 0.000 claims abstract description 15
- 238000005259 measurement Methods 0.000 claims abstract description 13
- 238000012937 correction Methods 0.000 claims abstract description 12
- 239000011159 matrix material Substances 0.000 claims description 26
- 238000003384 imaging method Methods 0.000 claims description 25
- 230000000737 periodic effect Effects 0.000 claims description 24
- 238000012549 training Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 17
- 238000006073 displacement reaction Methods 0.000 claims description 16
- 239000013598 vector Substances 0.000 claims description 15
- 238000011161 development Methods 0.000 claims description 11
- 238000013178 mathematical model Methods 0.000 claims description 6
- 239000011541 reaction mixture Substances 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 4
- 230000003287 optical effect Effects 0.000 claims description 4
- 238000012163 sequencing technique Methods 0.000 claims description 4
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 claims description 3
- 238000005314 correlation function Methods 0.000 claims description 3
- 238000000354 decomposition reaction Methods 0.000 claims description 3
- 238000003825 pressing Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000001228 spectrum Methods 0.000 claims description 3
- 238000013519 translation Methods 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims description 2
- 238000004458 analytical method Methods 0.000 abstract description 2
- 238000001514 detection method Methods 0.000 abstract 2
- 239000000463 material Substances 0.000 description 8
- 239000007779 soft material Substances 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 241000213006 Angelica dahurica Species 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000000084 colloidal system Substances 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000011343 solid material Substances 0.000 description 1
- 238000005507 spraying Methods 0.000 description 1
- 239000004575 stone Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/16—Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/467—Encoded features or binary features, e.g. local binary patterns [LBP]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明公开了一种基于DIC的柔性指尖形变测量方法,建立柔性指尖形变测量系统,首先采集相机标定图像数据,利用基于多步相移和LBP编码的结合方法对相机进行标定;然后采集玻璃折射前后的图像,利用BP神经网络对玻璃折射进行校正;最后采集待测图像数据,利用DIC方法并结合提出的相机标定方法以及玻璃折射校正算法,完成对软质被测物体按压玻璃时的表面形变的测量和分析。本发明采用基于DIC的柔性指尖形变测量系统以及基于多步相移法和LBP编码的改进相机标定方法和BP神经网络对玻璃折射校正方法探测目标的三维形变信息,探测快速,探测结果符合实际形变情况。
Description
技术领域
本发明涉及光学三维测量和计算机视觉领域,具体是一种基于DIC的柔性指尖形变测量技术。
背景技术
数字图像相关以材料表面的纹理信息(天然形成或人工喷涂)为载体,通过相关计算获得纹理图像在材料形变前后的匹配关系,从而对被测材料的形变进行分析。从测量维度上划分,数字图像相关法DIC方法分为2D-DIC和3D-DIC,其既可以测量材料表面的面内位移,也可用于评估非平面物体发生的三维形变。
软材料是一种介于固体和理想流体之间的复杂态物质,它包括了液晶、聚合物、胶体、生物组织等软物质,相比金属、石料、硬质塑料等硬质材料,具有低模量、可拉伸的特点。软材料可以对外界物理、化学等微小激励做出响应,近年来在柔性智能器件、医疗器械、可穿戴设备等领域发挥着越来越重要的作用。然而,与传统固体材料相比,软质材料更容易在外部因素影响下丧失其原有的表面形貌,对系统的力学行为分析带来了一定的困难。受不同的外力载荷与材料自身力学性质的影响,受力区域往往产生不同程度的形变。因此,研究材料在受力时的变形规律对于进一步理解软质材料在其应用中的力学行为是亟须要解决的问题。
发明内容
本发明要解决的技术问题是提供一种基于DIC的柔性指尖形变测量技术,利用基于多步相移和LBP编码的相机标定改进方法进行相机标定,并采用BP神经网络建立玻璃折射校正模型,最终实现目标的三维形变测量。
本发明的技术方案为:
一种基于DIC的柔性指尖形变测量方法,包括有以下步骤:
(1)、建立柔性指尖形变测量系统:柔性指尖形变测量系统包括有底座、设置于底座上的两组相机模块、罩设于两组相机模块外的罩壳和处理器,罩壳的顶板和其中两个平行的侧板均为遮光板,罩壳另外两个平行侧板为透明板,两组相机模块分别朝向两个透明板,每组相机模组均包括有左目相机和右目相机,两组相机模块均与处理器连接;
(2)、相机模型建立:首先以LCD屏幕的左上角作为原点O,以LCD屏幕短边的轴向建立X轴,LCD屏幕长边的轴向建立Y轴,与LCD屏幕垂直的水平轴作为Z轴,从而建立世界坐标系O-XYZ,然后采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定,最后根据每组相机模块相机标定的结果建立双目成像模型;
(3)、基于神经网络的玻璃折射校正:首先罩壳内的两组相机模块分别采集罩壳外且相对于透明板平行设置的周期性交叉条纹标靶图像,然后利用傅里叶变换求解周期性交叉条纹标靶图像中周期性交叉条纹标靶的包裹相位,再根据周期性交叉条纹标靶上的标志点对相位进行解包裹获得绝对相位,最后根据折射前后绝对相位的对应关系进行像素匹配的方法得到BP神经网络的训练数据集,将训练数据集代入到BP神经网络进行训练,训练的结果即为玻璃折射校正模型;
(4)、图像数据采集:将软质被测物体紧贴罩壳的透明板上并用指尖进行按压,按压过程中使用相机模块进行图像采集,并将采集到的图像发送给处理器,处理器将采集的图像带入到双目成像模型和玻璃折射校正模型中进行图像处理,得到处理后的图像;
(5)、形变测量:利用数字图像相关法DIC,对处理后的图像进行三维形变的评估,在对软质被测物体图像上的每个特征点进行三维重建后,根据同一个子区的帧间联系,获得软质被测物体表面在空间中的连续三维形变。
所述的两组相机模块相对设置,每组相机模组的左目相机和右目相机的镜头均仰置,仰角为70-80度,每组相机模块朝向相对的透明板。
所述的底座上设置有FPGA开发板,两组相机模块均与FPGA开发板连接,FPGA开发板与外置的处理器通信连接。
所述的步骤(2)中,采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定的具体步骤为:首先建立PWG阵列图案,PWG阵列图案的周期数集合与最大半径分别设为T=[3,4,5]和rmax=80像素,相邻特征点之间的间距被设为180像素,PWG阵列图案3×3为一组,一共有12组,每组中心的PWG图案周期为5,表示某组的中心位置,周围的八个PWG图案周期数为3或者4,分别代表LBP编码中的1和0,八个PWG图案按照逆时针顺序组合而成的编码为旋转不变LBP编码,然后将结合PWG编码和旋转不变LBP编码生成的PWG图案显示在LCD屏幕上并作为标靶,标靶中,Xw和Yw轴与标靶共面,Zw轴与标靶面垂直,因此标靶上所有特征点的Zw坐标均为0;然后根据标靶进行相机标定,在标定过程中,首先由单相机拍摄标靶上PWG图案,当单相机拍摄到了构成LBP编码的完整PWG图像,即完成所有特征点的排序,而无需获取整个标靶图像,最后采用多步相移法对完整PWG图像进行相机标定,得到PWG图像的相位信息。
所述的步骤(2)中,所述的双目成像模型建立的步骤为:首先建立空间中某点在单相机上成像的线性数学模型,即单相机成像模型,见公式(1):
式(1)中,s=Zc表示比例因子;p=[u v]表示空间中某点在相机的像素坐标系上的坐标,其中,u表示在像素坐标系上x轴正方向、v表示在像素坐标系上y轴负方向;dx和dy分别表示像素在x、y方向的物理尺寸,χ为倾斜因子,(u0,v0)为光轴与图像平面的交点;f为相机焦距;为旋转矩阵,t=[tX tY tZ]T为平移向量;P=[XW,YW,ZW]T为空间中某点在世界坐标系上的坐标;A被称为相机的内参矩阵,它的参数仅取决于相机镜头组的固有特性,由(u0,v0)、χ以及u、v方向上的焦距(fu,fv)构成;E被称为外参矩阵,表征相机坐标系相对世界坐标系的刚性运动;M=AE为投影矩阵;
然后根据立体成像系统中,世界坐标系建立在左目相机坐标系上的规则,双目成像模型见公式(2):
式(2)中,Rl,Rr分别表示左目相机和右目相机的旋转矩阵,tl,tr分别表示左目相机和右目相机的偏移向量,均通过单相机标定获得;Rrl和trl则分别表示左目相机和右目相机间的旋转矩阵和偏移向量,它们共同构建了立体系统的空间三角关系。
所述的步骤(3)中,利用傅里叶变换求解周期性交叉条纹标靶图像中周期性交叉条纹标靶的包裹相位,再根据周期性交叉条纹标靶上的标志点对相位进行解包裹获得绝对相位,最后根据折射前后绝对相位的对应关系进行像素匹配的方法得到BP神经网络的训练数据集,其具体过程如下:
a、首先生成一个周期性交叉条纹标靶,它的强度表示见式(6):
I(u,v)=b+ku cos(2πu/pu)+kvcos(2πv/pv) (6);
式(6)中,b、ku和kv为三个定义标靶灰度分布的常量;pu和pv分别为沿u与v轴的条纹周期,对每个条纹周期进行编码,并将编码后的标靶显示在一个LCD屏上;
b、使LCD与罩壳的透明板相互平行且紧贴,单相机隔着透明板采集LCD屏上的标靶图像,采集的标靶图像定义为图像一,然后取走罩壳,单相机直接采集LCD屏上的标靶图像,采集的标靶图像定义为图像二;
e、重复步骤c和d对图像二进行处理,得到图像二的绝对相位Φu与Φv,因此,对于折射后条纹图像上任意一点(ug,vg),得到其对应的绝对相位值通过在解空间内进行搜索,使得下式(7)取得最小值的坐标,获取该点在图像一上的匹配点(up,vp):
式(7)中,[Φu(up,vp),Φv(up,vp)]为图像二上匹配点(up,vp)的绝对相位值;图像二上匹配点(up,vp)绝对相位值的最小值小于收敛阈值τ,当匹配成功后,采用线性插值进一步将匹配坐标优化至亚像素级别,各像素点对应的偏移由(du,dv)=(ug,vg)-(up,vp)获得;
f、在ROI区域内均匀取点,求解这些点折射前图像坐标(up,vp)与偏移(du,dv)的对应关系,将它们作为BP神经网络的训练数据集。
所述的步骤(5)中,利用数字图像相关法,对处理后的图像进行三维形变的评估,即选取图像中清晰的一个区域作为子区,以子区纹理的相关程度作为评判依据,建立形变前后子区的对应关系:
式(8)中,Δu和Δv分别表示子区中某点相对子区中心的偏移;形变前后的图像分别被称为参考图像与形变图像,其对应的子区分别为参考子区与形变子区,为形变子区的中心坐标;ζu与ζv则分别表示形变过程中子区中心在u和v方向上的位移;为参考子区的中心坐标,位移后子区中某点的坐标由Δu,Δv和Ps构成的函数加上共同决定,其中与Ps分别被称为形函数和形函数的参数向量;
当图像发生旋转、均匀拉伸或剪切时,式(8)的零阶形函数即不再适用,采用一阶形函数或二阶形函数用来描述形变前后子区像素的位移关系,一阶形函数见式(9):
二阶形函数见式(10):、
式(11)中,C(Ps)被称作相关函数,它是形函数中待定参数的函数,描述了当前参数下两子区信号的相关程度;
选择归一化协方差互相关系数来衡量参考子区和形变子区的相关程度,见式(12):
与2D-DIC相比,3D-DIC除了要考虑单个相机拍摄的连续图像间的子区匹配问题外,还涉及到左目相机和右目相机同帧图像中同名点的匹配:左目相机中某点(ul,vl)在右目相机图像中的投影(ur,vr)定义为式(13):
式(13)中,(ul,vl)和(ur,vr)分别表示某点分别在左目相机和右目相机中的坐标;α1到α8为8个未知量;在初始化过程中,首先使用AKAZE特征匹配算法找到左目相机采集左图和右目相机采集右图中若干点的匹配关系,这些对应关系构成了一个最小二乘问题,使用SVD分解获得这8个参数的初始猜测,然后利用多维单纯性法对这8个参数进行优化,目标函数设为当前投影关系下左图特征点灰度与其对应的右图特征点灰度的差异之和,参数的最优解在使得目标函数取得最小值时获得,从而获得了左右子区的投影映射关系;为了减少运算量,仅在图像的第一帧进行左目相机和右目相机的互匹配,之后使用2D-DIC算法在左目相机和右目相机内各自进行匹配,从而对软质被测物体的形变情况进行三维形变的评估。
所述的步骤(5)中,对软质被测物体图像上的每个特征点进行三维重建的具体步骤为:
首先根据单相机成像模型推出从左目相机坐标系到二维图像平面的投影关系,见式(14);
由于左目相机和右目相机的坐标系间存在如下转换关系,见式(15):
根据式(15)的关系,获得右目相机坐标系到右图平面的投影,其形式见式(16):
联合式(14)与式(16)并消去sl与sr可得方程式(17):
式(17)构成了关于未知量的方程组;理想情况下,两条射线会相交于真实的空间物点,但由于图像噪声、立体匹配误差与标定误差的影响,两射线很难相交在一起,但是由于式(17)为一个具有四个独立方程的超定方程组,因此通过最小二乘法求得符合方程的最优解;
式(17)中的(ul,vl)和(ur,vr)分别表示左图和右图中的子区中心,它们作为已知量由3D-DIC算法得到,其它参数由相机标定获得,利用(ul,vl)和(ur,vr),以及由相机标定获得的矩阵和中的所有参数,对软质被测物体图像中的每个特征点进行三维重建,再根据左目相机和右目相机子区与各自形变子区的联系,从而对软质被测物体表面的形变进行分析。
本发明的优点:
(1)、本发明采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定,采用多步相移法解决了在相机散焦或成像质量较差时的特征点提取精度问题,并利用LBP编码解决了相机无法拍摄到完整标靶时的特征点排序问题;
(2)、本发明利用BP神经网络建立了罩壳透明板折射前后像素位置与像素偏移间的非线性映射,并通过双线性插值对折射后的图像进行校正;
(3)、本发明可以在无接触条件下对软质被测物体表面某区域内所有特征点的变形情况进行评估,柔性指尖形变测量系统结构简单,具有快速移植到其它系统中作为形变测量传感器使用的优势;
(4)、本发明利用数字图像相关法(DIC)技术对软质待测物体表面的形变进行分析,测量结果直观、灵敏地揭示了软质被测物体材料的力学行为,有效反映了软质被测物体的三维形变信息。
附图说明
图1是本发明柔性指尖形变测量系统的主视图。
图2是本发明柔性指尖形变测量系统的横剖视图。
图3是本发明相机标定的结构示意图。
图4是本发明不同周期的PWG图像及其对应的包裹相位图。
图5是本发明求解绝对相位的流程图。
图6是本发明DIC技术的形变图像及形变子区图。
附图标记:1-底座,2-罩壳,21-遮光板,22-透明板,3-相机模组,4-FPGA开发板,5-LCD屏幕,6-PWG图案,7-单相机,8-完整PWG图像。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
一种基于DIC的柔性指尖形变测量方法,包括有以下步骤:
(1)、建立柔性指尖形变测量系统:见图1和图2,柔性指尖形变测量系统包括有底座1、设置于底座1上的两组相机模块3、罩设于两组相机模块外的罩壳2、设置于底座1上的FPGA开发板4和外置的处理器,罩壳2的顶板和其中两个平行的侧板均为遮光板21,罩壳2另外两个平行侧板为透明板22,两组相机模块分别朝向两个透明板22,每组相机模组3均包括有左目相机和右目相机,两组相机模块3相对设置,每组相机模组3的左目相机和右目相机的镜头均仰置,仰角为75度,每组相机模块3朝向相对的透明板,底座1上设置有FPGA开发板,两组相机模块3均与FPGA开发板4连接,FPGA开发板4与外置的处理器通信连接;
(2)、相机模型建立:首先以LCD屏幕的左上角作为原点O,以LCD屏幕短边的轴向建立X轴,LCD屏幕长边的轴向建立Y轴,与LCD屏幕垂直的水平轴作为Z轴,从而建立世界坐标系O-XYZ,然后采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定,最后根据每组相机模块相机标定的结果建立双目成像模型;
见图3,采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定的具体步骤为:首先建立PWG(平面波导光栅)阵列图案,PWG阵列图案的周期数集合与最大半径分别设为T=[3,4,5]和rmax=80像素,相邻特征点之间的间距被设为180像素,PWG阵列图案3×3为一组,一共有12组,每组中心的PWG图案周期为5,表示某组的中心位置,周围的八个PWG图案周期数为3或者4,分别代表LBP编码中的1和0,八个PWG图案按照逆时针顺序组合而成的编码为旋转不变LBP编码,然后将结合PWG编码和旋转不变LBP编码生成的PWG图案6显示在LCD屏幕5上并作为标靶,标靶中,Xw和Yw轴与标靶共面,Zw轴与标靶面垂直,因此标靶上所有特征点的Zw坐标均为0;然后根据标靶进行相机标定,在标定过程中,首先由单相机7拍摄标靶上PWG图案,当单相机拍摄到了构成LBP编码的完整PWG图像8,即完成所有特征点的排序,而无需获取整个标靶图像,最后采用多步相移法对完整PWG图像8进行相机标定,得到PWG图像的相位信息;
以多步相移法中的三步相移为例,某个标签为k的PWG的强度用下式(3)-(5)表示:
φ(xk,yk)=θ(xk,yk)×2π/T (4);
式(3)-(5)中,分别表示三步相移法中PWG图像的三个相位强度;a1和a2为调节图案强度的常数;φ(xk,yk)被称为包裹相位;T表示PWG的周期数,根据自身编码的不同,其取值为3、4、5中的某个数;θ(xk,yk)是点(xk,yk)与正x轴的夹角;不同周期的PWG及其对应的包裹相位见图4所示;图4中,表示点到其中心的欧式距离;rmax表示rk的最大值,其用于限制PWG的最大半径;
双目成像模型建立的步骤为:首先建立空间中某点在单相机上成像的线性数学模型,即单相机成像模型,见公式(1):
式(1)中,s=Zc表示比例因子;p=[u v]表示空间中某点在相机的像素坐标系上的坐标,其中,u表示在像素坐标系上x轴正方向、v表示在像素坐标系上y轴负方向;dx和dy分别表示像素在x,y方向的物理尺寸,χ为倾斜因子,(u0,v0)为光轴与图像平面的交点;f为相机焦距;为旋转矩阵,t=[tX tY tZ]T为平移向量;P=[XW,YW,ZW]T为空间中某点在世界坐标系上的坐标;A被称为相机的内参矩阵,它的参数仅取决于相机镜头组的固有特性,由(u0,v0)、χ以及u、v方向上的焦距(fu,fv)构成;E被称为外参矩阵,表征相机坐标系相对世界坐标系的刚性运动;M=AE为投影矩阵;
然后根据立体成像系统中,世界坐标系建立在左目相机坐标系上的规则,双目成像模型见公式(2):
式(2)中,Rl,Rr分别表示左目相机和右目相机的旋转矩阵,tl,tr分别表示左目相机和右目相机的偏移向量,均通过单相机标定获得;Rrl和trl则分别表示左目相机和右目相机间的旋转矩阵和偏移向量,它们共同构建了立体系统的空间三角关系;
(3)、基于神经网络的玻璃折射校正:首先罩壳内的两组相机模块分别采集罩壳外且相对于透明板平行设置的周期性交叉条纹标靶图像,然后利用傅里叶变换求解周期性交叉条纹标靶图像中周期性交叉条纹标靶的包裹相位,再根据周期性交叉条纹标靶上的标志点对相位进行解包裹获得绝对相位,最后根据折射前后绝对相位的对应关系进行像素匹配的方法得到BP神经网络的训练数据集,将训练数据集代入到BP神经网络进行训练,训练的结果即为玻璃折射校正模型;
见图5,利用傅里叶变换求解周期性交叉条纹标靶图像中周期性交叉条纹标靶的包裹相位,再根据周期性交叉条纹标靶上的标志点对相位进行解包裹获得绝对相位,最后根据折射前后绝对相位的对应关系进行像素匹配的方法得到BP神经网络的训练数据集,其具体过程如下:
a、首先生成一个周期性交叉条纹标靶,它的强度表示见式(6):
I(u,v)=b+ku cos(2πu/pu)+kvcos(2πv/pv) (6);
式(6)中,b、ku和kv为三个定义标靶灰度分布的常量;pu和pv分别为沿u与v轴的条纹周期,对每个条纹周期进行编码,并将编码后的标靶显示在一个LCD屏上;
b、使LCD与罩壳的透明板相互平行且紧贴,单相机隔着透明板采集LCD屏上的标靶图像,采集的标靶图像定义为图像一,然后取走罩壳,单相机直接采集LCD屏上的标靶图像,采集的标靶图像定义为图像二;
e、重复步骤c和d对图像二进行处理,得到图像二的绝对相位Φu与Φv,因此,对于折射后条纹图像上任意一点(ug,vg),得到其对应的绝对相位值通过在解空间内进行搜索,使得下式(7)取得最小值的坐标,获取该点在图像一上的匹配点(up,vp):
式(7)中,[Φu(up,vp),Φv(up,vp)]为图像二上匹配点(up,vp)的绝对相位值。图像二上匹配点(up,vp)绝对相位值的最小值小于收敛阈值τ,当匹配成功后,采用线性插值进一步将匹配坐标优化至亚像素级别,各像素点对应的偏移由(du,dv)=(ug,vg)-(up,vp)获得;
f、在ROI区域内均匀取点,求解这些点折射前图像坐标(up,vp)与偏移(du,dv)的对应关系,将它们作为BP神经网络的训练数据集。
(4)、图像数据采集:将软质被测物体紧贴罩壳的透明板上并用指尖进行按压,按压过程中使用相机模块进行图像采集,并将采集到的图像发送给处理器,处理器将采集的图像带入到双目成像模型和玻璃折射校正模型中进行图像处理,得到处理后的图像;
(5)、形变测量:利用数字图像相关法DIC,对处理后的图像进行三维形变的评估,在对软质被测物体图像上的每个特征点进行三维重建后,根据同一个子区的帧间联系,获得软质被测物体表面在空间中的连续三维形变。
其中,利用数字图像相关法,对处理后的图像进行三维形变的评估,即选取图像中清晰的一个区域作为子区,以子区纹理的相关程度作为评判依据,建立形变前后子区的对应关系:
式(8)中,Δu和Δv分别表示子区中某点相对子区中心的偏移;形变前后的图像分别被称为参考图像与形变图像,其对应的子区分别为参考子区与形变子区(见图6),为形变子区的中心坐标;ζu与ζv则分别表示形变过程中子区中心在u和v方向上的位移;为参考子区的中心坐标,位移后子区中某点的坐标由Δu,Δv和Ps构成的函数加上共同决定,其中与Ps分别被称为形函数和形函数的参数向量;
当图像发生旋转、均匀拉伸或剪切时,式(8)的零阶形函数即不再适用,采用一阶形函数或二阶形函数用来描述形变前后子区像素的位移关系,一阶形函数见式(9):
二阶形函数见式(10):、
式(11)中,C(Ps)被称作相关函数,它是形函数中待定参数的函数,描述了当前参数下两子区信号的相关程度;
选择归一化协方差互相关系数来衡量参考子区和形变子区的相关程度,见式(12):
与2D-DIC相比,3D-DIC除了要考虑单个相机拍摄的连续图像间的子区匹配问题外,还涉及到左目相机和右目相机同帧图像中同名点的匹配:左目相机中某点(ul,vl)在右目相机图像中的投影(ur,vr)定义为式(13):
式(13)中,(ul,vl)和(ur,vr)分别表示某点分别在左目相机和右目相机中的坐标;α1到α8为8个未知量;在初始化过程中,首先使用AKAZE特征匹配算法找到左目相机采集左图和右目相机采集右图中若干点的匹配关系,这些对应关系构成了一个最小二乘问题,使用SVD分解获得这8个参数的初始猜测,然后利用多维单纯性法对这8个参数进行优化,目标函数设为当前投影关系下左图特征点灰度与其对应的右图特征点灰度的差异之和,参数的最优解在使得目标函数取得最小值时获得,从而获得了左右子区的投影映射关系;为了减少运算量,仅在图像的第一帧进行左目相机和右目相机的互匹配,之后使用2D-DIC算法在左目相机和右目相机内各自进行匹配,从而对软质被测物体的形变情况进行三维形变的评估;
对软质被测物体图像上的每个特征点进行三维重建的具体步骤为:
首先根据单相机成像模型推出从左目相机坐标系到二维图像平面的投影关系,见式(14);
式(14)中,sl为左目相机比例因子;(ul,vl)为左目相机中的像素坐标是由左目相机内参焦距倾斜因子χl、主点坐标构成的左目相机内参矩阵;为左目相机坐标系中的坐标,表示增加维度后的矩阵(前三行参数对应,最后一行全为0,右目相机同理);
又由于左目相机和右目相机的坐标系间存在如下转换关系,见式(15):
根据式(15)的关系,获得右目相机坐标系到右图平面的投影,其形式见式(16):
联合式(14)与式(16)并消去sl与sr可得方程式(17):
式(17)构成了关于未知量的方程组;理想情况下,两条射线会相交于真实的空间物点,但由于图像噪声、立体匹配误差与标定误差的影响,两射线很难相交在一起,但是由于式(17)为一个具有四个独立方程的超定方程组,因此通过最小二乘法求得符合方程的最优解;
式(17)中的(ul,vl)和(ur,vr)分别表示左图和右图中的子区中心,它们作为已知量由3D-DIC算法得到,其它参数由相机标定获得,利用(ul,vl)和(ur,vr),以及由相机标定获得的矩阵和中的所有参数,对软质被测物体图像中的每个特征点进行三维重建,再根据左目相机和右目相机子区与各自形变子区的联系,从而对软质被测物体表面的形变进行分析。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (8)
1.一种基于DIC的柔性指尖形变测量方法,其特征在于:包括有以下步骤:
(1)、建立柔性指尖形变测量系统:柔性指尖形变测量系统包括有底座、设置于底座上的两组相机模块、罩设于两组相机模块外的罩壳和处理器,罩壳的顶板和其中两个平行的侧板均为遮光板,罩壳另外两个平行侧板为透明板,两组相机模块分别朝向两个透明板,每组相机模组均包括有左目相机和右目相机,两组相机模块均与处理器连接;
(2)、相机模型建立:首先以LCD屏幕的左上角作为原点O,以LCD屏幕短边的轴向建立X轴,LCD屏幕长边的轴向建立Y轴,与LCD屏幕垂直的水平轴作为Z轴,从而建立世界坐标系O-XYZ,然后采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定,最后根据每组相机模块相机标定的结果建立双目成像模型;
(3)、基于神经网络的玻璃折射校正:首先罩壳内的两组相机模块分别采集罩壳外且相对于透明板平行设置的周期性交叉条纹标靶图像,然后利用傅里叶变换求解周期性交叉条纹标靶图像中周期性交叉条纹标靶的包裹相位,再根据周期性交叉条纹标靶上的标志点对相位进行解包裹获得绝对相位,最后根据折射前后绝对相位的对应关系进行像素匹配的方法得到BP神经网络的训练数据集,将训练数据集代入到BP神经网络进行训练,训练的结果即为玻璃折射校正模型;
(4)、图像数据采集:将软质被测物体紧贴罩壳的透明板上并用指尖进行按压,按压过程中使用相机模块进行图像采集,并将采集到的图像发送给处理器,处理器将采集的图像带入到双目成像模型和玻璃折射校正模型中进行图像处理,得到处理后的图像;
(5)、形变测量:利用数字图像相关法DIC,对处理后的图像进行三维形变的评估,在对软质被测物体图像上的每个特征点进行三维重建后,根据同一个子区的帧间联系,获得软质被测物体表面在空间中的连续三维形变。
2.根据权利要求1所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的两组相机模块相对设置,每组相机模组的左目相机和右目相机的镜头均仰置,仰角为70-80度,每组相机模块朝向相对的透明板。
3.根据权利要求1所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的底座上设置有FPGA开发板,两组相机模块均与FPGA开发板连接,FPGA开发板与外置的处理器通信连接。
4.根据权利要求1所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的步骤(2)中,采用多步相移和LBP编码结合的方法对LCD屏幕显示的PWG图像进行采集并进行相机标定的具体步骤为:首先建立PWG阵列图案,PWG阵列图案的周期数集合与最大半径分别设为T=[3,4,5]和rmax=80像素,相邻特征点之间的间距被设为180像素,PWG阵列图案3×3为一组,一共有12组,每组中心的PWG图案周期为5,表示某组的中心位置,周围的八个PWG图案周期数为3或者4,分别代表LBP编码中的1和0,八个PWG图案按照逆时针顺序组合而成的编码为旋转不变LBP编码,然后将结合PWG编码和旋转不变LBP编码生成的PWG图案显示在LCD屏幕上并作为标靶,标靶中,Xw和Yw轴与标靶共面,Zw轴与标靶面垂直,因此标靶上所有特征点的Zw坐标均为0;然后根据标靶进行相机标定,在标定过程中,首先由单相机拍摄标靶上PWG图案,当单相机拍摄到了构成LBP编码的完整PWG图像,即完成所有特征点的排序,而无需获取整个标靶图像,最后采用多步相移法对完整PWG图像进行相机标定,得到PWG图像的相位信息。
5.根据权利要求1所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的步骤(2)中,所述的双目成像模型建立的步骤为:首先建立空间中某点在单相机上成像的线性数学模型,即单相机成像模型,见公式(1):
式(1)中,s=Zc表示比例因子;p=[u v]表示空间中某点在相机的像素坐标系上的坐标,其中,u表示在像素坐标系上x轴正方向、v表示在像素坐标系上y轴负方向;dx和dy分别表示像素在x、y方向的物理尺寸,χ为倾斜因子,(u0,v0)为光轴与图像平面的交点;f为相机焦距;为旋转矩阵,t=[tX tY tZ]T为平移向量;P=[XW,YW,ZW]T为空间中某点在世界坐标系上的坐标;A被称为相机的内参矩阵,它的参数仅取决于相机镜头组的固有特性,由(u0,v0)、χ以及u、v方向上的焦距(fu,fv)构成;E被称为外参矩阵,表征相机坐标系相对世界坐标系的刚性运动;M=AE为投影矩阵;
然后根据立体成像系统中,世界坐标系建立在左目相机坐标系上的规则,双目成像模型见公式(2):
式(2)中,Rl,Rr分别表示左目相机和右目相机的旋转矩阵,tl,tr分别表示左目相机和右目相机的偏移向量,均通过单相机标定获得;Rrl和trl则分别表示左目相机和右目相机间的旋转矩阵和偏移向量,它们共同构建了立体系统的空间三角关系。
6.根据权利要求1所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的步骤(3)中,利用傅里叶变换求解周期性交叉条纹标靶图像中周期性交叉条纹标靶的包裹相位,再根据周期性交叉条纹标靶上的标志点对相位进行解包裹获得绝对相位,最后根据折射前后绝对相位的对应关系进行像素匹配的方法得到BP神经网络的训练数据集,其具体过程如下:
a、首先生成一个周期性交叉条纹标靶,它的强度表示见式(6):
I(u,v)=b+kucos(2πu/pu)+kvcos(2πv/pv) (6);
式(6)中,b、ku和kv为三个定义标靶灰度分布的常量;pu和pv分别为沿u与v轴的条纹周期,对每个条纹周期进行编码,并将编码后的标靶显示在一个LCD屏上;
b、使LCD与罩壳的透明板相互平行且紧贴,单相机隔着透明板采集LCD屏上的标靶图像,采集的标靶图像定义为图像一,然后取走罩壳,单相机直接采集LCD屏上的标靶图像,采集的标靶图像定义为图像二;
e、重复步骤c和d对图像二进行处理,得到图像二的绝对相位Φu与Φv,因此,对于折射后条纹图像上任意一点(ug,vg),得到其对应的绝对相位值通过在解空间内进行搜索,使得下式(7)取得最小值的坐标,获取该点在图像一上的匹配点(up,vp):
式(7)中,[Φu(up,vp),Φv(up,vp)]为图像二上匹配点(up,vp)的绝对相位值;图像二上匹配点(up,vp)绝对相位值的最小值小于收敛阈值τ,当匹配成功后,采用线性插值进一步将匹配坐标优化至亚像素级别,各像素点对应的偏移由(du,dv)=(ug,vg)-(up,vp)获得;
f、在ROI区域内均匀取点,求解这些点折射前图像坐标(up,vp)与偏移(du,dv)的对应关系,将它们作为BP神经网络的训练数据集。
7.根据权利要求1所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的步骤(5)中,利用数字图像相关法,对处理后的图像进行三维形变的评估,即选取图像中清晰的一个区域作为子区,以子区纹理的相关程度作为评判依据,建立形变前后子区的对应关系:
式(8)中,Δu和Δv分别表示子区中某点相对子区中心的偏移;形变前后的图像分别被称为参考图像与形变图像,其对应的子区分别为参考子区与形变子区,为形变子区的中心坐标;ζu与ζv则分别表示形变过程中子区中心在u和v方向上的位移;为参考子区的中心坐标,位移后子区中某点的坐标由Δu,Δv和Ps构成的函数加上共同决定,其中与Ps分别被称为形函数和形函数的参数向量;
当图像发生旋转、均匀拉伸或剪切时,式(8)的零阶形函数即不再适用,采用一阶形函数或二阶形函数用来描述形变前后子区像素的位移关系,一阶形函数见式(9):
二阶形函数见式(10):、
式(11)中,C(Ps)被称作相关函数,它是形函数中待定参数的函数,描述了当前参数下两子区信号的相关程度;
选择归一化协方差互相关系数来衡量参考子区和形变子区的相关程度,见式(12):
与2D-DIC相比,3D-DIC除了要考虑单个相机拍摄的连续图像间的子区匹配问题外,还涉及到左目相机和右目相机同帧图像中同名点的匹配:左目相机中某点(ul,vl)在右目相机图像中的投影(ur,vr)定义为式(13):
式(13)中,(ul,vl)和(ur,vr)分别表示某点分别在左目相机和右目相机中的坐标;α1到α8为8个未知量;在初始化过程中,首先使用AKAZE特征匹配算法找到左目相机采集左图和右目相机采集右图中若干点的匹配关系,这些对应关系构成了一个最小二乘问题,使用SVD分解获得这8个参数的初始猜测,然后利用多维单纯性法对这8个参数进行优化,目标函数设为当前投影关系下左图特征点灰度与其对应的右图特征点灰度的差异之和,参数的最优解在使得目标函数取得最小值时获得,从而获得了左右子区的投影映射关系;为了减少运算量,仅在图像的第一帧进行左目相机和右目相机的互匹配,之后使用2D-DIC算法在左目相机和右目相机内各自进行匹配,从而对软质被测物体的形变情况进行三维形变的评估。
8.根据权利要求7所述的一种基于DIC的柔性指尖形变测量方法,其特征在于:所述的步骤(5)中,对软质被测物体图像上的每个特征点进行三维重建的具体步骤为:
首先根据单相机成像模型推出从左目相机坐标系到二维图像平面的投影关系,见式(14);
由于左目相机和右目相机的坐标系间存在如下转换关系,见式(15):
根据式(15)的关系,获得右目相机坐标系到右图平面的投影,其形式见式(16):
联合式(14)与式(16)并消去sl与sr可得方程式(17):
式(17)构成了关于未知量的方程组;理想情况下,两条射线会相交于真实的空间物点,但由于图像噪声、立体匹配误差与标定误差的影响,两射线很难相交在一起,但是由于式(17)为一个具有四个独立方程的超定方程组,因此通过最小二乘法求得符合方程的最优解;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211066765.6A CN115406371A (zh) | 2022-09-01 | 2022-09-01 | 一种基于dic的柔性指尖形变测量方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211066765.6A CN115406371A (zh) | 2022-09-01 | 2022-09-01 | 一种基于dic的柔性指尖形变测量方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115406371A true CN115406371A (zh) | 2022-11-29 |
Family
ID=84163476
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211066765.6A Pending CN115406371A (zh) | 2022-09-01 | 2022-09-01 | 一种基于dic的柔性指尖形变测量方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115406371A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116309418A (zh) * | 2023-03-09 | 2023-06-23 | 中建铁路投资建设集团有限公司 | 桥梁悬臂施工主梁变形的智能监测方法及装置 |
-
2022
- 2022-09-01 CN CN202211066765.6A patent/CN115406371A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116309418A (zh) * | 2023-03-09 | 2023-06-23 | 中建铁路投资建设集团有限公司 | 桥梁悬臂施工主梁变形的智能监测方法及装置 |
CN116309418B (zh) * | 2023-03-09 | 2024-05-07 | 中建铁路投资建设集团有限公司 | 桥梁悬臂施工主梁变形的智能监测方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3516625B1 (en) | A device and method for obtaining distance information from views | |
CN110288642A (zh) | 基于相机阵列的三维物体快速重建方法 | |
US8803943B2 (en) | Formation apparatus using digital image correlation | |
US20090102840A1 (en) | System and method for 3d measurement and surface reconstruction | |
CN111709985B (zh) | 一种基于双目视觉的水下目标测距方法 | |
CN110136114B (zh) | 一种波面高度测量方法、终端设备及存储介质 | |
CN112945141B (zh) | 基于微透镜阵列的结构光快速成像方法及系统 | |
CN111028295A (zh) | 一种基于编码结构光和双目的3d成像方法 | |
CN111288925A (zh) | 一种基于数字对焦结构照明光场的三维重建方法和装置 | |
CN108765476A (zh) | 一种偏振图像配准方法 | |
CN112489109B (zh) | 一种三维成像系统方法、装置及三维成像系统 | |
KR20230137937A (ko) | 이미지에서의 대응 분석을 위한 디바이스 및 방법 | |
CN115406371A (zh) | 一种基于dic的柔性指尖形变测量方法 | |
CN116295113A (zh) | 一种融合条纹投影的偏振三维成像方法 | |
Marto et al. | Structure from plenoptic imaging | |
CN110487254A (zh) | 一种用于rov的水下目标尺寸快速测量方法 | |
CN114189623B (zh) | 基于光场的屈光图形生成方法、装置、设备及存储介质 | |
Navarro et al. | Fuzzy integral imaging camera calibration for real scale 3D reconstructions | |
CN112361989B (zh) | 一种通过点云均匀性考量测量系统标定参数的方法 | |
Dong et al. | Illumination variation robust circular target based on digital image correlation method | |
CN113808070A (zh) | 一种双目数字散斑图像相关的视差测量方法 | |
CN109238662B (zh) | 测定方法、装置及测定设备 | |
JP2018081378A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
CN113160393A (zh) | 基于大景深的高精度三维重建方法、装置及其相关组件 | |
CN115661349B (zh) | 基于样本图像的三维重建方法、系统、设备、介质及产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |