CN114357721A - 水下对空成像全链路仿真方法 - Google Patents
水下对空成像全链路仿真方法 Download PDFInfo
- Publication number
- CN114357721A CN114357721A CN202111496960.8A CN202111496960A CN114357721A CN 114357721 A CN114357721 A CN 114357721A CN 202111496960 A CN202111496960 A CN 202111496960A CN 114357721 A CN114357721 A CN 114357721A
- Authority
- CN
- China
- Prior art keywords
- sea
- coordinate system
- simulation module
- simulation
- sky
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004088 simulation Methods 0.000 title claims abstract description 83
- 238000003384 imaging method Methods 0.000 title claims abstract description 44
- 238000000034 method Methods 0.000 title claims abstract description 30
- 239000013598 vector Substances 0.000 claims abstract description 56
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims abstract description 31
- 238000004364 calculation method Methods 0.000 claims description 20
- 238000001228 spectrum Methods 0.000 claims description 16
- 230000003287 optical effect Effects 0.000 claims description 14
- 230000009466 transformation Effects 0.000 claims description 9
- 238000005070 sampling Methods 0.000 claims description 7
- 239000006185 dispersion Substances 0.000 claims description 6
- 102000005717 Myeloma Proteins Human genes 0.000 claims description 3
- 108010045503 Myeloma Proteins Proteins 0.000 claims description 3
- 230000001133 acceleration Effects 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000002834 transmittance Methods 0.000 claims description 3
- 238000001514 detection method Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000007664 blowing Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012827 research and development Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
本发明公开了水下对空成像全链路仿真方法,基于场景仿真模块、海浪仿真模块、相机仿真模块和光线追踪模块构成的仿真模块系统,场景仿真模块根据输入的场景参数生成高动态范围海空全景图,海浪仿真模块根据输入的海浪参数生成海浪法线图,相机仿真模块根据输入的相机参数生成水下观察向量场,光线追踪模块先根据场景仿真模块、海浪仿真模块和相机仿真模块的输入通过光线追踪计算每个观察向量对应的天空亮度值,然后计算水面折射对亮度的影响,最后生成仿真图形;本发明仿真方法可实现水下对空成像建模与随机海浪扰动下的水面目标智能探测。
Description
技术领域
本发明属于水下对空成像技术领域,具体涉及水下对空成像全链路仿真方法,通过对水下对空成像系统进行建模,实现水下对空成像效果的仿真。
背景技术
水下对空成像采用水下相机对空中和水面的目标进行跨介质成像探测。针对该成像方式设计的成像系统需要把相机和目标之间的水体当成光学系统的一部分,随机海浪对成像的影响巨大而不可控,给水下对空成像系统及其图像处理算法的设计带来了很大的困难。为此,在设计水下对空成像系统之前做仿真研究是必要的。
水下对空成像实验样机的制造成本高,样机的开发周期长,新型的成像技术和图像处理算法在应用到样机之前得不到充分验证。目前公开的测试及试验方法往往采用在水箱、船池以及内地湖泊上进行,而无法直接反映出海上真实环境下的状态。
水下对空成像全链路仿真是将水下对空成像的物理模型通过数值方法实现出来,从而获得不同海空背景不同海况下的水下对空图像数据。依据相机的技术参数,分析成像系统在水下对空成像应用中的成像效果,给水下对空成像系统的设计和优化提供方向。
发明内容
针对现有技术的上述改进需求,本发明提供一种水下对空成像全链路仿真方法。
本发明解决其技术问题所采用的技术方案是:水下对空成像全链路仿真方法,基于场景仿真模块、海浪仿真模块、相机仿真模块和光线追踪模块构成的仿真模块系统,包括如下步骤:
以水下光学系统光心为原点建立三维直角坐标系作为坐标系1,将水下相机的图像坐标系作为坐标系2,在光心正上方水面处为原点的海平面上建立二维海平面坐标系作为坐标系3,在光心正上方水面处为原点建立海面上半球空间地平坐标系(或天顶角-方位角坐标系)作为坐标系4;
场景仿真模块根据输入的场景参数,采用CIE天空亮度模型生成仿真高动态范围天空全景图;
海浪仿真模块根据输入的海浪参数,采用Gerstner海浪参数模型生成海面法线图;
将高动态范围天空全景图定义在坐标系4上作为仿真的水面场景,将海面法线图平铺在海平面上的坐标系3上;
相机仿真模块根据输入的相机参数生成水下观察向量场,光线追踪模块先根据场景仿真模块、海浪仿真模块和相机仿真模块的输入通过光线追踪计算每个观察向量对应的天空亮度值:采用光线追踪的方法把坐标系2中的像素首先映射到坐标系3上,以海浪仿真结果可得成像路径上折射点的单位法向量,根据Snell定律在坐标系1中建立空气中观察视线、水下观察视线与水面法线三者的向量方程,求解出空中目标点的方位角和天顶角,即得到坐标系2中的像素在坐标系4上的坐标,从而将图像坐标转换为高动态范围天空全景图上的坐标,通过Fresnel方程推导出水空介面的折射透过率,从而对天空亮度进行亮度拉伸变换,通过计算水面折射对亮度的影响,最后生成仿真图形。
进一步,所述的场景仿真模块(1)通过如下方式建立:
其中,参数a,b,c,d,e是CIE天空亮度模型中定义天空种类的固定参数,Lz是天顶亮度,δ是计算点与太阳之间的最短角距离,其计算方法如下:
进一步,所述的海浪仿真模块通过如下方式建立:
海浪方向谱模型的海面由多个不同角频率和海浪方向的分量叠加而成,将角频率ωm在[ωmin,ωmax]范围内均分为M个采样宽度为Δω的分量,海浪的方向θn均分为N个采样宽度为Δθ的分量:
该模型表示了海面坐标位置(u,v)上时刻t时海面的高度,ωm是角频率,海面波浪的方向θn∈[0,2π),φmn∈[0,2π)是均匀分布的随机相位,振幅amn由JONSWAP海浪谱S(ω)和色散关系式D(ω,θ)计算:
JONSWAP海浪谱S(ω)由如下方法计算:
其中,γ是峰值增强因数,取3.3,U10表示海面上方10m处的风速,g代表重力加速度,F是取风长度,表示了特定风无阻碍地吹过的水域长度,ωp是JONSWAP谱的峰值频率,计算方法如下:
色散关系式D(ω,θ)的计算方法如下:
其中,θw是海浪谱的主方向,通常也是海面上方的风向,θ是偏离主方向的角度,Γ(·)表示伽马函数,其他参数计算方法如下
通过对海面高度图计算梯度,并归一化得到海面法线图:
进一步,所述的相机仿真模块把图像坐标系下的像素坐标(x,y)转换为三维直角坐标系下的观察向量(X,Y,Z),假设图像坐标系上的靶面中心为(xH,yH),相机姿态用天顶角θ0和方位角表示,则视线向量计算方法如下:
令水平面在相机上方h处,在相机正上方水面点S(0,0,h),成像光路上的折射点为PS(u,v,h),同时该点在海平面坐标系中的坐标为(u,v),视线向量与海平面相交于点PS:
Snell定律的向量形式如下:
其中,Li代表入射水面前的亮度,Ls代表传感器上探测到的亮度;
再根据Snell定律计算:
联合以上三个公式计算出每个观察向量的亮度衰减值Ls/Li,再对生成的图像进行逐像素亮度拉伸变换,得到最终仿真图像。
本发明的有益效果是:本发明可用于对水下对空成像系统的整个成像链路建模分析,仿真出指定天空状态、海况以及相机参数下的成像效果,为水下对空成像系统设计提供参考。
附图说明
图1是本发明的原理框图;
图2是本发明的模块组成框图;
图3是本发明光线追踪原理框图。
各附图标记为:1—场景仿真模块,2—海浪仿真模块,3—相机仿真模块,4—光线追踪模块。
具体实施方式
下面结合附图和具体实施例对本发明作进一步的说明。
本发明公开了一种水下对空成像全链路仿真方法,有助于水下对空成像系统的研发。
本发明首先在水下对空成像链路中建立四个坐标系:以水下光学系统光心为原点建立三维直角坐标系作为坐标系1,将水下相机的图像坐标系作为坐标系2,在光心正上方水面处为原点的海平面上建立二维海平面坐标系作为坐标系3,在光心正上方水面处为原点建立海面上半球空间地平坐标系(或天顶角-方位角坐标系)作为坐标系4,如图1所示。
采用CIE天空亮度模型生成仿真高动态范围天空全景图(高动态范围海空全景图),采用Gerstner海浪参数模型生成海面法线图(海浪法线图),将高动态范围天空全景图定义在坐标系4上作为仿真的水面场景,将海面法线图平铺在海平面上的坐标系3上;采用光线追踪的方法把坐标系2中的像素首先映射到坐标系3上,以海浪仿真结果可得成像路径上折射点的单位法向量,根据Snell定律在坐标系1中建立空气中观察视线、水下观察视线与水面法线三者的向量方程,求解出空中目标点的方位角和天顶角,即得到坐标系2中的像素在坐标系4上的坐标,从而将图像坐标转换为高动态范围天空全景图上的坐标,通过Fresnel方程推导出水空介面的折射透过率,从而对天空亮度进行亮度拉伸变换。
本发明所公开的仿真方法基于场景仿真模块1(天空仿真模块)、海浪仿真模块2、相机仿真模块3和光线追踪模块4构成的仿真模块系统,模块框图与处理流程如图2所示。
场景仿真模块1根据输入的场景参数生成高动态范围海空全景图,海浪仿真模块2根据输入的海浪参数生成海浪法线图,相机仿真模块3根据输入的相机参数生成水下观察向量场,光线追踪模块4先根据场景仿真模块1、海浪仿真模块2和相机仿真模块3的输入通过光线追踪计算每个观察向量对应的天空亮度值,然后计算水面折射对亮度的影响,最后生成仿真图形。
其中,参数a,b,c,d,e是CIE天空亮度模型中定义天空种类的固定参数,Lz是天顶亮度,δ是计算点与太阳之间的最短角距离,其计算方法如下:
海浪仿真模块2采用海浪方向谱模型,海面由多个不同角频率和海浪方向的分量叠加而成,将角频率ωm在[ωmin,ωmax]范围内均分为M个采样宽度为Δω的分量,海浪的方向θn均分为N个采样宽度为Δθ的分量:
该模型表示了海面坐标位置(u,v)上时刻t时海面的高度,ωm是角频率,海面波浪的方向θn∈[0,2π),φmn∈[0,2π)是均匀分布的随机相位,振幅amn由JONSWAP海浪谱S(ω)和色散关系式D(ω,θ)计算:
JONSWAP海浪谱S(ω)由如下方法计算:
其中,γ是峰值增强因数,取3.3,U10表示海面上方10m处的风速,g代表重力加速度,F是取风长度,表示了特定风无阻碍地吹过的水域长度,ωp是JONSWAP谱的峰值频率,计算方法如下:
色散关系式D(ω,θ)的计算方法如下:
其中,θw是海浪谱的主方向,通常也是海面上方的风向,θ是偏离主方向的角度,Γ(·)表示伽马函数,其他参数计算方法如下
通过对海面高度图计算梯度,并归一化得到海面法线图:
如图3所示,假设水平面在相机上方h处,在相机正上方水面点S(0,0,h),成像光路上的折射点为PS(u,v,h),同时该点在海平面坐标系中的坐标为(u,v)。由于视线向量与海平面相交于点PS:
Snell定律的向量形式如下:
其中,Li代表入射水面前的亮度,Ls代表传感器上探测到的亮度。
再根据Snell定律计算:
联合以上三个公式计算出每个观察向量的亮度衰减值Ls/Li,再对生成的图像进行逐像素亮度拉伸变换,得到最终仿真图像。
本发明的水下对空成像全链路仿真方法可实现水下对空成像建模与随机海浪扰动下的水面目标智能探测,有助于水下对空成像系统的研发。
本领域的技术人员容易理解,以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (5)
1.水下对空成像全链路仿真方法,其特征在于:基于场景仿真模块(1)、海浪仿真模块(2)、相机仿真模块(3)和光线追踪模块(4)构成的仿真模块系统,包括如下步骤:
以水下光学系统光心为原点建立三维直角坐标系作为坐标系1,将水下相机的图像坐标系作为坐标系2,在光心正上方水面处为原点的海平面上建立二维海平面坐标系作为坐标系3,在光心正上方水面处为原点建立海面上半球空间地平坐标系作为坐标系4;
场景仿真模块(1)根据输入的场景参数,采用CIE天空亮度模型生成仿真高动态范围天空全景图;
海浪仿真模块(2)根据输入的海浪参数,采用Gerstner海浪参数模型生成海面法线图;
将高动态范围天空全景图定义在坐标系4上作为仿真的水面场景,将海面法线图平铺在海平面上的坐标系3上;
相机仿真模块(3)根据输入的相机参数生成水下观察向量场,光线追踪模块(4)先根据场景仿真模块(1)、海浪仿真模块(2)和相机仿真模块(3)的输入通过光线追踪计算每个观察向量对应的天空亮度值:采用光线追踪的方法把坐标系2中的像素映射到坐标系3上,以海浪仿真结果得到成像路径上折射点的单位法向量,根据Snell定律在坐标系1中建立空气中观察视线、水下观察视线与水面法线三者的向量方程,求解出空中目标点的方位角和天顶角,得到坐标系2中的像素在坐标系4上的坐标,将图像坐标转换为高动态范围天空全景图上的坐标,通过Fresnel方程推导出水空介面的折射透过率,对天空亮度进行亮度拉伸变换,最后生成仿真图形。
3.根据权利要求1所述的水下对空成像全链路仿真方法,其特征在于,所述的海浪仿真模块(2)通过如下方式建立:
建立海浪方向谱模型,将多个不同角频率和海浪方向的分量叠加作为海面,将角频率ωm在[ωmin,ωmax]范围内均分为M个采样宽度为Δω的分量,海浪的方向θn均分为N个采样宽度为Δθ的分量,海面坐标位置(u,v)上时刻t时海面的高度通过如下公式表示:
其中,ωm是角频率,海面波浪的方向θn∈[0,2π),φmn∈[0,2π)是均匀分布的随机相位,振幅amn由J0NSWAP海浪谱S(ω)和色散关系式D(ω,θ)计算:
JONSWAP海浪谱S(ω)由如下公式计算:
其中,γ是峰值增强因数,U10表示海面上方10m处的风速,g代表重力加速度,F是取风长度,ωp是JONSWAP谱的峰值频率,计算公式如下:
色散关系式D(ω,θ)的计算公式如下:
其中,θw是海浪谱的主方向,θ是偏离主方向的角度,Γ(·)表示伽马函数,其他参数计算方法如下
通过对海面高度图计算梯度,并归一化得到海面法线图:
5.根据权利要求4所述的水下对空成像全链路仿真方法,其特征在于,所述的光线追踪模块(4)通过如下方式建立:
令水平面在相机上方h处,在相机正上方水面点S(0,0,h),成像光路上的折射点为PS(u,v,h),同时该点在海平面坐标系中的坐标为(u,v),视线向量与海平面相交于点PS:
Snell定律的向量形式如下:
再根据Snell定律计算:
联合以上三个公式计算出每个观察向量的亮度衰减值Ls/Li,再对生成的图像进行逐像素亮度拉伸变换,得到最终仿真图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111496960.8A CN114357721B (zh) | 2021-12-09 | 2021-12-09 | 水下对空成像全链路仿真方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111496960.8A CN114357721B (zh) | 2021-12-09 | 2021-12-09 | 水下对空成像全链路仿真方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114357721A true CN114357721A (zh) | 2022-04-15 |
CN114357721B CN114357721B (zh) | 2024-04-12 |
Family
ID=81097148
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111496960.8A Active CN114357721B (zh) | 2021-12-09 | 2021-12-09 | 水下对空成像全链路仿真方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114357721B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116242253A (zh) * | 2023-05-11 | 2023-06-09 | 西南科技大学 | 一种水下混凝土表观激光线三维扫描测量方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104299259A (zh) * | 2014-04-16 | 2015-01-21 | 李建胜 | 一种动态插值方法和海面场景生成方法 |
CN105678742A (zh) * | 2015-12-29 | 2016-06-15 | 哈尔滨工业大学深圳研究生院 | 一种水下相机标定方法 |
US20170085864A1 (en) * | 2015-09-22 | 2017-03-23 | The Governors Of The University Of Alberta | Underwater 3d image reconstruction utilizing triple wavelength dispersion and camera system thereof |
CN108594230A (zh) * | 2018-07-17 | 2018-09-28 | 电子科技大学 | 一种海船场景的合成孔径雷达图像仿真方法 |
US20190266712A1 (en) * | 2018-02-24 | 2019-08-29 | United States Of America As Represented By The Administrator Of The Nasa | System and method for imaging underwater environments using fluid lensing |
CN111027231A (zh) * | 2019-12-29 | 2020-04-17 | 杭州科洛码光电科技有限公司 | 水下阵列相机成像方法 |
CN111968055A (zh) * | 2020-08-17 | 2020-11-20 | 燕山大学 | 一种基于颜色补偿和颜色线先验的水下图像复原算法 |
CN113470133A (zh) * | 2021-06-08 | 2021-10-01 | 中国人民解放军93114部队 | 海浪仿真图像的生成方法、装置、电子设备和存储介质 |
-
2021
- 2021-12-09 CN CN202111496960.8A patent/CN114357721B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104299259A (zh) * | 2014-04-16 | 2015-01-21 | 李建胜 | 一种动态插值方法和海面场景生成方法 |
US20170085864A1 (en) * | 2015-09-22 | 2017-03-23 | The Governors Of The University Of Alberta | Underwater 3d image reconstruction utilizing triple wavelength dispersion and camera system thereof |
CN105678742A (zh) * | 2015-12-29 | 2016-06-15 | 哈尔滨工业大学深圳研究生院 | 一种水下相机标定方法 |
US20190266712A1 (en) * | 2018-02-24 | 2019-08-29 | United States Of America As Represented By The Administrator Of The Nasa | System and method for imaging underwater environments using fluid lensing |
CN108594230A (zh) * | 2018-07-17 | 2018-09-28 | 电子科技大学 | 一种海船场景的合成孔径雷达图像仿真方法 |
CN111027231A (zh) * | 2019-12-29 | 2020-04-17 | 杭州科洛码光电科技有限公司 | 水下阵列相机成像方法 |
CN111968055A (zh) * | 2020-08-17 | 2020-11-20 | 燕山大学 | 一种基于颜色补偿和颜色线先验的水下图像复原算法 |
CN113470133A (zh) * | 2021-06-08 | 2021-10-01 | 中国人民解放军93114部队 | 海浪仿真图像的生成方法、装置、电子设备和存储介质 |
Non-Patent Citations (2)
Title |
---|
何大华;李苏;李亚鹏;: "反向追迹法获取水下对空全景图像", 应用光学, no. 05, 15 September 2020 (2020-09-15) * |
李飞;黄亮;: "水下对空成像的光学计算模型", 光学与光电技术, no. 04, 10 August 2008 (2008-08-10) * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116242253A (zh) * | 2023-05-11 | 2023-06-09 | 西南科技大学 | 一种水下混凝土表观激光线三维扫描测量方法 |
CN116242253B (zh) * | 2023-05-11 | 2023-07-07 | 西南科技大学 | 一种水下混凝土表观激光线三维扫描测量方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114357721B (zh) | 2024-04-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107679537B (zh) | 一种基于轮廓点orb特征匹配的无纹理空间目标姿态估计算法 | |
US11948344B2 (en) | Method, system, medium, equipment and terminal for inland vessel identification and depth estimation for smart maritime | |
CN110930508A (zh) | 二维光电视频与三维场景融合方法 | |
CN113686314B (zh) | 船载摄像头的单目水面目标分割及单目测距方法 | |
CN114926739B (zh) | 内河航道水上水下地理空间信息无人化协同采集处理方法 | |
CN114357721A (zh) | 水下对空成像全链路仿真方法 | |
Mergy et al. | Vision-based neural scene representations for spacecraft | |
Caruso et al. | 3d reconstruction of non-cooperative resident space objects using instant ngp-accelerated nerf and d-nerf | |
CN118015055A (zh) | 基于深度融合算法的多源勘测数据融合处理方法及系统 | |
CN112862748B (zh) | 一种多维域特征联合sar船舰智能检测方法 | |
CN112862670A (zh) | 一种基于多视角融合的360°图像对抗样本生成方法 | |
Ardiyanto et al. | Prototype design of unmanned surface ship to detect illegal fishing using solar power generation technology | |
CN115937435A (zh) | 一种基于光学感知的波浪场重构方法 | |
Lin et al. | A multi-target detection framework for multirotor UAV | |
CN113850905B (zh) | 一种用于周扫型光电预警系统的全景图像实时拼接方法 | |
CN112419410B (zh) | 一种基于水下斯涅尔窗口边缘辨识的水平姿态确定方法 | |
CN109344785A (zh) | 一种在深空自主光学导航中的高精度的行星中心定位方法 | |
CN108458713A (zh) | 一种利用海天线信息的舰船姿态快速解算方法 | |
Sulaj et al. | Examples of real-time UAV data processing with cloud computing | |
CN114445572A (zh) | 一种基于DeeplabV3+的陌生海域中障碍物即时定位与地图构建方法 | |
Drap et al. | Underwater multimodal survey: Merging optical and acoustic data | |
Lin et al. | 360 Degree Fish Eye Optical Construction For Equirectangular Projection of Panoramic Images | |
Liu et al. | Optical imaging study of underwater acousto-optical fusion imaging systems | |
CN118172422B (zh) | 视觉、惯性与激光协同的兴趣目标定位成像方法与装置 | |
Kaplowitz | Characterization of a Stereo Vision System for Object Classification for USV Navigation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |