CN103903237A - 一种前扫声纳图像序列拼接方法 - Google Patents

一种前扫声纳图像序列拼接方法 Download PDF

Info

Publication number
CN103903237A
CN103903237A CN201410107314.1A CN201410107314A CN103903237A CN 103903237 A CN103903237 A CN 103903237A CN 201410107314 A CN201410107314 A CN 201410107314A CN 103903237 A CN103903237 A CN 103903237A
Authority
CN
China
Prior art keywords
image
point
sonar
unique point
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410107314.1A
Other languages
English (en)
Other versions
CN103903237B (zh
Inventor
李恒宇
罗均
谢少荣
刘恒利
黄潮炯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jinghai Intelligent Equipment Co ltd
Original Assignee
University of Shanghai for Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Shanghai for Science and Technology filed Critical University of Shanghai for Science and Technology
Priority to CN201410107314.1A priority Critical patent/CN103903237B/zh
Publication of CN103903237A publication Critical patent/CN103903237A/zh
Application granted granted Critical
Publication of CN103903237B publication Critical patent/CN103903237B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种前扫声纳图像序列拼接方法。本方法实施的步骤如下:通过声纳图像预处理来去除声纳图像的噪声以及提高声纳图像的对比度;通过特征点双重检测来提高声纳图像特征点检测的精度;通过特征点对双重校验来提高特征点对匹配的精度;通过序列图像单应矩阵求解来拼接声纳图像序列;图像融合通过直方图规范化算法来调整待拼接的图像的亮度并通过边界保持的加权平滑算法来实现声纳图像的无缝拼接。本发明的方法能够解决DIDSON在水下监测过程中,声纳图像分辨率低、探测范围视角小的问题;通过声纳图像序列拼接,将一系列声纳图像拼接成一个分辨率高、大范围的声纳图像,使DIDSON能够同时监测较大范围的水下环境。

Description

一种前扫声纳图像序列拼接方法
技术领域
本发明涉及一种前扫声纳图像序列的拼接方法,可将视角较小的前扫声纳图像序列拼接为一个高分辨率、大范围的图像。
背景技术
目前世界各国正致力于利用水下无人探测器对海洋、湖泊、江河等水资源进行水声环境的研究及目标检测工作。这种水下运动目标检测技术不仅在海洋开发,港口航道建设等民用方面有着潜在的巨大经济利益,而且在水下环境监控等安全检测方面也有着重要的意义。
由于水下机器人在商业与军事上的重大价值和技术上面临的众多挑战,其技术研究受到越来越多科学家和技术人员的重视,并进行了大量的工作。对于水下机器人来说,视觉系统就是它的眼睛和耳目。毋庸置疑地,视觉系统具有极其重要的地位和作用。通过视觉系统,机器人才能够快速获取水下周围环境信息,为其运动和进行水下作业提供引导。显然,水下机器人的技术水平和作业能力在相当大程度上取决于视觉系统的性能好坏。在特殊的水下环境下,声波是迄今为止唯一可以进行远程信息传输的载体。声波在水中传播的衰减就小得多,在深海声道中爆炸一个几公斤的炸弹,在两万公里外还可以收到信号,低频的声波还可以穿透海底几千米的地层,并且得到地层中的信息。在水中进行测量和观察,至今还没有发现比声波更有效的手段。因此,利用水中声波对水下目标进行探测、定位和通信的声纳,是水声学中应用最广泛、最重要的一种装置。
当水下观测对象比较大而又要保证分辨率时,发射信号不能覆盖全部探测区域,只能进行局部探测,这就需要用到图像拼接技术。同时在声纳图像处理方面,一次声成像返回的声探测区域视野较小,工程实践中经常无法通过一幅图像进行目标识别,同时对于大目标图像的数据测量也需要把不完整的图像拼接为一个整体。所以图像拼接技术在水下图像的后期处理中具有重要作用。
现有的前扫声纳DIDSON( Dual-Frequency Identification Sonar)。由于工作环境的复杂性,该高分辨率双频识别声纳在执行水下危险目标探测任务时,存在以下几个方面的难点问题:1)声纳图像实时判读,目前还是依靠人眼来人工判读、识别水下可疑目标,然而声学成像原理截然不同于光学成像原理,尤其是其分辨率远远小于光学成像,因而要探测、识别像水下可疑爆炸物这样的危险目标就很困难,而且判读人员很辛苦、极易疲劳;2)高分辨率声纳自身视野很窄,需要进行图像拼接;3)声纳设备在水下工作时,会受到浪涌、水流的影响,产生纵摇、横摇,引起声纳图像的变形。在实际的应用中,DIDSON在同一时刻也只能观测到一个小视角范围内的图像。由于水下环境复杂,要判别一个物体的性质,需要有个连续的过程,最好能够显示大范围的水中的影像。实时将多幅分辨率低、视角小的声纳图像拼接为一个高分辨率、大范围的图像,可以同时监测较大范围的水下环境,在水下探测中具有重要的作用。
发明内容
本发明的目的在于针对已有技术存在的问题,提供一种前扫声纳图像序列拼接方法,能实时将多幅分辨率低、视角较小的声纳图像拼接为一个高分辨率、大范围的图像,从而可监测较大范围的水下环境,提高了前扫声纳目标监测水平。
为达到上述目的,本发明的构思是:首先进行声纳图像预处理去除声纳图像的噪声以及提高对比度;然后进行特征点双重检测以提高声纳图像特征点的检测精度;进而通过特征点对双重校验来提高特征点对匹配的精度;其次求解序列图像单应矩阵;最后进行声纳图像融合来消除声纳图像拼接后的接缝。
根据上述发明构思,本发明采用下述技术方案:
一种前扫声纳图像序列拼接方法,其基本实施步骤如下:
(1)声纳图像预处理
①采用高斯平滑的方法来去除高斯噪声;
②采用基于图像灰度拉伸的方法来改善了图像的对比度。
(2)特征点双重检测
①将声纳图像转换成积分图像:对于积分图像中某点                                                
Figure 2014101073141100002DEST_PATH_IMAGE001
Figure 92831DEST_PATH_IMAGE002
,该点的值用
Figure 2014101073141100002DEST_PATH_IMAGE003
表示计算如公式(1)所示;
Figure 9971DEST_PATH_IMAGE004
                        (1)
②利用Hessian矩阵计算图像的兴趣点:计算图像中一点在不同尺度下的Hessian矩阵行列式的局部最大值。图像中任意一点,该点在尺度下的Hessian矩阵定义为
                   (2)
式中:表示高斯二阶偏导在
Figure 622459DEST_PATH_IMAGE001
处的卷积。
Figure 2014101073141100002DEST_PATH_IMAGE009
Figure 444921DEST_PATH_IMAGE010
具有相似的含义。
③构建尺度空间:采用不断增大盒子滤波模板的尺寸建立图像金字塔;
④特征点的确定:通过筛选滤波响应并对筛选的点进行处理,将每一个筛选的点与同尺度的8个像素点和上下相邻尺度各9个点一共26个点进行比较,求得局部极大值点即为特征点;
⑤特征点的描述:分别求出特征点在x、y方向上的梯度,以这两个方向为坐标轴建立坐标系,将个点的响应映射到坐标系中,累加在各方向一定范围内的小波响应,将获得最大响应的方向确定为梯度的主方向,并且在主方向上建立特征点的描述向量。最终得到每个特征点的64维特征向量;
⑥无特征点的剔除:检测提取的特征点是否在声纳图像的检测区域内,将不在声纳图像检测区域内的特征点以及对应的特征向量剔除。
(3)特征点双重检测
①特征点匹配:当两幅图像的SURF特征向量生成后,本文采用特征向量间欧式距离(3)作为两幅图像中特征点的相似性判定度量。
Figure 2014101073141100002DEST_PATH_IMAGE011
                        (3)
其中,表示特征向量间的欧式距离;
Figure 2014101073141100002DEST_PATH_IMAGE013
表示图像
Figure 35489DEST_PATH_IMAGE001
中任意一点;
Figure 704367DEST_PATH_IMAGE014
表示图像
Figure 2014101073141100002DEST_PATH_IMAGE015
中任意一点;
Figure 2014101073141100002DEST_PATH_IMAGE017
表示描述子向量中第
Figure 386147DEST_PATH_IMAGE017
个分量;
Figure 2014101073141100002DEST_PATH_IMAGE019
分别表示图像
Figure 338556DEST_PATH_IMAGE015
描述子向量的第
Figure 955351DEST_PATH_IMAGE017
个分量;
Figure 196977DEST_PATH_IMAGE020
为特征向量的维数,这里
Figure 2014101073141100002DEST_PATH_IMAGE021
。首先取参考图像的某个特征点并在待匹配图像中找出与该点欧式距离最近和次近的两个特征点,如果最近距离的平方与次近距离平方的比例小于60%,则认为最近的这一对特征点为对应的匹配对。遍历参考图像中的特征点,找出所有潜在的匹配点对。
②采用随即抽样一致(RANSAC)算法剔除误匹配点对。 
(4)特征点对双重校验
①相邻图像变换矩阵的求解:在声纳实际拍摄过程中,近似满足透视变换模型。两幅图像之间的对应关系可以由一个
Figure 409783DEST_PATH_IMAGE022
的平面透视变换矩阵来表示:
Figure 2014101073141100002DEST_PATH_IMAGE023
                           (4)
式中,
Figure 53254DEST_PATH_IMAGE024
可以表示为
Figure 79766DEST_PATH_IMAGE026
可以表示为
Figure 2014101073141100002DEST_PATH_IMAGE027
Figure 746371DEST_PATH_IMAGE028
Figure 2014101073141100002DEST_PATH_IMAGE029
是一对匹配点;单应矩阵H是一个
Figure 825185DEST_PATH_IMAGE022
的满秩矩阵,可以表示为:
通过前面提到的特征点匹配方法,已经得到了
Figure 281760DEST_PATH_IMAGE020
个匹配点对,注意这里的
Figure 2014101073141100002DEST_PATH_IMAGE031
才可以计算单应矩阵H,计算单应矩阵最少需要4个匹配点对就可以,但是仅用4个匹配点对所计算出的结果是无法保证精度的;
②序列图像变换矩阵的求解:对于序列图像的拼接,选择将第一幅作为基准图像,将后续传入的所有图像都映射到第一幅图像中。显然,序列图像中相邻帧具有较大的相关性。如果通过直接求后续图像和第一幅图像的特征点对来求解单应矩阵,可能会发生特征点对不足或者误匹配的问题,为避免发生特征点对不足或误匹配影响拼接的问题,采用寻找相邻两幅图像之间的特征点对提高求解精度。得到相邻两幅图像之间的特征点对,可进行相邻两幅图像单应矩阵的求解。
Figure 170082DEST_PATH_IMAGE032
                          (5)
其中j=1,2,3,4……。
通过上述公式可以求解后续图像与第一幅图像之间的单应矩阵为:
Figure 52587DEST_PATH_IMAGE034
                          (6)
其中j=1,2,3,4……。
(5)图像融合
①使用直方图规范化算法将后续图像的亮度调整得与基准图像的亮度一致;
②采用了一种边界保持的加权平滑算法来实现配准后图像的融合;
Figure 2014101073141100002DEST_PATH_IMAGE035
Figure 93486DEST_PATH_IMAGE036
是相邻两帧待拼接的声纳图像,
Figure 36035DEST_PATH_IMAGE035
Figure 411652DEST_PATH_IMAGE036
在区间
Figure DEST_PATH_IMAGE037
上重叠,假设
Figure 832269DEST_PATH_IMAGE038
表示融合后的图像,平滑后的像素点的值为
Figure DEST_PATH_IMAGE039
,算法具体步骤如下:
1)分别对
Figure 491790DEST_PATH_IMAGE035
Figure 605239DEST_PATH_IMAGE036
图像进行边缘检测,提取出扇形区域轮廓;
2)设
Figure 468153DEST_PATH_IMAGE035
Figure 692461DEST_PATH_IMAGE036
在重叠部分对应的像素点的值
Figure 753958DEST_PATH_IMAGE040
Figure DEST_PATH_IMAGE041
,取
Figure 723795DEST_PATH_IMAGE042
              (7)
其中,
Figure DEST_PATH_IMAGE043
表示加权因子,,按照从
Figure 102003DEST_PATH_IMAGE035
Figure 283586DEST_PATH_IMAGE036
的方向
Figure 473259DEST_PATH_IMAGE043
由1渐变为0;
3)利用前面提取出的边缘信息,对重叠区域内的像素点进行分类:
如果像素
Figure DEST_PATH_IMAGE045
不属于边界点,则;如果像素
Figure 752242DEST_PATH_IMAGE045
属于边界点,则选取另一幅图像的
Figure DEST_PATH_IMAGE047
作为重叠区域像素的灰度值,即若
Figure 53910DEST_PATH_IMAGE048
Figure DEST_PATH_IMAGE049
;若
该平滑方法在加权平滑的处理基础上多了一道处理程序,即在加权平滑时,判断该点是否为图像的扇形区域轮廓,如果是扇形区域轮廓,则选取另一幅图像的灰度值作为重叠区域像素的灰度值;如果不是扇形区域轮廓,则按照加权平滑法处理;这样进行拼接后的平滑能够达到很好的效果,在保持了边界特征的同时,自然缝合;至此,通过上面一系列步骤,就完成了所有帧声纳图像的拼接。
本发明与现有技术相比较,具有如下显而易见的突出实质性特点和显著技术进步:本发明进行声纳图像预处理去噪声、提高对比度;进行特征点双重检测,提高声纳图像特征点的检测精度;通过特征点对双重校验,提高特征点对匹配的精度;求解序列图像单应矩阵,进行声纳图像融合,消除图像拼接后的接缝。本发明解决了DIDSON在水下监测过程中,声纳图像分辨率低,探测范围视角小的问题。拼接后的图像分辨率高、范围大,使DIDSON监测的较大范围的水下环境。
附图说明
图1表示本发明实施例的实施流程图;
图2表示加权平均融合算法流程图;
图3表示边界保持的加权平均融合算法流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清晰明了,下面结合附图,对本发明的两个优选实施例作详细说明:
实施例一:
参加图1,本前扫声纳图像拼接方法,其特征在于:通过下列步骤实现声纳图像序列的无缝拼接:
1)声纳图像预处理:去除声纳图像的噪声以及提高对比度;
2)特征点双重检测:为提高声纳图像特征点的检测精度;
3)特征点对双重校验:为提高特征点对匹配的精度;
4)序列图像单应矩阵求解:用于拼接声纳图像序列;
5)图像融合:为消除声纳图像拼接后的接缝。
2. 根据权利要求1所述的前扫声纳图像拼接方法,其特征在于:所述步骤(1)声纳图像预处理的具体步骤是:
①采用高斯平滑的方法来去除高斯噪声;
②采用基于图像灰度拉伸的方法来改善了图像的对比度。
3. 根据权利要求1所述的前扫声纳图像拼接方法,其特征在于,所述步骤(2)中的特征点双重检测的具体步骤是:
①将声纳图像转换成积分图像:对于积分图像中某点
Figure 296038DEST_PATH_IMAGE002
,该点的值用
Figure 186634DEST_PATH_IMAGE003
表示计算如公式(1)所示;
Figure 921372DEST_PATH_IMAGE004
                        (1)
②利用Hessian矩阵计算图像的兴趣点:计算图像中一点在不同尺度下的Hessian矩阵行列式的局部最大值,图像中任意一点
Figure 530208DEST_PATH_IMAGE005
,该点在尺度
Figure 703700DEST_PATH_IMAGE006
下的Hessian矩阵定义为
Figure 714381DEST_PATH_IMAGE007
                   (2)
式中:
Figure 361964DEST_PATH_IMAGE008
表示高斯二阶偏导在
Figure 458096DEST_PATH_IMAGE001
处的卷积。
Figure 169700DEST_PATH_IMAGE009
Figure 972571DEST_PATH_IMAGE010
具有相似的含义。
③构建尺度空间:采用不断增大盒子滤波模板的尺寸建立图像金字塔;
④特征点的确定:通过筛选滤波响应并对筛选的点进行处理,将每一个筛选的点与同尺度的8个像素点和上下相邻尺度各9个点一共26个点进行比较,求得局部极大值点即为特征点;
⑤特征点的描述:分别求出特征点在x、y方向上的梯度,以这两个方向为坐标轴建立坐标系,将个点的响应映射到坐标系中,累加在各方向一定范围内的小波响应,将获得最大响应的方向确定为梯度的主方向,并且在主方向上建立特征点的描述向量,最终得到每个特征点的64维特征向量;
⑥无特征点的剔除:检测提取的特征点是否在声纳图像的检测区域内,将不在声纳图像检测区域内的特征点以及对应的特征向量剔除。
4. 根据权利要求1所述的前扫声纳图像拼接方法,其特征在于:所述步骤(3)特征点对双重校验的具体步骤是:①特征点匹配:当两幅图像的SURF特征向量生成后,采用下式特征向量间欧式距离
Figure 111428DEST_PATH_IMAGE052
作为两幅图像中特征点的相似性判定度量:
                        (3)
其中,
Figure 131523DEST_PATH_IMAGE012
表示特征向量间的欧式距离;
Figure 116796DEST_PATH_IMAGE013
表示图像
Figure 426555DEST_PATH_IMAGE001
中任意一点;
Figure 434962DEST_PATH_IMAGE014
表示图像
Figure 488369DEST_PATH_IMAGE015
中任意一点;表示描述子向量中第
Figure 808809DEST_PATH_IMAGE017
个分量;
Figure 789665DEST_PATH_IMAGE018
Figure 646763DEST_PATH_IMAGE019
分别表示图像
Figure 341049DEST_PATH_IMAGE001
Figure 930294DEST_PATH_IMAGE015
描述子向量的第
Figure 975610DEST_PATH_IMAGE017
个分量;
Figure 370819DEST_PATH_IMAGE020
为特征向量的维数,这里
Figure 106563DEST_PATH_IMAGE021
;首先取参考图像的某个特征点并在待匹配图像中找出与该点欧式距离最近和次近的两个特征点,如果最近距离的平方与次近距离平方的比例小于60%,则认为最近的这一对特征点为对应的匹配对。遍历参考图像中的特征点,找出所有潜在的匹配点对;
②采用随即抽样一致(RANSAC)算法剔除误匹配点对。 
5. 根据权利要求1所述的前扫声纳图像拼接方法,其特征在于,所述步骤(4)中的序列图像单应矩阵求解的具体步骤是: ①相邻图像变换矩阵的求解:在声纳实际拍摄过程中,近似满足透视变换模型,两幅图像之间的对应关系由一个的平面透视变换矩阵来表示:
Figure 461638DEST_PATH_IMAGE023
                           (4)
式中,
Figure 598221DEST_PATH_IMAGE024
可以表示为
Figure 1521DEST_PATH_IMAGE025
Figure 260464DEST_PATH_IMAGE026
可以表示为
Figure 700279DEST_PATH_IMAGE027
Figure 437291DEST_PATH_IMAGE028
Figure 898359DEST_PATH_IMAGE029
是一对匹配点;单应矩阵H是一个
Figure 328204DEST_PATH_IMAGE022
的满秩矩阵,可以表示为:
Figure 491201DEST_PATH_IMAGE030
通过前面提到的特征点匹配方法,已经得到了
Figure 969586DEST_PATH_IMAGE020
个匹配点对,注意这里的
Figure 613057DEST_PATH_IMAGE031
才可以计算单应矩阵H,计算单应矩阵最少需要4个匹配点对就可以,但是仅用4个匹配点对所计算出的结果是无法保证精度的;
②序列图像变换矩阵的求解:对于序列图像的拼接,选择将第一幅作为基准图像,将后续传入的所有图像都映射到第一幅图像中;显然,序列图像中相邻帧具有较大的相关性;如果通过直接求后续图像和第一幅图像的特征点对来求解单应矩阵,可能会发生特征点对不足或者误匹配的问题,为避免发生特征点对不足或误匹配影响拼接的问题,采用寻找相邻两幅图像之间的特征点对提高求解精度,得到相邻两幅图像之间的特征点对,可进行相邻两幅图像单应矩阵的求解;
Figure 948224DEST_PATH_IMAGE032
                          (5)
其中j=1,2,3,4……。
通过上述公式可以求解后续图像与第一幅图像之间的单应矩阵
Figure 365561DEST_PATH_IMAGE033
为:
Figure 444375DEST_PATH_IMAGE034
                          (6)
其中j=1,2,3,4……。
6. 根据权利要求1所述的前扫声纳图像拼接方法,其特征在于,其特征在于,所述步骤(5)图像融合是针对声纳图像扇形检测区域的图像而言,具体步骤是:①使用直方图规范化算法将后续图像的亮度调整得与基准图像的亮度一致;
②采用了一种边界保持的加权平滑算法来实现配准后图像的融合;
Figure 942353DEST_PATH_IMAGE035
Figure 386104DEST_PATH_IMAGE036
是相邻两帧待拼接的声纳图像,
Figure 602321DEST_PATH_IMAGE035
在区间
Figure 24261DEST_PATH_IMAGE037
上重叠,假设
Figure 966809DEST_PATH_IMAGE038
表示融合后的图像,平滑后的像素点的值为
Figure 404744DEST_PATH_IMAGE039
,算法具体步骤如下:
1)分别对
Figure 763044DEST_PATH_IMAGE035
Figure 235614DEST_PATH_IMAGE036
图像进行边缘检测,提取出扇形区域轮廓;
2)设
Figure 83484DEST_PATH_IMAGE035
在重叠部分对应的像素点的值
Figure 924368DEST_PATH_IMAGE040
Figure 251444DEST_PATH_IMAGE041
,取
              (7)
其中,
Figure 886005DEST_PATH_IMAGE043
表示加权因子,
Figure 648424DEST_PATH_IMAGE044
,按照从
Figure 830007DEST_PATH_IMAGE035
Figure 472210DEST_PATH_IMAGE036
的方向
Figure 372033DEST_PATH_IMAGE043
由1渐变为0;
3)利用前面提取出的边缘信息,对重叠区域内的像素点进行分类:
如果像素
Figure 938143DEST_PATH_IMAGE045
不属于边界点,则;如果像素
Figure 538069DEST_PATH_IMAGE045
属于边界点,则选取另一幅图像的
Figure 925188DEST_PATH_IMAGE047
作为重叠区域像素的灰度值,即若
Figure 717826DEST_PATH_IMAGE048
Figure 874000DEST_PATH_IMAGE049
;若
Figure 671055DEST_PATH_IMAGE050
Figure 279891DEST_PATH_IMAGE051
该平滑方法在加权平滑的处理基础上多了一道处理程序,即在加权平滑时,判断该点是否为图像的扇形区域轮廓,如果是扇形区域轮廓,则选取另一幅图像的灰度值作为重叠区域像素的灰度值;如果不是扇形区域轮廓,则按照加权平滑法处理;这样进行拼接后的平滑能够达到很好的效果,在保持了边界特征的同时,自然缝合;至此,通过上面一系列步骤,就完成了所有帧声纳图像的拼接。
实施例二:
附图1为本发明实施例中的一种前扫的声纳图像序列的拼接方法流程图。如图1所示,本前扫声纳图像拼接方法的操作步骤包括如下:
(1)声纳图像预处理
①采用高斯平滑的方法来去除高斯噪声;
②采用基于图像灰度拉伸的方法来改善了图像的对比度。
(2)特征点双重检测
①将声纳图像转换成积分图像:对于积分图像中某点
Figure 391067DEST_PATH_IMAGE001
Figure 401748DEST_PATH_IMAGE002
,该点的值用
Figure 369704DEST_PATH_IMAGE003
表示计算如公式(1)所示;
Figure 652787DEST_PATH_IMAGE004
                        (1)
②利用Hessian矩阵计算图像的兴趣点:计算图像中一点在不同尺度下的Hessian矩阵行列式的局部最大值。图像中任意一点
Figure 98811DEST_PATH_IMAGE005
,该点在尺度
Figure 229578DEST_PATH_IMAGE006
下的Hessian矩阵定义为
Figure 306119DEST_PATH_IMAGE007
                   (2)
式中:
Figure 889547DEST_PATH_IMAGE008
表示高斯二阶偏导在处的卷积。
Figure 810022DEST_PATH_IMAGE009
Figure 119781DEST_PATH_IMAGE010
具有相似的含义。
③构建尺度空间:采用不断增大盒子滤波模板的尺寸建立图像金字塔;
④特征点的确定:通过筛选滤波响应并对筛选的点进行处理,将每一个筛选的点与同尺度的8个像素点和上下相邻尺度各9个点一共26个点进行比较,求得局部极大值点即为特征点;
⑤特征点的描述:分别求出特征点在x、y方向上的梯度,以这两个方向为坐标轴建立坐标系,将个点的响应映射到坐标系中,累加在各方向一定范围内的小波响应,将获得最大响应的方向确定为梯度的主方向,并且在主方向上建立特征点的描述向量。最终得到每个特征点的64维特征向量;
⑥无特征点的剔除:检测提取的特征点是否在声纳图像的检测区域内,将不在声纳图像检测区域内的特征点以及对应的特征向量剔除。
(3)特征点双重检测
①特征点匹配:当两幅图像的SURF特征向量生成后,本文采用特征向量间欧式距离(3)作为两幅图像中特征点的相似性判定度量。
                        (3)
其中,
Figure 181595DEST_PATH_IMAGE012
表示特征向量间的欧式距离;
Figure 21375DEST_PATH_IMAGE013
表示图像
Figure 502035DEST_PATH_IMAGE001
中任意一点;
Figure 981426DEST_PATH_IMAGE014
表示图像
Figure 838524DEST_PATH_IMAGE015
中任意一点;
Figure 532810DEST_PATH_IMAGE017
表示描述子向量中第个分量;
Figure 167371DEST_PATH_IMAGE018
Figure 562580DEST_PATH_IMAGE019
分别表示图像
Figure 799789DEST_PATH_IMAGE001
描述子向量的第
Figure 154864DEST_PATH_IMAGE017
个分量;
Figure 25868DEST_PATH_IMAGE020
为特征向量的维数,这里
Figure 694747DEST_PATH_IMAGE021
。首先取参考图像的某个特征点并在待匹配图像中找出与该点欧式距离最近和次近的两个特征点,如果最近距离的平方与次近距离平方的比例小于60%,则认为最近的这一对特征点为对应的匹配对。遍历参考图像中的特征点,找出所有潜在的匹配点对。
②采用随即抽样一致(RANSAC)算法剔除误匹配点对。 
(4)特征点对双重校验
①相邻图像变换矩阵的求解:在声纳实际拍摄过程中,近似满足透视变换模型。两幅图像之间的对应关系可以由一个的平面透视变换矩阵来表示:
Figure 629391DEST_PATH_IMAGE023
                           (4)
式中,
Figure 631982DEST_PATH_IMAGE024
可以表示为
Figure 155367DEST_PATH_IMAGE025
可以表示为
Figure 498941DEST_PATH_IMAGE027
Figure 39643DEST_PATH_IMAGE028
Figure 417535DEST_PATH_IMAGE029
是一对匹配点;单应矩阵H是一个的满秩矩阵,可以表示为:
Figure 184687DEST_PATH_IMAGE030
通过前面提到的特征点匹配方法,已经得到了
Figure 529081DEST_PATH_IMAGE020
个匹配点对,注意这里的
Figure 964741DEST_PATH_IMAGE031
才可以计算单应矩阵H,计算单应矩阵最少需要4个匹配点对就可以,但是仅用4个匹配点对所计算出的结果是无法保证精度的;
②序列图像变换矩阵的求解:对于序列图像的拼接,选择将第一幅作为基准图像,将后续传入的所有图像都映射到第一幅图像中。显然,序列图像中相邻帧具有较大的相关性。如果通过直接求后续图像和第一幅图像的特征点对来求解单应矩阵,可能会发生特征点对不足或者误匹配的问题,为避免发生特征点对不足或误匹配影响拼接的问题,采用寻找相邻两幅图像之间的特征点对提高求解精度。得到相邻两幅图像之间的特征点对,可进行相邻两幅图像单应矩阵的求解。
                          (5)
其中j=1,2,3,4……。
通过上述公式可以求解后续图像与第一幅图像之间的单应矩阵
Figure 687027DEST_PATH_IMAGE033
为:
                          (6)
其中j=1,2,3,4……。
实施例三:
步骤(5)图像融合为本发明中另一优选实施例。图像融合的操作步骤包括如下:
①    使用直方图规范化算法将后续图像的亮度调整得与基准图像的亮度一致;
②采用了一种边界保持的加权平滑算法来实现配准后图像的融合,其算法流程图如图3所示;
Figure 108967DEST_PATH_IMAGE035
Figure 785936DEST_PATH_IMAGE036
是相邻两帧待拼接的声纳图像,
Figure 161553DEST_PATH_IMAGE035
Figure 847749DEST_PATH_IMAGE036
在区间
Figure 54740DEST_PATH_IMAGE037
上重叠,假设
Figure 856605DEST_PATH_IMAGE038
表示融合后的图像,平滑后的像素点的值为
Figure 781836DEST_PATH_IMAGE039
,算法具体步骤如下:
1)分别对
Figure 6144DEST_PATH_IMAGE035
Figure 270903DEST_PATH_IMAGE036
图像进行边缘检测,提取出扇形区域轮廓;
2)设
Figure 555254DEST_PATH_IMAGE035
Figure 702201DEST_PATH_IMAGE036
在重叠部分对应的像素点的值
Figure 917151DEST_PATH_IMAGE040
Figure 98733DEST_PATH_IMAGE041
,如图2所示,取
Figure 553985DEST_PATH_IMAGE042
              (7)
其中,表示加权因子,
Figure 957602DEST_PATH_IMAGE044
,按照从
Figure 993691DEST_PATH_IMAGE035
Figure 619845DEST_PATH_IMAGE036
的方向
Figure 426870DEST_PATH_IMAGE043
由1渐变为0;
3)利用前面提取出的边缘信息,对重叠区域内的像素点进行分类:
如果像素不属于边界点,则
Figure 952846DEST_PATH_IMAGE046
;如果像素
Figure 687584DEST_PATH_IMAGE045
属于边界点,则选取另一幅图像的作为重叠区域像素的灰度值,即若
Figure 204333DEST_PATH_IMAGE048
;若
Figure 369921DEST_PATH_IMAGE050
Figure 466053DEST_PATH_IMAGE051
该平滑方法在加权平滑的处理基础上多了一道处理程序,即在加权平滑时,判断该点是否为图像的扇形区域轮廓,如果是扇形区域轮廓,则选取另一幅图像的灰度值作为重叠区域像素的灰度值;如果不是扇形区域轮廓,则按照加权平滑法处理;这样进行拼接后的平滑能够达到很好的效果,在保持了边界特征的同时,自然缝合;至此,通过上面一系列步骤,就完成了所有帧声纳图像的拼接。 

Claims (6)

1.一种前扫声纳图像拼接方法,其特征在于:通过下列步骤实现声纳图像序列的无缝拼接:
1)声纳图像预处理:去除声纳图像的噪声以及提高对比度;
2)特征点双重检测:为提高声纳图像特征点的检测精度;
3)特征点对双重校验:为提高特征点对匹配的精度;
4)序列图像单应矩阵求解:用于拼接声纳图像序列;
5)图像融合:为消除声纳图像拼接后的接缝。
2.根据权利要求1所述的前扫声纳图像拼接方法,其特征在于:所述步骤(1)声纳图像预处理的具体步骤是:
①采用高斯平滑的方法来去除高斯噪声;
②采用基于图像灰度拉伸的方法来改善了图像的对比度。
3.根据权利要求1所述的前扫声纳图像拼接方法,其特征在于,所述步骤(2)中的特征点双重检测的具体步骤是:
①将声纳图像转换成积分图像:对于积分图像中某点                                                
Figure 230793DEST_PATH_IMAGE001
Figure 90165DEST_PATH_IMAGE002
,该点的值用表示计算如公式(1)所示;
Figure 934810DEST_PATH_IMAGE004
                        (1)
②利用Hessian矩阵计算图像的兴趣点:计算图像中一点在不同尺度下的Hessian矩阵行列式的局部最大值,图像中任意一点
Figure 945491DEST_PATH_IMAGE005
,该点在尺度下的Hessian矩阵定义为
Figure 71896DEST_PATH_IMAGE007
                   (2)
式中:表示高斯二阶偏导在
Figure 212470DEST_PATH_IMAGE001
处的卷积;
Figure 413644DEST_PATH_IMAGE009
Figure 997072DEST_PATH_IMAGE010
具有相似的含义;③构建尺度空间:采用不断增大盒子滤波模板的尺寸建立图像金字塔;
④特征点的确定:通过筛选滤波响应并对筛选的点进行处理,将每一个筛选的点与同尺度的8个像素点和上下相邻尺度各9个点一共26个点进行比较,求得局部极大值点即为特征点;
⑤特征点的描述:分别求出特征点在x、y方向上的梯度,以这两个方向为坐标轴建立坐标系,将个点的响应映射到坐标系中,累加在各方向一定范围内的小波响应,将获得最大响应的方向确定为梯度的主方向,并且在主方向上建立特征点的描述向量,最终得到每个特征点的64维特征向量;
⑥无特征点的剔除:检测提取的特征点是否在声纳图像的检测区域内,将不在声纳图像检测区域内的特征点以及对应的特征向量剔除。
4.根据权利要求1所述的前扫声纳图像拼接方法,其特征在于:所述步骤(3)特征点对双重校验的具体步骤是:①特征点匹配:当两幅图像的SURF特征向量生成后,采用下式特征向量间欧式距离
Figure 309104DEST_PATH_IMAGE011
作为两幅图像中特征点的相似性判定度量:
Figure 294378DEST_PATH_IMAGE012
                        (3)
其中,
Figure 666453DEST_PATH_IMAGE013
表示特征向量间的欧式距离;
Figure 737178DEST_PATH_IMAGE014
表示图像
Figure 351436DEST_PATH_IMAGE001
中任意一点;
Figure 191216DEST_PATH_IMAGE015
表示图像中任意一点;
Figure 2014101073141100001DEST_PATH_IMAGE017
表示描述子向量中第
Figure 88951DEST_PATH_IMAGE017
个分量;
Figure 946049DEST_PATH_IMAGE018
Figure 640335DEST_PATH_IMAGE019
分别表示图像
Figure 354213DEST_PATH_IMAGE001
Figure 399530DEST_PATH_IMAGE016
描述子向量的第个分量;
Figure 907314DEST_PATH_IMAGE020
为特征向量的维数,这里
Figure 995355DEST_PATH_IMAGE021
;首先取参考图像的某个特征点并在待匹配图像中找出与该点欧式距离最近和次近的两个特征点,如果最近距离的平方与次近距离平方的比例小于60%,则认为最近的这一对特征点为对应的匹配对;遍历参考图像中的特征点,找出所有潜在的匹配点对;
②采用随即抽样一致(RANSAC)算法剔除误匹配点对。
5.根据权利要求1所述的前扫声纳图像拼接方法,其特征在于,所述步骤(4)中的序列图像单应矩阵求解的具体步骤是: ①相邻图像变换矩阵的求解:在声纳实际拍摄过程中,近似满足透视变换模型,两幅图像之间的对应关系由一个
Figure 262389DEST_PATH_IMAGE022
的平面透视变换矩阵来表示:
Figure 523606DEST_PATH_IMAGE023
                           (4)
式中,
Figure 926905DEST_PATH_IMAGE024
可以表示为
Figure 185848DEST_PATH_IMAGE025
可以表示为
Figure 739506DEST_PATH_IMAGE027
Figure 262892DEST_PATH_IMAGE028
Figure 755053DEST_PATH_IMAGE029
是一对匹配点;单应矩阵H是一个的满秩矩阵,可以表示为:
通过前面提到的特征点匹配方法,已经得到了
Figure 470266DEST_PATH_IMAGE020
个匹配点对,注意这里的
Figure 805432DEST_PATH_IMAGE031
才可以计算单应矩阵H,计算单应矩阵最少需要4个匹配点对就可以,但是仅用4个匹配点对所计算出的结果是无法保证精度的;
②序列图像变换矩阵的求解:对于序列图像的拼接,选择将第一幅作为基准图像,将后续传入的所有图像都映射到第一幅图像中;显然,序列图像中相邻帧具有较大的相关性;如果通过直接求后续图像和第一幅图像的特征点对来求解单应矩阵,可能会发生特征点对不足或者误匹配的问题,为避免发生特征点对不足或误匹配影响拼接的问题,采用寻找相邻两幅图像之间的特征点对提高求解精度,得到相邻两幅图像之间的特征点对,可进行相邻两幅图像单应矩阵的求解;
Figure 534354DEST_PATH_IMAGE032
                          (5)
其中j=1,2,3,4……;通过上述公式可以求解后续图像与第一幅图像之间的单应矩阵
Figure 675485DEST_PATH_IMAGE033
为:
Figure 173462DEST_PATH_IMAGE034
                          (6)
其中j=1,2,3,4……。
6.根据权利要求1所述的前扫声纳图像拼接方法,其特征在于,其特征在于,所述步骤(5)图像融合是针对声纳图像扇形检测区域的图像而言,具体步骤是:①使用直方图规范化算法将后续图像的亮度调整得与基准图像的亮度一致;
②采用了一种边界保持的加权平滑算法来实现配准后图像的融合;
Figure 679530DEST_PATH_IMAGE035
Figure 958065DEST_PATH_IMAGE036
是相邻两帧待拼接的声纳图像,
Figure 840570DEST_PATH_IMAGE035
Figure 193054DEST_PATH_IMAGE036
在区间
Figure 197919DEST_PATH_IMAGE037
上重叠,假设
Figure 635854DEST_PATH_IMAGE038
表示融合后的图像,平滑后的像素点的值为
Figure 56471DEST_PATH_IMAGE039
,算法具体步骤如下:
1)分别对
Figure 92822DEST_PATH_IMAGE035
Figure 940692DEST_PATH_IMAGE036
图像进行边缘检测,提取出扇形区域轮廓;
2)设
Figure 865923DEST_PATH_IMAGE035
Figure 152548DEST_PATH_IMAGE036
在重叠部分对应的像素点的值
Figure 763975DEST_PATH_IMAGE041
,取
Figure 238818DEST_PATH_IMAGE042
              (7)
其中,
Figure 1238DEST_PATH_IMAGE043
表示加权因子,
Figure 182821DEST_PATH_IMAGE044
,按照从
Figure 700390DEST_PATH_IMAGE035
Figure 600213DEST_PATH_IMAGE036
的方向由1渐变为0;
3)利用前面提取出的边缘信息,对重叠区域内的像素点进行分类:
如果像素不属于边界点,则
Figure 389418DEST_PATH_IMAGE046
;如果像素
Figure 776537DEST_PATH_IMAGE045
属于边界点,则选取另一幅图像的
Figure 943076DEST_PATH_IMAGE047
作为重叠区域像素的灰度值,即若
Figure 99251DEST_PATH_IMAGE048
Figure 896305DEST_PATH_IMAGE049
;若
Figure 567458DEST_PATH_IMAGE050
Figure 740951DEST_PATH_IMAGE051
该平滑方法在加权平滑的处理基础上多了一道处理程序,即在加权平滑时,判断该点是否为图像的扇形区域轮廓,如果是扇形区域轮廓,则选取另一幅图像的灰度值作为重叠区域像素的灰度值;如果不是扇形区域轮廓,则按照加权平滑法处理;这样进行拼接后的平滑能够达到很好的效果,在保持了边界特征的同时,自然缝合;至此,通过上面一系列步骤,就完成了所有帧声纳图像的拼接。
CN201410107314.1A 2014-03-21 2014-03-21 一种前扫声纳图像序列拼接方法 Active CN103903237B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410107314.1A CN103903237B (zh) 2014-03-21 2014-03-21 一种前扫声纳图像序列拼接方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410107314.1A CN103903237B (zh) 2014-03-21 2014-03-21 一种前扫声纳图像序列拼接方法

Publications (2)

Publication Number Publication Date
CN103903237A true CN103903237A (zh) 2014-07-02
CN103903237B CN103903237B (zh) 2017-03-29

Family

ID=50994544

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410107314.1A Active CN103903237B (zh) 2014-03-21 2014-03-21 一种前扫声纳图像序列拼接方法

Country Status (1)

Country Link
CN (1) CN103903237B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104182949A (zh) * 2014-08-18 2014-12-03 武汉大学 基于直方图特征点配准的影像匀色与融合方法及系统
CN105182350A (zh) * 2015-09-26 2015-12-23 哈尔滨工程大学 一种应用特征跟踪的多波束声呐目标探测方法
CN105869193A (zh) * 2016-03-31 2016-08-17 哈尔滨工程大学 基于uuv的侧扫声纳图像辅助判读方法
CN108256420A (zh) * 2017-12-05 2018-07-06 交通运输部规划研究院 一种利用多光谱分析监测港口特定地物的方法
CN108550165A (zh) * 2018-03-18 2018-09-18 哈尔滨工程大学 一种基于局部不变特征的图像匹配方法
CN109031319A (zh) * 2018-07-26 2018-12-18 江苏科技大学 一种侧扫声纳图像拼接系统及其方法
CN109658386A (zh) * 2018-11-26 2019-04-19 江苏科技大学 一种声纳图像管线检测系统及方法
CN110208764A (zh) * 2019-05-05 2019-09-06 南京航空航天大学 基于电磁散射计算的动态海洋大型场景回波仿真方法
CN110349174A (zh) * 2019-06-28 2019-10-18 佛山科学技术学院 一种滑轨多参数测量方法以及测量装置
CN111292413A (zh) * 2020-02-24 2020-06-16 浙江大华技术股份有限公司 图像模型的处理方法及装置、存储介质、电子装置
CN113724176A (zh) * 2021-08-23 2021-11-30 广州市城市规划勘测设计研究院 一种多摄像头动作捕捉无缝衔接方法、装置、终端及介质
CN118015237A (zh) * 2024-04-09 2024-05-10 松立控股集团股份有限公司 基于全局相似性最佳接缝的多视角图像拼接方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102012513A (zh) * 2010-06-29 2011-04-13 上海大学 前视声纳图像的实时拼接方法和系统
US8213740B1 (en) * 2009-05-18 2012-07-03 The United States Of America, As Represented By The Secretary Of The Navy Coherent image correlation
CN102622732A (zh) * 2012-03-14 2012-08-01 上海大学 一种前扫声纳图像拼接方法
CN103606139A (zh) * 2013-09-09 2014-02-26 上海大学 一种声纳图像拼接方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8213740B1 (en) * 2009-05-18 2012-07-03 The United States Of America, As Represented By The Secretary Of The Navy Coherent image correlation
CN102012513A (zh) * 2010-06-29 2011-04-13 上海大学 前视声纳图像的实时拼接方法和系统
CN102622732A (zh) * 2012-03-14 2012-08-01 上海大学 一种前扫声纳图像拼接方法
CN103606139A (zh) * 2013-09-09 2014-02-26 上海大学 一种声纳图像拼接方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
NATALIA HURTOS 等: "Fourier-based Registrations for Two-Dimensional Forward-Looking Sonar Image Mosaicing", 《2012 IEEE/RSJ INTERNATIONAL CONFERENCE ON INTELLIGENT ROBOTS AND SYSTEMS》 *
刘奇 等: "基于SURF特征匹配的图像拼接算法", 《测控技术》 *
郭军: "基于SURF的声纳图像配准与融合方法研究", 《测绘与空间地理信息》 *

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104182949A (zh) * 2014-08-18 2014-12-03 武汉大学 基于直方图特征点配准的影像匀色与融合方法及系统
CN104182949B (zh) * 2014-08-18 2017-02-15 武汉大学 基于直方图特征点配准的影像匀色与融合方法及系统
CN105182350A (zh) * 2015-09-26 2015-12-23 哈尔滨工程大学 一种应用特征跟踪的多波束声呐目标探测方法
CN105869193A (zh) * 2016-03-31 2016-08-17 哈尔滨工程大学 基于uuv的侧扫声纳图像辅助判读方法
CN105869193B (zh) * 2016-03-31 2018-09-28 哈尔滨工程大学 基于uuv的侧扫声纳图像辅助判读方法
CN108256420A (zh) * 2017-12-05 2018-07-06 交通运输部规划研究院 一种利用多光谱分析监测港口特定地物的方法
CN108256420B (zh) * 2017-12-05 2018-11-23 天津大学 一种利用多光谱分析监测港口特定地物的方法
CN108550165A (zh) * 2018-03-18 2018-09-18 哈尔滨工程大学 一种基于局部不变特征的图像匹配方法
CN109031319A (zh) * 2018-07-26 2018-12-18 江苏科技大学 一种侧扫声纳图像拼接系统及其方法
CN109658386A (zh) * 2018-11-26 2019-04-19 江苏科技大学 一种声纳图像管线检测系统及方法
CN109658386B (zh) * 2018-11-26 2023-07-25 江苏科技大学 一种声纳图像管线检测系统及方法
CN110208764A (zh) * 2019-05-05 2019-09-06 南京航空航天大学 基于电磁散射计算的动态海洋大型场景回波仿真方法
CN110349174A (zh) * 2019-06-28 2019-10-18 佛山科学技术学院 一种滑轨多参数测量方法以及测量装置
CN110349174B (zh) * 2019-06-28 2023-04-25 佛山科学技术学院 一种滑轨多参数测量方法以及测量装置
CN111292413A (zh) * 2020-02-24 2020-06-16 浙江大华技术股份有限公司 图像模型的处理方法及装置、存储介质、电子装置
CN113724176A (zh) * 2021-08-23 2021-11-30 广州市城市规划勘测设计研究院 一种多摄像头动作捕捉无缝衔接方法、装置、终端及介质
CN118015237A (zh) * 2024-04-09 2024-05-10 松立控股集团股份有限公司 基于全局相似性最佳接缝的多视角图像拼接方法及系统

Also Published As

Publication number Publication date
CN103903237B (zh) 2017-03-29

Similar Documents

Publication Publication Date Title
CN103903237A (zh) 一种前扫声纳图像序列拼接方法
CN102622732A (zh) 一种前扫声纳图像拼接方法
Aulinas et al. Feature extraction for underwater visual SLAM
Yang et al. Concrete defects inspection and 3D mapping using CityFlyer quadrotor robot
CN103325112B (zh) 动态场景中运动目标快速检测方法
CN105279372B (zh) 一种确定建筑物高度的方法和装置
CN103971406B (zh) 基于线结构光的水下目标三维重建方法
US11948344B2 (en) Method, system, medium, equipment and terminal for inland vessel identification and depth estimation for smart maritime
CN105182350B (zh) 一种应用特征跟踪的多波束声呐目标探测方法
CN103606139A (zh) 一种声纳图像拼接方法
CN105809626A (zh) 一种自适应光线补偿的视频图像拼接方法
CN104091324A (zh) 一种基于连通域分割的棋盘格图像快速特征匹配算法
CN103813099A (zh) 一种基于特征点匹配的视频防抖方法
CN107808161A (zh) 一种基于光视觉的水下目标识别方法
CN104966063A (zh) 基于gpu与cpu协同计算的矿井多摄像机视频融合方法
Lipschutz et al. New methods for horizon line detection in infrared and visible sea images
CN103258321A (zh) 一种图像拼接方法
Xi et al. Review of underwater machine vision technology and its applications
CN108010075B (zh) 一种基于多特征联合的局部立体匹配方法
CN110021029A (zh) 一种适用于rgbd-slam的实时动态配准方法及存储介质
CN105550981A (zh) 一种基于Lucas-Kanade算法的图像配准和拼接方法
Reggiannini et al. Seafloor analysis and understanding for underwater archeology
Huang et al. An underwater image enhancement method for simultaneous localization and mapping of autonomous underwater vehicle
CN110349172A (zh) 基于图像处理和双目立体测距的输电线路防外破预警方法
CN117332370A (zh) 一种水下目标声光全景协同识别装置及识别方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20221109

Address after: 200444 Room 190, Building A, 5/F, Building 1, No. 1000 Zhenchen Road, Baoshan District, Shanghai

Patentee after: Jinghai Intelligent Equipment Co.,Ltd.

Address before: 200444 No. 99, upper road, Shanghai, Baoshan District

Patentee before: Shanghai University

TR01 Transfer of patent right