CN116612001A - 图像拼接方法以及装置 - Google Patents

图像拼接方法以及装置 Download PDF

Info

Publication number
CN116612001A
CN116612001A CN202310551074.3A CN202310551074A CN116612001A CN 116612001 A CN116612001 A CN 116612001A CN 202310551074 A CN202310551074 A CN 202310551074A CN 116612001 A CN116612001 A CN 116612001A
Authority
CN
China
Prior art keywords
image
undistorted
matching
target
shape template
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310551074.3A
Other languages
English (en)
Inventor
冯鹏鹏
谢佳
李彤辉
陈佳杰
金涛
吴田田
杨新梅
成星
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xi'an Aerospace Electromechanical Intelligent Manufacturing Co ltd
Original Assignee
Xi'an Aerospace Electromechanical Intelligent Manufacturing Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xi'an Aerospace Electromechanical Intelligent Manufacturing Co ltd filed Critical Xi'an Aerospace Electromechanical Intelligent Manufacturing Co ltd
Priority to CN202310551074.3A priority Critical patent/CN116612001A/zh
Publication of CN116612001A publication Critical patent/CN116612001A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • G06T3/608Rotation of whole images or parts thereof by skew deformation, e.g. two-pass or three-pass rotation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种图像拼接方法以及装置。其中,方法包括获取第一匹配图像与第二匹配图像,并截取第一匹配图像中的标定物作为形状模板;并对第一匹配图像和第二匹配图像进行畸变消除处理,得到第一无畸变图像与第二无畸变图像;再基于形状模板,对第一无畸变图像与第二无畸变图像进行形状模板匹配计算,得到第一坐标、第二坐标、目标缩放比例与目标旋转角度;根据第一坐标、第二坐标、目标缩放比例与目标旋转角度,分别对第一无畸变图像与第二无畸变图像进行裁剪然后再拼接,得到目标图像。本申请实现了在不影响图像拼接效果的前提下,降低了图像拼接的难度,提高了图像拼接的效率。

Description

图像拼接方法以及装置
技术领域
本申请涉及数字图像处理技术领域,尤其涉及一种图像拼接方法以及装置。
背景技术
图像拼接技术是机器视觉领域内的一个研究热点,对于尺寸较大的目标对象,单个相机无法做到将整个对象展现在同一图像中,因此需要通过单个相机移动至不同位置或者多个相机安装在不同位置进行图像采集,然后采用图像拼接技术将所获得的图像按照一定顺序进行拼接,进而实现全图显示尺寸较大的目标。
当前图像拼接技术是先对图像进行特征点提取,再利用图像特征点之间的对应关系形成映射矩阵,最后完成图像拼接。基于特征点的图像拼接对待拼接图像质量具有较高的要求,待拼接图像之间必须具有一定比例的重合区域,且在重合区域内必须具有一定数量的特征点,同时满足上述两个条件,才能够保证图像拼接效果。但是在实际工业领域内,经常存在相机之间重合区域较小且重合区域内特征点数量不足的现象,从而导致进行图像拼接的难度较大,进而导致图像拼接的效率较低。
发明内容
本申请实施例的目的在于提出一种图像拼接方法,在不影响图像拼接效果的前提下,降低进行图像拼接的难度,以提高图像拼接的效率。
为了解决上述技术问题,本申请实施例提供一种图像拼接方法,包括:
获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取所述第一匹配图像中的标定物,作为形状模板;
对所述第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于所述形状模板,对所述第一无畸变图像进行形状模板匹配计算,得到第一坐标,其中,所述第一坐标为所述标定物在所述第一无畸变图像中的坐标;
获取转换相机位于所述基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对所述第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于所述形状模板,对所述第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度;
基于所述第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像;
基于所述目标缩放比例以及所述目标旋转角度,将所述第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于所述第二坐标,对所述待裁剪图像进行裁剪,得到第二待拼接图像;
将所述第一待拼接图像与所述第二待拼接图像进行拼接,得到目标图像。
为了解决上述技术问题,本申请实施例提供一种图像拼接装置,包括:
形状模板生成模块,用于获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取所述第一匹配图像中的标定物,作为形状模板;
第一模板匹配模块,用于对所述第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于所述形状模板,对所述第一无畸变图像进行形状模板匹配计算,得到第一坐标,其中,所述第一坐标为所述标定物在所述第一无畸变图像中的坐标;
第二模板匹配模块,用于获取转换相机位于所述基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对所述第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于所述形状模板,对所述第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度;
第一裁剪模块,用于基于所述第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像;
第二裁剪模块,用于基于所述目标缩放比例以及所述目标旋转角度,将所述第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于所述第二坐标,对所述待裁剪图像进行裁剪,得到第二待拼接图像;
拼接模块,用于将所述第一待拼接图像与所述第二待拼接图像进行拼接,得到目标图像。
本发明实施例提供了一种图像拼接方法以及装置。其中,方法包括:获取基准相机的标定物图像作为第一匹配图像,并截取第一匹配图像中的标定物,作为形状模板;对第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于形状模板,对第一无畸变图像进行形状模板匹配计算,得到第一坐标,其中,第一坐标为标定物在第一无畸变图像中的坐标;获取转换相机位于基准相机位姿下的标定物图像作为第二匹配图像,并对第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于形状模板,对第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度;基于第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像;基于目标缩放比例以及目标旋转角度,将第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于第二坐标,对待裁剪图像进行裁剪,得到第二待拼接图像;将第一待拼接图像与第二待拼接图像进行拼接,得到目标图像。本申请实施例通过在多相机视场重合区域内采集标定物图像,利用形状模板分别与各个相机无畸变的标定物图像进行模板匹配,以确定图像拼接所需要的相关数据进而完成图像拼接,实现了在不影响图像拼接效果的前提下,降低了图像拼接的难度,提高了图像拼接的效率。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的图像拼接方法流程的一实现流程图;
图2是本申请实施例提供的图像拼接方法中子流程的一实现流程图;
图3是本申请实施例提供的图像拼接方法中用于相机标定的标准标定板示意图;
图4是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图5是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图6是本申请实施例提供的图像拼接方法中形状模板匹配的示意图;
图7是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图8是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图9是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图10是本申请实施例提供的图像拼接方法中图像裁剪的示意图;
图11是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图12是本申请实施例提供的图像拼接方法中子流程的又一实现流程图;
图13是本申请实施例提供的图像拼接方法中图像拼接的示意图;
图14是本申请实施例提供的图像拼接装置示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整的描述。
下面结合附图和实施方式对本发明进行详细说明。
请参阅图1,图1示出了该图像拼接方法的一种具体实施方式。需注意的是,若有实质上相同的结果,本发明的方法并不以图1所示的流程顺序为限,该方法包括如下步骤:
S1:获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取第一匹配图像中的标定物,作为形状模板。
具体的,在本申请实施例中,形状模板是通过以下步骤得到的:获取基准相机的标定物图像作为第一匹配图像;识别第一匹配图像中的标定物,得到识别结果;基于识别结果,截取标定物,得到形状模板。
进一步的,识别结果包括标定物在第一匹配图像的坐标以及标定物的形状等。标定物是可以人为设置的,形状一般为三角形或四边形,但由于后续需通过形状模板的匹配求得旋转角度,所以标定物不能为圆形。将标定物从第一匹配图像上截取下来后,作为形状模板。需要说明的是,在本实施例中,以双相机为例,对该图像拼接方法流程进行说明。将其中一个相机作为基准相机,另一个作为转换相机,以基准相机为基准,旋转转换相机,使转换相机拍摄的图像整体角度与基准相机拍摄的图像整体角度保持一致。将各相机分别安装在需要进行拼接的零部件对应处,保证双相机间具有一定的重合区域,同时保证相机成像方向一致。对基准相机与转换相机进行光圈、焦距等参数调整,使所有相机所采集的图像灰度质量相同或者相近。
请参阅图2,图2示出了步骤S1之前的一种具体实施方式,详叙如下:
S1a1:获取基准相机在基准相机视场与转换相机视场共同区域内的标准标定板图像作为第一标定图像。
S1a2:获取转换相机在基准相机视场与转换相机视场共同区域内的标准标定板图像作为第二标定图像。
S1a3:根据标准标定板分别在第一标定图像与第二标定图像中的位置,得到基准相机与转换相机的相对位姿关系。
请参阅图3,图3是本申请实施例提供的图像拼接方法中用于相机标定的标准标定板示意图。具体的,在两个相机视场共有区域内,利用如图3所示的标准标定板放置不同位置和角度,各相机分别采集图像7张左右。此处要保证标准标定板在同一位置时,两个相机所拍摄的图像相对应,即标准标定板在同一个位置下,基准相机与转换相机各采集一张图像,采集7张时,标准标定板需变换7次位置与角度。采集完成后,利用每组相对应的标准标定板图像获取两个相机之间的相对位姿关系,相对位姿关系包括标准标定板在同一位置与角度下时,转换相机所拍摄的标准标定板图像相对于基准相机所拍摄的标准标定板图像产生的旋转与平移,最后以7组旋转量与平移量的平均值作为最终的两相机的相对位姿关系。
需要说明的是,采集图像的数量不一定要是7张,也可以是其他数量,3张以上即可,数量越多,结果相对越准确。
请参阅图4,图4示出了步骤S1a1之前的一种具体实施方式,详叙如下:
S1b1:获取基准相机视场的标准标定板图像与转换相机视场的标准标定板图像。
S1b2:基于基准相机的标准标定板图像对基准相机的内参进行标定,得到基准相机的内参。
S1b3:基于转换相机的标准标定板图像对转换相机的内参进行标定,得到转换相机的内参。
具体的,在相机安装完成后,将基准相机与转换相机的视场大小设置为相同,在本实施例中,设置两个相机视场大小均为3840×2160。对两相机光圈和焦距进行调整,使两相机图像内部灰度值分布相同或者相近。同时保证两相机周围外部环境一致,以保证图像质量不受到外部环境干扰。基准相机视场的标准标定板图像与转换相机视场的标准标定板图像分别包括多张不同位置与不同角度的图像。
进一步的,两相机分别采集如图3所示标准标定板在各自视场内不同位置角度的标准标定板图像各约16张。根据基准相机的标准标定板图像与转换相机的标准标定板图像,采用张正友相机标定法对基准相机的内参与转换相机的内参进行标定,从而得到基准相机的内参与转换相机的内参。张正友相机标定法克服了传统标定法需要的高精度标定物的缺点,而仅需使用一个打印出来的棋盘格就可以。同时相对于自标定而言,提高了精度,便于操作。张正友相机标定法的具体操作与原理为本领域公知常识,在此不再赘述。需要说明的是,此时各相机采集的标准标定板图像的数量不一定要为16张,也可以是其他数量,采集的图像越多,根据内参对图像进行畸变消除的效果越好。
S2:对第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于形状模板,对第一无畸变图像进行形状模板匹配计算,得到第一坐标。
请参阅图5,图5示出了步骤S2的一种具体实施方式,详叙如下:
S21:基于基准相机的内参,对第一匹配图像进行畸变消除处理,得到第一无畸变图像。
S22:分别计算形状模板的面积与第一无畸变图像的面积。
S23:将第一无畸变图像均分为N个分块。
S24:计算形状模板与N个分块的相似度,得到第一相似度集。
S25:获取第一相似度集中最大值对应的分块作为目标分块。
S26:基于目标分块在第一无畸变图像中的坐标,得到第一坐标。
具体的,请参阅图6,图6为本申请实施例提供的图像拼接方法中形状模板匹配的示意图。根据之前步骤已经求得的基准相机的内参,对第一匹配图像进行畸变消除处理,将进行了畸变消除处理后的第一匹配图像作为第一无畸变图像。通过计算第一无畸变图像的面积与形状模板的面积的比值,将第一无畸变图像均分为N个分块,每个分块的面积与形状模板的面积相等,N的值为第一匹配图像的面积与形状模板的面积的比值。然后将形状模板与每一个分块进行对比,相似度最高的即为目标分块,然后根据该目标分块在第一无畸变图像中的位置坐标,得到第一坐标。第一坐标为标定物在第一无畸变图像的坐标。在本实施例中,形状模板为三角形,以该三角形的权重中心点坐标作为形状模板在第一匹配图像中的坐标。
进一步的,在该实施例中,形状模板与每一分块只需进行形状的对比,因为第一无畸变图像中的标定物并无旋转与缩放。通过标定物在第一无畸变图像中的坐标,可确定第一无畸变图像进行图像拼接的位置,有利于提高图像拼接效果。
S3:获取转换相机位于基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于形状模板,对第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度。
请参阅图7,图7示出了步骤S3的一种具体实施方式,详叙如下:
S31:基于基准相机与转换相机的相对位姿关系,获取转换相机位于基准相机位姿下的标定物图像,作为第二匹配图像。
S32:基于转换相机的内参,对第二匹配图像进行畸变消除处理,得到第二无畸变图像。
S33:分别计算形状模板的面积与第二无畸变图像的面积。
S34:将第二无畸变图像均分为M个分块。
S35:计算形状模板与M个分块的相似度,得到第二相似度集。
S36:获取第二相似度集中的最大值对应的分块作为预匹配分块。
S37:计算预匹配分块相对于形状模板的缩放比例,得到目标缩放比例,并判断目标缩放比例是否在预设范围内。
S38:若目标缩放比例在预设范围内,基于预匹配分块在第二无畸变图像中的坐标,得到第二坐标,以及将预匹配分块与形状模板进行旋转角度对比,得到目标旋转角度。
具体的,第二坐标为标定物在第二无畸变图像中的坐标,目标旋转角度为第二无畸变图像中的标定物相对于形状模板的旋转角度,目标缩放比例为第二无畸变图像中的标定物相对于形状模板的缩放比例。已求得基准相机与转换相机的相对位姿关系,将转换相机转换到基准相机位姿下采集标定物图像,并作为第二匹配图像。通过已求得的转换相机的内参,对第二匹配图像进行畸变消除处理,得到第二无畸变图像。通过计算第二无畸变图像的面积与形状模板的面积的比值,将第二无畸变图像均分为M个分块,每个分块的面积与形状模板的面积相等,M的值为第二无畸变图像的面积与形状模板的面积的比值。然后将形状模板与每一个分块进行对比,由于标定物在第二无畸变图像中会产生缩放,因此此时相似度最高的分块并不一定就是最匹配的。需对预匹配分块相对于形状模板的缩放比例进行计算,判断是否满足预设范围。在本实施例中,预设范围是:缩放比例为0.9~1.1。只有在预匹配分块相对于形状模板的缩放比例满足预设范围时,该预匹配分块在第二无畸变图像中的位置才是形状模板在该第二无畸变图像的位置。
进一步的,得到形状模板在该第二无畸变图像的位置后,可确定第二无畸变图像进行图像拼接的位置,有利于提高图像拼接效果。
请参阅图8,图8示出了步骤S36之后的一种具体实施方式,详叙如下:
S36a1:若目标缩放比例不在预设范围内,将第二相似度集根据大小进行排序,得到递减第二相似度集。
S36a2:获取递减第二相似度集中最大值后一位的相似度,作为目标相似度。
S36a3:基于目标相似度,获取目标相似度对应的分块,作为待匹配分块。
S36a4:计算待匹配分块相对于形状模板的缩放比例,得到待匹配参数,并判断待匹配参数是否在预设范围内。
S36a5:若待匹配参数在预设范围内,基于待匹配分块在第二无畸变图像中的坐标,得到第二坐标,以及将待匹配分块与形状模板进行旋转角度对比,得到目标旋转角度。
S36a6:若待匹配参数不在预设范围内,重新获取第二相似度集中目标相似度后一位的相似度,以作为新的目标相似度,并重新计算待匹配参数,直至重新计算的待匹配参数在预设范围内,以得到第二坐标与目标旋转角度。
具体的,由于相似度对比的是形状,相似度最大表示分块与形状模板的形状最相似。而在第二无畸变图像中,由于标定物会产生缩放,所以相似度最大并不意味着该分块与形状模板最匹配,还需判断其缩放比例是否满足预设范围。将相似度进行排序,从相似度最大值开始判断,满足预设范围时停止,此时的分块即为与形状模板最匹配的分块。通过该分块在第二无畸变图像的位置,即得到标定物在第二无畸变图像的坐标。
S4:基于第一坐标,对第一无畸变图像进行裁剪,得到第一待拼接图像。
请参阅图9,图9示出了步骤S4的一种具体实施方式,详叙如下:
S41:基于第一坐标以及预设的长度与宽度,在第一无畸变图像中构建第一裁剪区域。
S42:基于第一裁剪区域,对第一无畸变图像进行裁剪,得到第一待拼接图像。
具体的,请参阅图10,图10是本申请实施例提供的图像拼接方法中图像裁剪的示意图。已在上述步骤中求得标定物在第一匹配图像的坐标,再根据人为设置的预设的长度与宽度,可构建一个矩形区域作为第一裁剪区域,从第一无畸变图像上裁剪下该第一裁剪区域,即为第一待拼接图像。
进一步的,在同一预设长度与宽度下,该矩形区域有两种选择,即以标定物在第一无畸变图像的坐标点像水平与垂直方向延伸到预设长度与宽度。由于在本实施例中,基准相机与转换相机呈水平安装,所以标定物在第一无畸变图像的坐标点中水平方向上只能向左延伸构建矩形区域,在垂直方向不受限制,所以存在两种选择,可根据实际情况选择。
S5:基于目标缩放比例以及目标旋转角度,将第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于第二坐标,对待裁剪图像进行裁剪,得到第二待拼接图像。
请参阅图11,图11示出了步骤S5的一种具体实施方式,详叙如下:
S51:基于目标缩放比例以及目标旋转角度,对第二无畸变图像进行缩放和旋转,以使得第二无畸变图像调整为与第一无畸变图像相同的大小和角度,得到待裁剪图像。
S52:基于第二坐标以及预设的长度与宽度,在第二无畸变图像中构建第二裁剪区域。
S53:基于第二裁剪区域,对待裁剪图像进行裁剪,得到第二待拼接图像。
具体的,在已求得标定物在第二无畸变图像的缩放比例与旋转角度的情况下,对第二无畸变图像进行缩放与旋转,以使得第二无畸变图像调整为与第一无畸变图像相同的大小和角度,从而得到待裁剪图像,此时该待裁剪图像中的标定物相对于第一无畸变图像中的形状模板缩放比例为1且旋转角度相同,有利于后续进行图像拼接。
进一步的,已在上述步骤中求得标定物在第二无畸变图像的坐标,再根据人为设置的预设的长度与宽度,可构建一个矩形区域作为第二裁剪区域,从待裁剪图像上裁剪下该第二裁剪区域,即为第二待拼接图像。
进一步的,在同一预设长度与宽度下,该矩形区域有两种选择,即以标定物在第二无畸变图像的坐标点像水平与垂直方向延伸到预设长度与宽度。由于在本实施例中,基准相机与转换相机呈水平安装,所以标定物在第二无畸变图像的坐标点在水平方向上只能向右延伸构建矩形区域,在垂直方向不受限制,所以存在两种选择,可根据实际情况选择。
S6:将第一待拼接图像与第二待拼接图像进行拼接,得到目标图像。
请参阅图12,图12示出了步骤S6的一种具体实施方式,详叙如下:
S61:获取预先创建的拼接背景图像,其中,将第一裁剪区域的高作为拼接背景图像的长度,将第一裁剪区域与第二裁剪区域宽之和作为拼接背景图像的宽度;
S62:按照预设顺序,将第一待拼接图像与第二待拼接图像放置于拼接背景图像之中,得到预拼接图像;
S63:对预拼接图像进行平滑操作,得到目标图像。
具体的,如图13所示,图13是本申请实施例提供的图像拼接方法中图像拼接的示意图。预先创建的拼接背景图像为矩形的空白图像,该矩形的空白图像高为第一裁剪区域的高,宽度为第一裁剪区域与第二裁剪区域宽度之和。预设顺序为第一待拼接图像水平在左,第二待拼接图像水平在右。将第一待拼接图像与第二待拼接图像放置在矩形的空白图像中,即完成初步拼接,得到预拼接图像。再对预拼接图像进行平滑操作,即得到拼接完成的目标图像。
进一步的,图像在拼接完成后,由于两个相机图像内部灰度会存在差异,对拼接图像内拼接区域进行适度平滑能够减少差异性,使图像过渡区域较为自然,提高图像质量,从而实现提高拼接效果。
在本实施例中,通过在多相机视场重合区域内采集标定物图像,然后利用形状模板分别与各个相机的标定物图像进行模板匹配,以确定图像拼接所需要的相关数据进而完成图像拼接,实现了在不影响图像拼接效果的前提下,降低了图像拼接的难度,提高了图像拼接的效率。
请参考图14,作为对上述图1所示方法的实现,本申请提供了一种图像拼接装置的一个实施例,该装置实施例与图1所示的方法实施例相对应。
如图14所示,本实施例的图像拼接装置包括:形状模板生成模块71、第一模板匹配模块72、第二模板匹配模块73、第一裁剪模块74、第二裁剪模块75及拼接模块76,其中:
形状模板生成模块,用于获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取第一匹配图像中的标定物,作为形状模板;
第一模板匹配模块,用于对第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于形状模板,对第一无畸变图像进行形状模板匹配计算,得到第一坐标,其中,第一坐标为标定物在第一无畸变图像中的坐标;
第二模板匹配模块,用于获取转换相机位于基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于形状模板,对第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度;
第一裁剪模块,用于基于所述第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像;
第二裁剪模块,用于基于所述目标缩放比例以及所述目标旋转角度,将所述第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于所述第二坐标,对所述待裁剪图像进行裁剪,得到第二待拼接图像;
拼接模块,用于将所述第一待拼接图像与所述第二待拼接图像进行拼接,得到目标图像。
进一步的,该图像拼接装置还包括相对位姿模块与内参标定模块。
其中,相对位姿模块包括:
第一标定获取单元,用于获取所述基准相机在所述基准相机视场与所述转换相机视场共同区域内的标准标定板图像作为第一标定图像,其中,所述第一标定图像包括多张不同位置与不同角度的图像;
第二标定获取单元,用于获取所述转换相机在所述基准相机视场与所述转换相机视场共同区域内的标准标定板图像作为第二标定图像;
相对位姿求解单元,用于根据标准标定板分别在所述第一标定图像与所述第二标定图像中的位置,得到所述基准相机与所述转换相机的相对位姿关系。
内参标定模块包括:
标准标定图像获取单元,用于获取所述基准相机视场的标准标定板图像与所述转换相机视场的标准标定板图像,其中,所述基准相机视场的标准标定板图像与所述转换相机视场的标准标定板图像分别包括多张不同位置与不同角度的图像;
基准内参求解单元,用于基于所述基准相机所拍摄的标准标定板图像对所述基准相机的内参进行标定,得到所述基准相机的内参;
转换内参求解单元,用于基于所述转换相机所拍摄的标准标定板图像对所述转换相机的内参进行标定,得到所述转换相机的内参。
进一步的,第一模板匹配模块72包括:
第一畸变消除单元,用于基于所述基准相机的内参,对所述第一匹配图像进行畸变消除处理,得到第一无畸变图像;
第一面积计算单元,用于分别计算所述形状模板的面积与所述第一无畸变图像的面积;
第一图像均分单元,用于将所述第一无畸变图像均分为N个分块,其中,每个分块的面积与所述形状模板的面积相等,N的值为所述第一无畸变图像的面积与所述形状模板的面积的比值;
第一相似度计算单元,用于计算所述形状模板与所述N个分块的相似度,得到第一相似度集;
目标分块获取单元,用于获取所述第一相似度集中最大值对应的分块作为目标分块;
第一坐标获取单元,用于基于所述目标分块在所述第一无畸变图像中的坐标,得到所述第一坐标。
进一步的,第二模板匹配模块73包括:
位姿转换单元,用于基于所述基准相机与所述转换相机的所述相对位姿关系,获取所述转换相机位于所述基准相机位姿下所拍摄的标定物图像,作为第二匹配图像;
第二畸变消除单元,用于基于所述转换相机的内参,对所述第二匹配图像进行畸变消除处理,得到第二无畸变图像;
第二面积计算单元,用于分别计算所述形状模板的面积与所述第二无畸变图像的面积;
第二图像均分单元,用于将所述第二无畸变图像均分为M个分块,其中,每个分块的面积与所述形状模板的面积相等,M的值为所述第二无畸变图像的面积与所述形状模板的面积的比值;
第二相似度计算单元,用于计算所述形状模板与所述M个分块的相似度,得到第二相似度集;
预匹配分块获取单元,用于获取所述第二相似度集中的最大值对应的分块作为预匹配分块;
缩放比例判断单元,用于计算所述预匹配分块相对于所述形状模板的缩放比例,得到目标缩放比例,并判断所述目标缩放比例是否在预设范围内;
第二坐标获取单元,用于若所述目标缩放比例在预设范围内,基于所述预匹配分块在所述第二无畸变图像中的坐标,得到所述第二坐标,以及将所述预匹配分块与所述形状模板进行旋转角度对比,得到所述目标旋转角度。
其中,第二模板匹配模块73还包括重匹配单元,重匹配单元包括:
相似度排序子单元,用于若所述目标缩放比例不在所述预设范围内,将所述第二相似度集根据大小进行排序,得到递减第二相似度集;
相似度重获取子单元,用于获取所述递减第二相似度集中最大值后一位的相似度,作为目标相似度;
待匹配分块获取子单元,用于基于所述目标相似度,获取所述目标相似度对应的分块,作为待匹配分块;
缩放比例重计算子单元,用于计算所述待匹配分块相对于所述形状模板的缩放比例,得到待匹配参数,并判断所述待匹配参数是否在预设范围内;
第二坐标重获取子单元,用于若所述待匹配参数在所述预设范围内,基于所述待匹配分块在所述第二无畸变图像中的坐标,得到所述第二坐标,以及将所述待匹配分块与所述形状模板进行旋转角度对比,得到所述目标旋转角度;
循环获取子单元,用于若所述待匹配参数不在所述预设范围内,重新获取所述第二相似度集中目标相似度后一位的相似度,以作为新的目标相似度,并重新计算所述待匹配参数,直至所述重新计算的待匹配参数在所述预设范围内,以得到所述第二坐标与所述旋转角度。
进一步的,第一裁剪模块74包括:
第一裁剪区域构建单元,用于基于所述第一坐标以及预设的长度与宽度,在所述第一无畸变图像中构建第一裁剪区域;
第一待拼接单元,用于基于所述第一裁剪区域,对所述第一无畸变图像进行裁剪,得到第一待拼接图像。
进一步的,第二裁剪模块75包括:
待裁剪图像获取单元,用于基于所述目标缩放比例以及所述目标旋转角度,对所述第二无畸变图像进行缩放和旋转,以使得所述第二无畸变图像调整为与所述第一无畸变图像相同的大小和角度,得到待裁剪图像;
第二裁剪区域构建单元,用于基于所述第二坐标以及预设的长度与宽度,在所述第二无畸变图像中构建第二裁剪区域;
第二待拼接单元,用于基于所述第二裁剪区域,对所述待裁剪图像进行裁剪,得到所述第二待拼接图像。
进一步的,拼接模块76包括:
拼接背景单元,用于获取预先创建的拼接背景图像,其中,将所述第一裁剪区域的高作为所述拼接背景图像的长度,将所述第一裁剪区域与所述第二裁剪区域宽之和作为所述拼接背景图像的宽度;
预拼接单元,用于按照预设顺序,将所述第一待拼接图像与所述第二待拼接图像放置于所述拼接背景图像之中,得到预拼接图像;
平滑单元,用于对所述预拼接图像进行平滑操作,得到目标图像。
在本实施例中,通过在多相机视场重合区域内采集标定物图像,利用形状模板分别与各个相机无畸变的标定物图像进行模板匹配,以确定图像拼接所需要的相关数据进而完成图像拼接,实现了在不影响图像拼接效果的前提下,降低了图像拼接的难度,提高了图像拼接的效率。
以上,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (10)

1.一种图像拼接方法,其特征在于,包括:
获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取所述第一匹配图像中的标定物,作为形状模板;
对所述第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于所述形状模板,对所述第一无畸变图像进行形状模板匹配计算,得到第一坐标,其中,所述第一坐标为所述标定物在所述第一无畸变图像中的坐标;
获取转换相机位于所述基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对所述第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于所述形状模板,对所述第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度;
基于所述第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像;
基于所述目标缩放比例以及所述目标旋转角度,将所述第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于所述第二坐标,对所述待裁剪图像进行裁剪,得到第二待拼接图像;
将所述第一待拼接图像与所述第二待拼接图像进行拼接,得到目标图像。
2.根据权利要求1所述的图像拼接方法,其特征在于,所述获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取所述第一匹配图像中的标定物,作为形状模板之前,所述方法还包括:
获取所述基准相机在所述基准相机视场与所述转换相机视场共同区域内的标准标定板图像作为第一标定图像,其中,所述第一标定图像包括多张不同位置与不同角度的图像;
获取所述转换相机在所述基准相机视场与所述转换相机视场共同区域内的标准标定板图像作为第二标定图像;
根据标准标定板分别在所述第一标定图像与所述第二标定图像中的位置,得到所述基准相机与所述转换相机的相对位姿关系。
3.根据权利要求2所述的图像拼接方法,其特征在于,所述获取所述基准相机在所述基准相机视场与所述转换相机视场共同区域内的标准标定板图像作为第一标定图像之前,所述方法还包括:
获取所述基准相机视场的标准标定板图像与所述转换相机视场的标准标定板图像,其中,所述基准相机视场的标准标定板图像与所述转换相机视场的标准标定板图像分别包括多张不同位置与不同角度的图像;
基于所述基准相机的标准标定板图像对所述基准相机的内参进行标定,得到所述基准相机的内参;
基于所述转换相机的标准标定板图像对所述转换相机的内参进行标定,得到所述转换相机的内参。
4.根据权利要求3所述的图像拼接方法,其特征在于,所述对所述第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于所述形状模板,对所述第一无畸变图像进行形状模板匹配计算,得到第一坐标,包括:
基于所述基准相机的内参,对所述第一匹配图像进行畸变消除处理,得到所述第一无畸变图像;
分别计算所述形状模板的面积与所述第一无畸变图像的面积;
将所述第一无畸变图像均分为N个分块,其中,每个分块的面积与所述形状模板的面积相等,N的值为所述第一无畸变图像的面积与所述形状模板的面积的比值;
计算所述形状模板与所述N个分块的相似度,得到第一相似度集;
获取所述第一相似度集中最大值对应的分块作为目标分块;
基于所述目标分块在所述第一无畸变图像中的坐标,得到所述第一坐标。
5.根据权利要求3所述的图像拼接方法,其特征在于,所述获取转换相机位于所述基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对所述第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于所述形状模板,对所述第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度,包括:
基于所述基准相机与所述转换相机的所述相对位姿关系,获取所述转换相机位于所述基准相机位姿下的标定物图像,作为所述第二匹配图像;
基于所述转换相机的内参,对所述第二匹配图像进行畸变消除处理,得到所述第二无畸变图像;
分别计算所述形状模板的面积与所述第二无畸变图像的面积;
将所述第二无畸变图像均分为M个分块,其中,每个分块的面积与所述形状模板的面积相等,M的值为所述第二无畸变图像的面积与所述形状模板的面积的比值;
计算所述形状模板与所述M个分块的相似度,得到第二相似度集;
获取所述第二相似度集中的最大值对应的分块作为预匹配分块;
计算所述预匹配分块相对于所述形状模板的缩放比例,得到所述目标缩放比例,并判断所述目标缩放比例是否在预设范围内;
若所述目标缩放比例在预设范围内,基于所述预匹配分块在所述第二无畸变图像中的坐标,得到所述第二坐标,以及将所述预匹配分块与所述形状模板进行旋转角度对比,得到所述目标旋转角度。
6.根据权利要求5所述的图像拼接方法,其特征在于,所述计算所述预匹配分块相对于所述形状模板的缩放比例,得到目标缩放比例,并判断所述目标缩放比例是否在预设范围内之后,所述方法还包括:
若所述目标缩放比例不在所述预设范围内,将所述第二相似度集根据大小进行排序,得到递减第二相似度集;
获取所述递减第二相似度集中最大值后一位的相似度,作为目标相似度;
基于所述目标相似度,获取所述目标相似度对应的分块,作为待匹配分块;
计算所述待匹配分块相对于所述形状模板的缩放比例,得到待匹配参数,并判断所述待匹配参数是否在预设范围内;
若所述待匹配参数在所述预设范围内,基于所述待匹配分块在所述第二无畸变图像中的坐标,得到所述第二坐标,以及将所述待匹配分块与所述形状模板进行旋转角度对比,得到所述目标旋转角度;
若所述待匹配参数不在所述预设范围内,重新获取所述第二相似度集中目标相似度后一位的相似度,以作为新的目标相似度,并重新计算所述待匹配参数,直至所述重新计算的待匹配参数在所述预设范围内,以得到所述第二坐标与所述目标旋转角度。
7.根据权利要求1至6任一项所述的图像拼接方法,其特征在于,所述基于所述第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像,包括:
基于所述第一坐标以及预设的长度与宽度,在所述第一无畸变图像中构建第一裁剪区域;
基于所述第一裁剪区域,对所述第一无畸变图像进行裁剪,得到第一待拼接图像。
8.根据权利要求7所述的图像拼接方法,其特征在于,所述基于所述目标缩放比例以及所述目标旋转角度,将所述第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于所述第二坐标,对所述待裁剪图像进行裁剪,得到第二待拼接图像,包括:
基于所述目标缩放比例以及所述目标旋转角度,对所述第二无畸变图像进行缩放和旋转,以使得所述第二无畸变图像调整为与所述第一无畸变图像相同的大小和角度,得到待裁剪图像;
基于所述第二坐标以及预设的长度与宽度,在所述第二无畸变图像中构建第二裁剪区域;
基于所述第二裁剪区域,对所述待裁剪图像进行裁剪,得到所述第二待拼接图像。
9.根据权利要求8所述的图像拼接方法,其特征在于,所述将所述第一待拼接图像与所述第二待拼接图像进行拼接,得到目标图像,包括:
获取预先创建的拼接背景图像,其中,将所述第一裁剪区域的高作为所述拼接背景图像的长度,将所述第一裁剪区域与所述第二裁剪区域宽之和作为所述拼接背景图像的宽度;
按照预设顺序,将所述第一待拼接图像与所述第二待拼接图像放置于所述拼接背景图像之中,得到预拼接图像;
对所述预拼接图像进行平滑操作,得到所述目标图像。
10.一种图像拼接装置,其特征在于,包括:
形状模板生成模块,用于获取基准相机所拍摄的标定物图像作为第一匹配图像,并截取所述第一匹配图像中的标定物,作为形状模板;
第一模板匹配模块,用于对所述第一匹配图像进行畸变消除处理,得到第一无畸变图像,并基于所述形状模板,对所述第一无畸变图像进行形状模板匹配计算,得到第一坐标,其中,所述第一坐标为所述标定物在所述第一无畸变图像中的坐标;
第二模板匹配模块,用于获取转换相机位于所述基准相机位姿下所拍摄的标定物图像作为第二匹配图像,并对所述第二匹配图像进行畸变消除处理,得到第二无畸变图像,且基于所述形状模板,对所述第二无畸变图像进行形状模板匹配计算,得到第二坐标、目标缩放比例以及目标旋转角度;
第一裁剪模块,用于基于所述第一坐标,对所述第一无畸变图像进行裁剪,得到第一待拼接图像;
第二裁剪模块,用于基于所述目标缩放比例以及所述目标旋转角度,将所述第二无畸变图像进行缩放和旋转,得到待裁剪图像,并基于所述第二坐标,对所述待裁剪图像进行裁剪,得到第二待拼接图像;
拼接模块,用于将所述第一待拼接图像与所述第二待拼接图像进行拼接,得到目标图像。
CN202310551074.3A 2023-05-16 2023-05-16 图像拼接方法以及装置 Pending CN116612001A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310551074.3A CN116612001A (zh) 2023-05-16 2023-05-16 图像拼接方法以及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310551074.3A CN116612001A (zh) 2023-05-16 2023-05-16 图像拼接方法以及装置

Publications (1)

Publication Number Publication Date
CN116612001A true CN116612001A (zh) 2023-08-18

Family

ID=87682878

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310551074.3A Pending CN116612001A (zh) 2023-05-16 2023-05-16 图像拼接方法以及装置

Country Status (1)

Country Link
CN (1) CN116612001A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117218244A (zh) * 2023-11-07 2023-12-12 武汉博润通文化科技股份有限公司 一种基于图像识别的3d动画模型智能生成方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117218244A (zh) * 2023-11-07 2023-12-12 武汉博润通文化科技股份有限公司 一种基于图像识别的3d动画模型智能生成方法
CN117218244B (zh) * 2023-11-07 2024-02-13 武汉博润通文化科技股份有限公司 一种基于图像识别的3d动画模型智能生成方法

Similar Documents

Publication Publication Date Title
CN111750820B (zh) 影像定位方法及其系统
US5548326A (en) Efficient image registration
CN107270810B (zh) 多方位投影的投影仪标定方法及装置
JP5074322B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置
CN116612001A (zh) 图像拼接方法以及装置
CN112254663B (zh) 一种基于影像识别的平面变形监测测量方法及其系统
CN107909544B (zh) 一种图像校正方法及系统
CN112132908A (zh) 一种基于智能检测技术的相机外参数标定方法及设备
CN114549871A (zh) 一种无人机航拍图像与卫星影像匹配方法
WO2005054779A1 (ja) 非接触三次元計測方法および装置
CN110675350A (zh) 云台相机视场坐标映射方法、装置、存储介质及云台相机
CN108805940B (zh) 一种变倍相机在变倍过程中跟踪定位的方法
JP2005003463A (ja) キャリブレーションチャート画像表示装置、キャリブレーション装置、キャリブレーション方法
CN107067441B (zh) 摄像机标定方法及装置
CN118014832A (zh) 一种基于线性特征不变性的图像拼接方法及相关装置
CN110769220B (zh) 投影设备的对焦方法及对焦装置
CN109496326B (zh) 一种图像处理方法、设备及系统
CN113221805A (zh) 一种电力设备图像位置获取方法及装置
JP4776983B2 (ja) 画像合成装置及び画像合成方法
CN117196955A (zh) 一种全景图像拼接方法及终端
CN113375555A (zh) 一种基于手机影像的电力线夹测量方法及系统
JP2023523364A (ja) 視覚測位方法、装置、機器及び可読記憶媒体
CN112422942A (zh) 白平衡同步方法、镜头模组、电子设备
CN112991442A (zh) 一种基于图像识别的运动平台定位方法
CN111028296A (zh) 球机焦距值估算方法、装置、设备及存储装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination