CN110443774A - 一种城区正射影像镶嵌处理方法及系统 - Google Patents
一种城区正射影像镶嵌处理方法及系统 Download PDFInfo
- Publication number
- CN110443774A CN110443774A CN201910606187.2A CN201910606187A CN110443774A CN 110443774 A CN110443774 A CN 110443774A CN 201910606187 A CN201910606187 A CN 201910606187A CN 110443774 A CN110443774 A CN 110443774A
- Authority
- CN
- China
- Prior art keywords
- image
- node
- network
- line
- inlaying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000004888 barrier function Effects 0.000 claims abstract description 44
- 238000010586 diagram Methods 0.000 claims abstract description 34
- 238000005457 optimization Methods 0.000 claims abstract description 31
- 238000006073 displacement reaction Methods 0.000 claims abstract description 21
- 239000000284 extract Substances 0.000 claims abstract description 5
- 238000012545 processing Methods 0.000 claims description 29
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000010276 construction Methods 0.000 claims description 6
- 230000000877 morphologic effect Effects 0.000 claims description 3
- 238000012946 outsourcing Methods 0.000 claims description 2
- 238000009966 trimming Methods 0.000 description 8
- 238000004519 manufacturing process Methods 0.000 description 7
- VMXUWOKSQNHOCA-UKTHLTGXSA-N ranitidine Chemical compound [O-][N+](=O)\C=C(/NC)NCCSCC1=CC=C(CN(C)C)O1 VMXUWOKSQNHOCA-UKTHLTGXSA-N 0.000 description 7
- 238000013459 approach Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000012937 correction Methods 0.000 description 2
- 235000013399 edible fruits Nutrition 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000000149 penetrating effect Effects 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
- G06T5/30—Erosion or dilatation, e.g. thinning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种城区正射影像镶嵌处理方法及系统,首先基于Voronoi图生成初始镶嵌网络,确定每幅影像在镶嵌结果上的贡献范围。然后基于DSM数据对镶嵌网络顶点进行调整,避免拼接漏洞的产生,同时使节点避开建筑与树木等存在投影差的障碍区域。初始镶嵌网络构建调整后,再对每段镶嵌线进行走向优化。首先对搜索范围内的DSM数据进行处理以构建搜索代价影像,然后使用改进的JPS算法搜索并评估关键的跳跃节点,提高搜索效率,并提取出一条避开障碍区域的最优镶嵌线。根据优化后的镶嵌线进行影像拼接,形成最终高质量的无缝镶嵌影像。
Description
技术领域
本发明属于摄影测量领域技术领域,涉及一种城区正射影像镶嵌处理方法及 系统,具体涉及一种高性能、自动化的城区正射影像镶嵌处理方法及系统。
背景技术
数字正射影像是利用数字高程模型(Digital Elevation Model,DEM)经逐像 元几何纠正制作而成,而DEM没有顾及地面上目标的高度情况,所以正射纠正 后的影像上地表实体的顶部没有纠正到应有的平面位置(与底部重合),所以在 建筑、树木等高出地表区域的地方仍存在投影差,如果生成的镶嵌线穿越了影像 上这些区域,那么镶嵌影像上会存在明显的影像几何错位,破坏地物的完整性。 相比于常规正射影像,城区影像镶嵌的难度更大,由于建筑复杂,车辆、树木等 地物繁多,地物遮挡严重,更是需要使镶嵌线避开相邻影像在重叠区域的差异部 分,才能使得镶嵌后色彩过波平滑且没有几何错位,保证DOM产品生产质量。 目前在实际DOM生产应用中仍需进行人工干预才能避免镶嵌线穿越建筑物等明 显地物目标,生产效率较低,已经不适应DOM自动化生产的需求。因此,如何 避免镶嵌线穿过建筑、树木等障碍区域并获得高质量的无缝镶嵌影像已经成为计 算机视觉、摄影测量与遥感领域研究热点之一。
传统多幅影像镶嵌方法采用两两镶嵌模式,处理测区范围内多幅DOM影像 时,先将前两幅进行拼接,将拼接结果作为一幅整体影像与待镶嵌影像中的下一 幅影像进行镶嵌,单航带内影像全部拼接完成后再进行航带间影像的两两拼接, 依此类推,直到所有影像都完成镶嵌。可以看出,这种处理模式严重依赖镶嵌过 程,处理效率低,无法满足大范围、海量影像的镶嵌处理。
镶嵌线的自动提取可分为两步:(1)构建搜索代价影像;(2)在代价影像上 搜索最优镶嵌线。已有算法大多基于影像重叠区域灰度差异信息构建搜索代价影 像,但此类信息只近似体现了建筑物等障碍区边缘,且并不连续,导致接缝线穿 越障碍的情况不可避免;此外,由于航空遥感影像的像素分辨率普遍较高,现有 的一些镶嵌线搜索方法所采取逐像素路径搜索策略,处理过程中需评估的像素节 点数量过于庞大,搜索效率较低,需要进一步改善。
发明内容
为了解决上述技术问题,本发明提供了一种高性能、自动化的城区正射影像 镶嵌处理方法及系统。
本发明的方法所采用的技术方案是:一种城区正射影像镶嵌处理方法,其特 征在于,包括以下步骤:
步骤1:针对待处理原始正射影像数据,依次读入待处理影像,追踪提取每 幅影像有效范围多边形,并对多边形进行化简抽稀;
步骤2:基于影像有效范围多边形中心点集生成Voronoi图作为初始镶嵌网 络,初始镶嵌网络中每个Voronoi多边形对步骤1中的每幅待处理影像进行划分, 从而确定单幅影像在最终镶嵌结果影像上的有效区域;
步骤3:将DOM影像范围内对应的DSM灰度图进行阈值分割,将其分为 地面区域以及障碍区域,所述障碍区域为存在投影差的区域,包括建筑区域、树 木区域、车辆区域;然后进行数学形态学处理使得障碍区域边缘向外扩展;
步骤4:对步骤2中的初始镶嵌网络顶点的位置进行调整,获得调整后的镶 嵌网络;
结合进行数学形态学处理的DSM灰度图将初始镶嵌网络顶点位置调整至最 近的地面区域,同时保证位于对应三幅影像有效重叠区域内,从而获得无拼接漏 洞的镶嵌影像;
步骤5:针对顶点调整后的镶嵌网络,基于改进的JPS算法及进行数学形态 学处理的DSM灰度图对其中每一条镶嵌线段进行走向优化,使其避开存在投影 差的障碍区域;
步骤6:每一条镶嵌线段优化完成后即构成了优化后的整体镶嵌网络,然后 根据各幅影像的镶嵌多边形位置,将影像填充至最终的镶嵌结果影像上,形成高 质量的无缝镶嵌影像。
作为优选,步骤1中,使用八邻域边界追踪提取每幅影像有效范围多边形, 并使用Douglas–Peucker算法对多边形进行化简抽稀。
作为优选,所述对多边形进行化简抽稀,是在点集中选定某一起点以及距离 其最远的一个节点,然后将多边形拆分为两条曲线段进行抽稀处理。
作为优选,步骤2中,网络中每个Voronoi多边形对每幅影像进行最邻近划 分。
作为优选,步骤5中,对于每一段镶嵌线,在其最小外包矩形的基础上向外 扩展一定范围,对扩展后形成的矩形区域内的DSM数据按照步骤3中的方法进 行处理获得DSM处理图像,也称为搜索代价图;然后在搜索影像上进行镶嵌线 的自动提取,获得为优化后的镶嵌网络。
作为优选,步骤5中,采用改进的JPS算法在搜索影像上进行镶嵌线的自动 提取;具体实现包括以下子步骤:
步骤5.1:识别与去除搜索代价图中无关节点;
步骤5.2:寻找图上关键跳跃点;
跳跃点寻找规则如下:
(1)水平/垂直移动:从当前节点x出发,根据直线后继上、下、左、右方向 分别移动到不同的邻居节点n,n∈neighbours(x);其中,每个节点x的邻居节 点集合记为neighbours(x);
a)如果节点n有强制邻点,则返回节点n作为节点x的跳跃后继节点;
b)如果节点n为障碍物或者出了地图,忽略这个方向;
c)如果a)、b)都没有发生,则从节点n继续移动并按以上步骤进行判断;
(2)斜对角移动,从当前节点x出发,根据斜对角后继左上、右上、左下、 右下方向分别移动到不同的邻居节点n,n∈neighbours(x);
a)如果节点n有强制邻点,则返回节点n作为节点x的跳跃后继节点;
b)如果节点n为障碍物或者出了地图,忽略这个方向;
c)从节点n按规则(1)进行水平/垂直移动,如果节点n有跳跃后继节点,则 返回节点n为跳跃点;
d)如果以上都没有发生,则从节点n继续移动并按以上步骤进行判断;
算法执行过程中从父节点p(x)移动至当前节点x,遵循节点修剪规则依次修 剪其邻居节点集合,直到遇见节点y,由于节点y拥有强制邻点z,所以节点y 被标记为节点x的跳跃后继节点;
步骤5.3:基于JPS算法的镶嵌线优化;
当遇见跳跃节点式,计算该跳跃节点搜索代价值以评估其是否被选为最终镶 嵌线的节点,超过初始镶嵌线一定范围外的点将直接被忽略;
其中,搜索代价值f(n)为:
其中g(n)为起始节点至当前节点的实际代价,h(n)为当前节点至目标节点 的欧式距离,d为节点n至初始镶嵌线的直线距离,dmax为优化后的镶嵌线允许 偏移初始镶嵌线的最大距离;η为影响程度因子;
步骤5.4:基于DSM与JPS算法的镶嵌线自动提取;
(1)将起点加入到Open表,将Close表置为空,从起点开始向其全部邻居 节点方向前进;其中,Open表和Close表分别存储未处理和已处理的节点;
(2)若Open表中有节点,取出其中F值最低的节点n,若n为目标节点,则 镶嵌线搜索完成,根据节点n的父节点方向遍历到起点形成一条最优镶嵌线;否 则将其从Open表中移除并加入Close表,不再对其进行评估;
(3)从节点n往其八邻域邻居节点方向搜索跳跃后继节点t;
a)如果没有返回跳跃后继或返回的跳跃节点t在Close表中,忽略;
b)当返回的节点t不在Open表中时,将其加入到Open表并计算对应F值, 将节点n作为节点t的父节点,并记录节点t的父节点;
c)当返回的节点t在Open表中时,计算t的新g值并与Open表中的代价 作比较,如果当前节点的g值更小,则更新Open表中的对应的代价值F和其父 节点方向;
(4)重复进行步骤(2)~(3),直到镶嵌线搜索完成。
本发明的系统所采用的技术方案是:
一种城区正射影像镶嵌处理系统,其特征在于:包括模块一、模块二、模块 三、模块四、模块五、模块六;
所述模块一、用于针对待处理原始正射影响数据,依次读入待处理影像,追 踪提取每幅影像有效范围多边形,并对多边形进行化简抽稀;
所述模块二、基于影像有效范围多边形中心点集生成Voronoi图作为初始镶 嵌网络,初始镶嵌网络中每个Voronoi多边形对每幅待处理影像进行划分,从而 确定单幅影像在最终镶嵌结果影像上的有效区域;
所述模块三、将DOM影像范围内对应的DSM灰度图进行阈值分割,将其 分为地面区域以及障碍区域,所述障碍区域为存在投影差的区域,包括建筑区域、 树木区域、车辆区域;然后进行数学形态学处理使得障碍区域边缘向外扩展;
所述模块四,用于对初始镶嵌网络顶点的位置进行调整,获得调整后的镶嵌 网络;结合进行数学形态学处理的DSM灰度图将初始镶嵌网络顶点位置调整至 最近的地面区域,同时保证位于对应三幅影像有效重叠区域内,从而获得无拼接 漏洞的镶嵌影像;
所述模块五,用于针对顶点调整后的镶嵌网络,基于改进的JPS算法及进行 数学形态学处理的DSM灰度图对其中每一条镶嵌线段进行走向优化,使其避开 存在投影差的障碍区域;
所述模块六,用于每一条镶嵌线段优化完成后即构成了优化后的整体镶嵌网 络,然后根据各幅影像的镶嵌多边形位置,将影像填充至最终的镶嵌结果影像上, 形成高质量的无缝镶嵌影像。
本发明主要针对已有影像镶嵌方法存在的一些问题,研究适用于城区正射影 像快速生产的高性能、自动化影像镶嵌模型,提高大范围DOM产品的生产质量 和生产效率。首先生成仅考虑几何关系的正射影像全局镶嵌线网络,满足影像快 速拼接镶嵌的要求。此外,对初始镶嵌线进行优化调整,使其避开建筑、树木等 存在投影差的障碍区域,获得高质量的无缝镶嵌DOM影像。
相对于现有技术,本发明的有益效果是:
对于全局初始镶嵌网络生成,改进了基于Voronoi图的初始镶嵌网络生成方 法。基于影像有效区域中心点集构建Voronoi图作为初始镶嵌网络,并结合DSM 数据对镶嵌网络进行顶点调整。最终形成高质量的无缝镶嵌影像,并使得顶点避 开障碍区域,以便对镶嵌网络进行整体优化。
对于初始镶嵌网络的优化调整,提出了基于DSM与改进的JPS算法的镶嵌线 自动提取方法。基于DSM数据构建搜索代价影像,使用改进的JPS算法搜索影像 上的关键跳跃点并进行评估以构建最优镶嵌线,提高了处理效率,并使得镶嵌线 避开建筑、树木和车辆等存在投影差的地物区域。形成高质量的无缝镶嵌影像。
附图说明
图1为本发明实施例的Voronoi图示意;
图2为本发明实施例的镶嵌效果示意图;
图3为本发明实施例的调整限制范围示意图;
图4为本发明实施例的节点修剪示例图;
图5为本发明实施例的水平(垂直)跳跃与对角跳跃示例图;
图6为本发明实施例的路径示意图;
图7为本发明实施例的JPS算法搜索镶嵌线示意图;
图8为本发明实施例的强制穿越障碍物情况示意图;
图9为本发明实施例的流程图;
图10为本发明实施例的影像有效区域提取与点集抽稀示意图;
图11为本发明实施例的DSM处理结果示意图;
图12为本发明实施例的数据集1初始镶嵌网络生成与顶点调整结果示意图;
图13为本发明实施例的影像镶嵌结果示意图。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合附图及实施例对 本发明作进一步的详细描述,应当理解,此处所描述的实施示例仅用于说明和解 释本发明,并不用于限定本发明。
维诺图(Voronoi Diagram)是计算几何领域关于空间划分的基础数据结构, 其由一组由连接相邻两点直线的垂直平分线组成的连续多边形,其数学定义如下: 假设P={p1,p2,p3,…,pn},(3≤n<∞)是二维欧氏空间(平面)上n个互不相同的 点,则可以把为点pi的Voronoi多边形V(pi)定义为:
V(pi)={p∈R2|d(p,pi)≤d(p,pj),i,j=1,2,3,…,n,i≠j};
其中p为平面上的任意点,d(p,pi)与d(p,pj)分别为点p与pi和pj的欧氏 距离,也即空间中两点最短直线距离,点A(xa,ya)与B(xb,yb)的欧氏距离dis(ed) 为:
则集合V={V(p1),V(p2),V(p3),…,V(pn)}所定义的图形即为以点集P为 种子点所生成的Voronoi图,如图1所示。
原始影像基于DEM进行数字微分纠正后得到DOM影像,由于影像正射纠 正时通常会发生旋转或是DEM数据缺失,导致DOM影像上会出现无效值区域。 一般而言无效值区域分布于影像的四周,像素值被标记为0或255,可以采用边 缘跟踪的方法获取影像有效多边形边界,此时的边界是由连续的像素点连接构成, 节点数量过多,不利于后期进行多边形求交等操作。为了减少计算复杂度,可以 使用Douglas–Peuker算法进行点集抽稀。由于影像有效区域边界为闭合多边形, 可以在点集中选定某一起点以及距离其最远的一个节点,然后将多边形拆分为两 条曲线段进行抽稀处理。
实际进行大范围多幅正射影像镶嵌处理时,首先获取每幅DOM的有效多边 形范围,然后以各个多边形中心点为种子点生成Voronoi图,构成影像集的初始 镶嵌网络,网络中每个Voronoi多边形对每幅影像进行划分,从而确定单幅影像 在最终镶嵌结果影像上的有效区域。基于Voronoi图的镶嵌网络生成方法处理时 与输入影像顺序无关,可以避免中间结果镶嵌冗余产生,提高影像镶嵌的灵活性 与DOM产品的生产效率。
基于常规Voronoi图生成的镶嵌网络是根据影像中心点集的对区域进行分割, 没有考虑到Voronoi多边形是否位于影像有效区域内,从而可能会在最终镶嵌影 像上产生一些无数据的漏洞,尤其是当影像分布不均或是影像间重叠区域不足的 时候。所以需要对镶嵌多边形的顶点进行相应调整以避免镶嵌漏洞的产生。 Voronoi图中的每个顶点与三条边相连,并对应与其相关的三幅DOM影像。只 需让Voronoi网络中每一个顶点都位于与其相关的三幅影像有效多边形的重叠区 域内,即可保证镶嵌线落在影像的有效重叠区域,从而避免无数据漏洞的出现。 如图2所示,当顶点位于V1处时,镶嵌影像的部分区域无有效数据覆盖(图中黑 色区域),需将其调整至三张影像(P1,P2和P3)的重叠区域(图中灰色区域)内,即点V2,这样便可以避免空洞区域的产生,实现正射影像无缝镶嵌。
对于以效率优先的影像拼接处理中,一般只需实现无漏洞的拼接即可满足要 求。而为了生产高质量、高精度的大范围DOM,需要使得镶嵌线避开建筑、树 木等存在投影差的地物区域。当镶嵌网络中的顶点位于这些地物上时,镶嵌线经 过优化之后仍然会不可避免的穿越这些地物,产生几何错位与变形,所以顶点也 应避开存在投影差的地物区域。由于DSM数据能够直接体现地物的高度信息与 区域范围,并且一般与DOM产品一同生产,容易获取,故本文结合DSM数据 对镶嵌网络顶点位置进行进一步调整优化。
对于多级别的DSM灰度影像,使用阈值分割将其分为障碍区域(建筑物、 树木等)与非障碍区域(地面)。由于影像投影差的存在,顶点在DSM上紧贴 障碍区域边缘时在原始DOM上可能表现为已穿越了建筑物边缘部分。所以需要 对DSM二值图像进行形态学膨胀处理,填充建筑物与树木等障碍区域的空洞与 凹陷,并使边缘往外扩展,使得最终顶点偏离障碍区域;DSM处理完成后,基 于处理影像对顶点进行调整,具体方法如下:以初始顶点v为圆心,从0开始以 指定长度的步距不断增大半径r,在生成圆弧所经过的像素点集中,如果存在一 点v′同时满足:(1)点v′在处理后的DSM影像上的像素值为0;(2)点v′在有 三幅影像有效多边形重叠区域内。则以v′为新的顶点取代初始顶点v。
实际进行顶点调整时,为了保持镶嵌网络的拓扑性以及多边形凹凸性,需要 设置最大调整限制范围。如图3所示,灰色区域为影像有效多边形重叠区域,记 为VO;虚线区域为待调节顶点v相连接的三个Voronoi顶点构成的三角形,记为 VT。则顶点调整的范围应限于VO与VT的交集多边形内,如图3中阴影区域所示。
步骤5:针对无拼接漏洞的镶嵌影像,对其中每一条镶嵌线段进行走向优化, 使其避开存在投影差的障碍区域;
基于Voronoi图生成的初始镶嵌线是从起点至终点的一条直线,没有考虑到 避开建筑、树木和车辆等存在投影差的障碍区域,容易在镶嵌结果影像上出现几 何错位与色彩差异,所以还需对镶嵌线进行进一步的调整优化,使其避开地表障 碍区域从而实现高质量的影像镶嵌。
JPS算法是高效统一成本网格地图寻路算法,其是对传统A*搜索算法的优 化加速,同时还可以保持A*算法的最优性,其主要思想是忽略传统A*算法中大 量可能参与路径评估计算的节点,只寻找关键的跳跃点进行评估计算,跳过矩形 平坦区域的大量对称路径,极大的提高了搜索效率。JPS算法的核心内容包括: (1)图上无关节点的识别与去除,称之为节点修剪;(2)图上关键跳跃点的寻找。
节点修剪:定义网格地图上水平/垂直移动一步的花费为1,斜对角移动一步 的花费为节点修剪规则可表示下:对于格网中给定节点x,其父节点为p(x), 若满足以下条件则从x的邻居节点集合neighbours(x)中裁剪节点n(n∈neighbours(x)):
(1)存在从节点p(x)至节点n的路径π'=<p(x),n>,或从节点p(x)途径y至 节点n的路径π”=<p(x),y,n>,严格短于从节点p(x)途径x至节点n的路径 π=<p(x),x,n>。
(2)存在从节点p(x)途径y至节点n的路径π'=<p(x),y,n>,距离等于从节 点p(x)途径x至节点n的路径π=<p(x),x,n>,但π’先于π进行对角线移动。
图4为节点修剪示例,被裁剪的邻居点(灰色点)将在各个方向上被忽略, 仅需考虑标记为白色的节点。对于图(b)与(d),neighbours(x)中包含障碍物 (黑色点),可能无法修剪所有非自然邻点,还需要考虑一部分至多k个额外的 节点(0≤k≤2),称这些节点为当前节点x的强制邻点(图中圆圈标注的节点)。
跳跃点寻找:JPS算法执行搜索时,遵循节点修剪规则递归地修剪每个节点 x的邻居节点neighbours(x)集合,并寻找出关键的跳跃点作为后继节点,替换节 点x的每一个邻居节点,跳过中间无需访问的节点,从而消除路径对称性,将传 统A*算法中逐格网式搜索变成跳跃式搜索。节点递归修剪过程中遇到障碍物或 者找到一个跳跃点时即停止当前的递归,跳跃点寻找规则如下:
(1)水平/垂直移动:从当前节点x出发,根据直线后继方向(上下左右)分 别移动到不同的邻居节点n,n∈neighbours(x):
d)如果节点n有强制邻点,则返回节点n作为节点x的跳跃后继节点;
e)如果节点n为障碍物或者出了地图,忽略这个方向;
f)如果a)、b)都没有发生,则从节点n继续移动并按以上步骤进行判断。
(2)斜对角移动,从当前节点x出发,根据斜对角后继方向(左上、右上、 左下左、右下)分别移动到不同的邻居节点n,n∈neighbours(x):
e)如果节点n有强制邻点,则返回节点n作为节点x的跳跃后继节点;
f)如果节点n为障碍物或者出了地图,忽略这个方向;
g)从节点n按规则(1)进行水平/垂直移动,如果节点n有跳跃后继节点,则 返回节点n为跳跃点。
h)如果以上都没有发生,则从节点n继续移动并按以上步骤进行判断。
如图5(a)所示,算法执行过程中从父节点p(x)移动至当前节点x,遵循节点 修剪规则依次修剪其邻居节点集合,直到遇见节点y,由于节点y拥有强制邻点 z,所以节点y被标记为节点x的跳跃后继节点。在5(b)中,往对角方向移动至 某个节点时,还需从该节点往水平和竖直方向移动进行跳跃点的寻找。当前进至 节点y时,由于节点y拥有跳跃后继y'(节点y'拥有强制邻点z),故节点y被返 回为节点x的跳跃后继节点。
算法每次寻找出跳跃点后停止递归的过程,并对其搜索代价做出评估,而后 从评估选出的新的跳跃点出发继续开始执行上述节点修剪递归步骤,直到搜索中 遇见目标节点,路径规划完成。根据节点修剪规则和跳跃规则,算法可以打破矩 形格网中存在的大量对称路径,对图中不需要访问的节点进行修剪,仅对关键的 跳跃点进行评估,相比与A*或Dijkstra算法,JPS算法搜索效率大为提高。 JPS算法搜索过程中,当遇见跳跃节点式,需要计算其搜索代价值以评估其是否 被选为最终镶嵌线的节点,搜索代价评估函数f(n)通过如下公式计算:
f(n)=g(n)+h(n);
其中g(n)为起始节点至当前节点的实际代价,h(n)为当前节点至目标节点 的欧式距离。
由于航空数码影像中心投影成像的方式,DOM在投影中心区域几何畸变较 小,图像质量较高。Voronoi图是基于离散点的最邻近分割,基于Voronoi图生 成的初始镶嵌网络中多边形大致保留了影像质量较好的区域,图像畸变和地物投 影差较小。优化后的镶嵌线在保证避免穿越地面障碍区域的前提下应当尽量沿着 初始镶嵌线分布,以保证镶嵌结果的精度。为此可在节点搜索代价评估函数f(n) 中距离限制对镶嵌线走向进行优化,节点距离初始镶嵌线越近,对应代价估值变 小,更有可能被选择为镶嵌线节点。反之节点偏离初始镶嵌线越远,其代价估值 越大,越有可能被舍弃。也可以设置一个最大可偏离的范围,超过初始镶嵌线一 定范围外的点将直接被忽略。优化后的评价函数可表示如下:
上式中,d为节点n至初始镶嵌线的直线距离,如图6所示;dmax为优化后 的镶嵌线允许偏移初始镶嵌线的最大距离;η为影响程度因子,一般来说可取 η∈[0.5,1]以保证评价函数f(n)对最终镶嵌线走向有着较为合适的影响效果。
JPS算法进行最优路径提取(也即镶嵌线优化)操作时建立Open表和Close 表分别存储未处理和已处理的节点,基于DSM与JPS算法的镶嵌线自动提取方 法步骤如下:
(1)将起点加入到Open表,将Close表置为空,从起点开始向其全部邻居 节点方向前进。
(2)若Open表中有节点,取出其中F值最低的节点n,若n为目标节点, 则镶嵌线搜索完成,可根据节点n的父节点方向遍历到起点形成一条最优镶嵌线; 否则将其从Open表中移除并加入Close表,不再对其进行评估。
(3)从节点n往其八邻域邻居节点方向(其Parent方向无需考虑)搜索跳跃 后继节点t:
a)如果没有返回跳跃后继或返回的跳跃节点t在Close表中,忽略;
b)当返回的节点t不在Open表中时,将其加入到Open表并计算对应F值, 将节点n作为节点t的Parent节点,并记录节点t的Parent方向。
c)当返回的节点t在Open表中时,计算t的新g值并与Open表中的代价作 比较,如果当前节点的g值更小,则更新Open表中的对应的代价值F和 其父节点方向。
(4)重复进行步骤(2)~(3),直到镶嵌线搜索完成。
算法搜索流程如图7所示;
在某些极端情况下,路径搜索过程中可能出现DSM处理影像在搜索方向上 被障碍物完全隔断而导致镶嵌线搜索失败。在算法处理过程中表现为Open表为 空,没有跳跃后继节点用来扩展评估,算法无法继续执行。对此本文处理方法如 下:当镶嵌线处理过程中出现此情况时,在Close表中选择h(n)值最小的节点n。 首先根据节点n的parent方向往前查找生成第一段路径;然后从节点n开始以平 行于初始镶嵌线方向强制穿越障碍物,并以穿越方向上第一个非障碍点为新的起 点继续搜索下一段路径,直到搜索到目标节点,连接各段子路径可生成最终的镶 嵌线。算法强制穿越障碍示意图可见图8。
请见图9,本发明提供的一种城区正射影像镶嵌处理方法,包括以下步骤:
步骤1:针对待处理原始正射影像数据,依次读入待处理影像,使用八邻域 边界追踪提取每幅影像有效范围多边形,并使用Douglas–Peucker算法对多边形 进行化简抽稀。
图10为对DOM影像使进行八邻域边界追踪得到的有效区域(图10(a)中白 色线条),以及使用Douglas–Peucker算法对多边形进行化简抽稀得到的结果(图 10(b))。
步骤2:基于影像有效范围多边形中心点集生成Voronoi图作为初始镶嵌网 络,初始镶嵌网络中每个Voronoi多边形对步骤1中的每幅待处理影像进行划分, 从而确定单幅影像在最终镶嵌结果影像上的有效区域;
步骤3:将DOM影像范围内对应的DSM灰度图进行阈值分割,将其分为 地面区域以及障碍区域,所述障碍区域为存在投影差的区域,包括建筑区域、树 木区域、车辆区域;然后进行数学形态学处理使得障碍区域边缘向外扩展;
图11为对DSM数据进行相应处理得到的结果。
步骤4:对步骤2中的初始镶嵌网络顶点的位置进行调整,获得调整后的镶 嵌网络;
结合进行数学形态学处理的DSM灰度图将初始镶嵌网络顶点位置调整至最 近的地面区域,同时保证位于对应三幅影像有效重叠区域内,从而获得无拼接漏 洞的镶嵌影像;
图12为对多幅影像基于Voronoi图生成初始镶嵌网络后进行拼接得到的整 体镶嵌影像,其中蓝色线条是以DOM影像有效区域中心点为种子点生成的镶嵌 网络,白色线条为经顶点调整后的镶嵌网络,图12(c)、(d)和(e)分别为图12(b) 中白色框的局部放大显示。
步骤5:针对顶点调整后的镶嵌网络,基于改进的JPS算法及进行数学形态 学处理的DSM灰度图对其中每一条镶嵌线段进行走向优化,使其避开存在投影 差的障碍区域;
步骤6:每一条镶嵌线段优化完成后即构成了优化后的整体镶嵌网络,然后 根据各幅影像的镶嵌多边形位置,将影像填充至最终的镶嵌结果影像上,形成高 质量的无缝镶嵌影像;图13影像镶嵌结果示意图。
本发明还提供了一种城区正射影像镶嵌处理系统,包括模块一、模块二、模 块三、模块四、模块五、模块六;
模块一、用于针对待处理原始正射影响数据,依次读入待处理影像,追踪提 取每幅影像有效范围多边形,并对多边形进行化简抽稀;
模块二、基于影像有效范围多边形中心点集生成Voronoi图作为初始镶嵌网 络,初始镶嵌网络中每个Voronoi多边形对每幅待处理影像进行划分,从而确定 单幅影像在最终镶嵌结果影像上的有效区域;
模块三、将DOM影像范围内对应的DSM灰度图进行阈值分割,将其分为 地面区域以及障碍区域,障碍区域为存在投影差的区域,包括建筑区域、树木区 域、车辆区域;然后进行数学形态学处理使得障碍区域边缘向外扩展;
模块四,用于对初始镶嵌网络顶点的位置进行调整,获得调整后的镶嵌网络; 结合进行数学形态学处理的DSM灰度图将初始镶嵌网络顶点位置调整至最近的 地面区域,同时保证位于对应三幅影像有效重叠区域内,从而获得无拼接漏洞的 镶嵌影像;
模块五,用于针对顶点调整后的镶嵌网络,基于改进的JPS算法及进行数学 形态学处理的DSM灰度图对其中每一条镶嵌线段进行走向优化,使其避开存在 投影差的障碍区域;
模块六,用于每一条镶嵌线段优化完成后即构成了优化后的整体镶嵌网络, 然后根据各幅影像的镶嵌多边形位置,将影像填充至最终的镶嵌结果影像上,形 成高质量的无缝镶嵌影像。
应当理解的是,本说明书未详细阐述的部分均属于现有技术。
应当理解的是,上述针对较佳实施例的描述较为详细,并不能因此而认为是 对本发明专利保护范围的限制,本领域的普通技术人员在本发明的启示下,在不 脱离本发明权利要求所保护的范围情况下,还可以做出替换或变形,均落入本发 明的保护范围之内,本发明的请求保护范围应以所附权利要求为准。
Claims (7)
1.一种城区正射影像镶嵌处理方法,其特征在于,包括以下步骤:
步骤1:针对待处理原始正射影像数据,依次读入待处理影像,追踪提取每幅影像有效范围多边形,并对多边形进行化简抽稀;
步骤2:基于影像有效范围多边形中心点集生成Voronoi图作为初始镶嵌网络,初始镶嵌网络中每个Voronoi多边形对步骤1中的每幅待处理影像进行划分,从而确定单幅影像在最终镶嵌结果影像上的有效区域;
步骤3:将DOM影像范围内对应的DSM灰度图进行阈值分割,将其分为地面区域以及障碍区域,所述障碍区域为存在投影差的区域,包括建筑区域、树木区域、车辆区域;然后进行数学形态学处理使得障碍区域边缘向外扩展;
步骤4:对步骤2中的初始镶嵌网络顶点的位置进行调整,获得调整后的镶嵌网络;
结合进行数学形态学处理的DSM灰度图将初始镶嵌网络顶点位置调整至最近的地面区域,同时保证位于对应三幅影像有效重叠区域内,从而获得无拼接漏洞的镶嵌影像;
步骤5:针对顶点调整后的镶嵌网络,基于改进的JPS算法及进行数学形态学处理的DSM灰度图对其中每一条镶嵌线段进行走向优化,使其避开存在投影差的障碍区域;
步骤6:每一条镶嵌线段优化完成后即构成了优化后的整体镶嵌网络,然后根据各幅影像的镶嵌多边形位置,将影像填充至最终的镶嵌结果影像上,形成高质量的无缝镶嵌影像。
2.根据权利要求1所述的城区正射影像镶嵌处理方法,其特征在于:步骤1中,使用八邻域边界追踪算法提取每幅影像有效范围多边形,并使用Douglas–Peucker算法对多边形进行化简抽稀。
3.根据权利要求2所述的城区正射影像镶嵌处理方法,其特征在于:所述对多边形进行化简抽稀,是在点集中选定某一起点以及距离其最远的一个节点,然后将多边形拆分为两条曲线段使用Douglas–Peucker算法进行抽稀处理。
4.根据权利要求1所述的城区正射影像镶嵌处理方法,其特征在于:步骤2中,基于Voronoi图生成镶嵌网络并对每幅影像进行最邻近划分。
5.根据权利要求1所述的城区正射影像镶嵌处理方法,其特征在于:步骤5中,对于每一段镶嵌线,在其最小外包矩形的基础上向外扩展一定范围,对扩展后形成的矩形区域内的DSM数据按照按照步骤3中的方法进行处理获得DSM处理图像,也称为搜索代价图;然后在搜索影像上进行镶嵌线的自动提取,获得为优化后的镶嵌网络。
6.根据权利要求5所述的城区正射影像镶嵌处理方法,其特征在于:步骤5中,采用改进的JPS算法在搜索影像上进行镶嵌线的自动提取;具体实现包括以下子步骤:
步骤5.1:识别与去除搜索代价图中无关像素节点;
步骤5.2:寻找图上关键跳跃点;
步骤5.3:基于JPS算法的镶嵌线优化;
当遇见跳跃节点时,计算该跳跃节点搜索代价值以评估其是否被选为最终镶嵌线的节点,超过初始镶嵌线一定范围外的点将直接被忽略;
其中,搜索代价值f(n)为:
其中g(n)为起始节点至当前节点的实际代价,h(n)为当前节点至目标节点的欧式距离,d为节点n至初始镶嵌线的直线距离,dmax为优化后的镶嵌线允许偏移初始镶嵌线的最大距离;η为影响程度因子;
步骤5.4:基于DSM与JPS算法的镶嵌线自动提取;
(1)将起点加入到Open表,将Close表置为空,从起点开始向其全部邻居节点方向前进;其中,Open表和Close表分别存储未处理和已处理的节点;
(2)若Open表中有节点,取出其中F值最低的节点n,若n为目标节点,则镶嵌线搜索完成,根据节点n的父节点方向遍历到起点形成一条最优镶嵌线;否则将其从Open表中移除并加入Close表,不再对其进行评估;
(3)从节点n往其八邻域邻居节点方向搜索跳跃后继节点t;
a)如果没有返回跳跃后继或返回的跳跃节点t在Close表中,忽略;
b)当返回的节点t不在Open表中时,将其加入到Open表并计算对应F值,将节点n作为节点t的父节点,并记录节点t的父节点;
c)当返回的节点t在Open表中时,计算t的新g值并与Open表中的代价作比较,如果当前节点的g值更小,则更新Open表中的对应的代价值F和其父节点方向;
(4)重复进行步骤(2)~(3),直到镶嵌线搜索完成。
7.一种城区正射影像镶嵌处理系统,其特征在于:包括模块一、模块二、模块三、模块四、模块五、模块六;
所述模块一、用于针对待处理原始正射影像数据,依次读入待处理影像,追踪提取每幅影像有效范围多边形,并对多边形进行化简抽稀;
所述模块二、基于影像有效范围多边形中心点集生成Voronoi图作为初始镶嵌网络,初始镶嵌网络中每个Voronoi多边形对每幅待处理影像进行划分,从而确定单幅影像在最终镶嵌结果影像上的有效区域;
所述模块三、将DOM影像范围内对应的DSM灰度图进行阈值分割,将其分为地面区域以及障碍区域,所述障碍区域为存在投影差的区域,包括建筑区域、树木区域、车辆区域;然后进行数学形态学处理使得障碍区域边缘向外扩展;
所述模块四,用于对初始镶嵌网络顶点的位置进行调整,获得调整后的镶嵌网络;结合进行数学形态学处理的DSM灰度图将初始镶嵌网络顶点位置调整至最近的地面区域,同时保证位于对应三幅影像有效重叠区域内,从而获得无拼接漏洞的镶嵌影像;
所述模块五,用于针对顶点调整后的镶嵌网络,基于改进的JPS算法及进行数学形态学处理的DSM灰度图对其中每一条镶嵌线段进行走向优化,使其避开存在投影差的障碍区域;
所述模块六,用于每一条镶嵌线段优化完成后即构成了优化后的整体镶嵌网络,然后根据各幅影像的镶嵌多边形位置,将影像填充至最终的镶嵌结果影像上,形成高质量的无缝镶嵌影像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910606187.2A CN110443774A (zh) | 2019-07-05 | 2019-07-05 | 一种城区正射影像镶嵌处理方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910606187.2A CN110443774A (zh) | 2019-07-05 | 2019-07-05 | 一种城区正射影像镶嵌处理方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110443774A true CN110443774A (zh) | 2019-11-12 |
Family
ID=68429519
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910606187.2A Pending CN110443774A (zh) | 2019-07-05 | 2019-07-05 | 一种城区正射影像镶嵌处理方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110443774A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110910313A (zh) * | 2019-11-26 | 2020-03-24 | 劢微机器人科技(深圳)有限公司 | 基于维诺图的栅格地图拼接方法、装置及可读存储介质 |
CN111311622A (zh) * | 2020-01-30 | 2020-06-19 | 桂林理工大学 | 基于蚁群算法的多幅影像镶嵌线网的优化选择方法 |
CN111311750A (zh) * | 2020-01-17 | 2020-06-19 | 武汉大学 | 一种基于约束三角网的镶嵌线网络全局优化方法 |
CN112734630A (zh) * | 2020-12-30 | 2021-04-30 | 广州极飞科技股份有限公司 | 正射影像处理方法、装置、设备及存储介质 |
CN112967360A (zh) * | 2021-04-23 | 2021-06-15 | 自然资源部国土卫星遥感应用中心 | 顾及多维度的合成孔径雷达影像Voronoi多边形镶嵌方法 |
CN114708354A (zh) * | 2022-03-04 | 2022-07-05 | 广东省国土资源测绘院 | 一种镶嵌线的绘制方法、设备、介质及产品 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101206765A (zh) * | 2007-12-06 | 2008-06-25 | 武汉大学 | 一种接缝线网络的自动生成方法 |
CN106682787A (zh) * | 2017-01-09 | 2017-05-17 | 北京航空航天大学 | 一种基于wavefront算法的快速生成广义维诺图的方法 |
CN109213169A (zh) * | 2018-09-20 | 2019-01-15 | 湖南万为智能机器人技术有限公司 | 移动机器人的路径规划方法 |
WO2019031873A1 (en) * | 2017-08-11 | 2019-02-14 | Samsung Electronics Co., Ltd. | CONTINUOUS IMAGE ASSEMBLY |
-
2019
- 2019-07-05 CN CN201910606187.2A patent/CN110443774A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101206765A (zh) * | 2007-12-06 | 2008-06-25 | 武汉大学 | 一种接缝线网络的自动生成方法 |
CN106682787A (zh) * | 2017-01-09 | 2017-05-17 | 北京航空航天大学 | 一种基于wavefront算法的快速生成广义维诺图的方法 |
WO2019031873A1 (en) * | 2017-08-11 | 2019-02-14 | Samsung Electronics Co., Ltd. | CONTINUOUS IMAGE ASSEMBLY |
CN109213169A (zh) * | 2018-09-20 | 2019-01-15 | 湖南万为智能机器人技术有限公司 | 移动机器人的路径规划方法 |
Non-Patent Citations (2)
Title |
---|
GANG CHEN等: "Optimal Seamline Detection for Orthoimage Mosaicking Based on DSM and Improved JPS Algorithm", 《REMOTE SENSING》 * |
陈松 等: "基于Voronoi 图的正射影像镶嵌网络生成与优化方法", 《测绘通报》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110910313A (zh) * | 2019-11-26 | 2020-03-24 | 劢微机器人科技(深圳)有限公司 | 基于维诺图的栅格地图拼接方法、装置及可读存储介质 |
CN110910313B (zh) * | 2019-11-26 | 2023-07-14 | 劢微机器人科技(深圳)有限公司 | 基于维诺图的栅格地图拼接方法、装置及可读存储介质 |
CN111311750A (zh) * | 2020-01-17 | 2020-06-19 | 武汉大学 | 一种基于约束三角网的镶嵌线网络全局优化方法 |
CN111311622A (zh) * | 2020-01-30 | 2020-06-19 | 桂林理工大学 | 基于蚁群算法的多幅影像镶嵌线网的优化选择方法 |
CN111311622B (zh) * | 2020-01-30 | 2023-06-23 | 桂林理工大学 | 基于蚁群算法的多幅影像镶嵌线网的优化选择方法 |
CN112734630A (zh) * | 2020-12-30 | 2021-04-30 | 广州极飞科技股份有限公司 | 正射影像处理方法、装置、设备及存储介质 |
CN112734630B (zh) * | 2020-12-30 | 2022-09-13 | 广州极飞科技股份有限公司 | 正射影像处理方法、装置、设备及存储介质 |
CN112967360A (zh) * | 2021-04-23 | 2021-06-15 | 自然资源部国土卫星遥感应用中心 | 顾及多维度的合成孔径雷达影像Voronoi多边形镶嵌方法 |
CN112967360B (zh) * | 2021-04-23 | 2024-05-03 | 自然资源部国土卫星遥感应用中心 | 顾及多维度的合成孔径雷达影像Voronoi多边形镶嵌方法 |
CN114708354A (zh) * | 2022-03-04 | 2022-07-05 | 广东省国土资源测绘院 | 一种镶嵌线的绘制方法、设备、介质及产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110443774A (zh) | 一种城区正射影像镶嵌处理方法及系统 | |
CN109720340B (zh) | 一种基于视觉识别的自动泊车系统及方法 | |
JP5324240B2 (ja) | 路面標示地図生成方法及び路面標示地図生成装置 | |
JP5363752B2 (ja) | 路面標示地図生成方法 | |
CN111256700B (zh) | 用于自动驾驶农机作业路径规划的收边规划方法 | |
EP2321792B1 (en) | Cut-line steering methods for forming a mosaic image of a geographical area | |
CN103871072B (zh) | 基于投影数字高程模型的正射影像镶嵌线自动提取方法 | |
CN105528797B (zh) | 一种光学影像色彩一致性自适应处理与快速镶嵌方法 | |
US11823389B2 (en) | Road network mapping system and method | |
CN112070759B (zh) | 一种叉车托盘检测与定位方法及系统 | |
CN106709878B (zh) | 一种快速图像融合方法 | |
CN112465976A (zh) | 堆场三维地图建立方法、库存管理方法、设备及介质 | |
CN106875364B (zh) | 一种真正射影像生成方法 | |
CN101303231A (zh) | 正射镶嵌线的自动选择与正射影像无缝镶嵌方法 | |
EP4386507A1 (en) | System and method for surface feature detection and traversal | |
CN106530267A (zh) | 一种避免全景图像错位的融合方法 | |
KR101086402B1 (ko) | 영상 분할 방법 | |
CN112965481A (zh) | 基于点云地图的果园作业机器人无人驾驶方法 | |
CN110866869B (zh) | 结合泰森多边形与最小生成树图像分割的影像镶嵌方法及装置 | |
CN102881028A (zh) | 一种栅格数字图像快速矢量化方法 | |
CN112241661A (zh) | 一种结合机载LiDAR点云数据和航空影像的城市地物精细化分类方法 | |
CN111311622B (zh) | 基于蚁群算法的多幅影像镶嵌线网的优化选择方法 | |
CN113822332A (zh) | 路沿数据标注方法及相关系统、存储介质 | |
CN114754777A (zh) | 一种基于地理坐标系的无人割草车的全路径覆盖规划方法 | |
KR20010000443A (ko) | 항공측량 영상과 라이더 데이터 융합에 의한 건물추출시스템과 방법 및 그 프로그램 소스를 저장한 기록매체 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20191112 |
|
RJ01 | Rejection of invention patent application after publication |