CN104851127B - 一种基于交互的建筑物点云模型纹理映射方法及装置 - Google Patents

一种基于交互的建筑物点云模型纹理映射方法及装置 Download PDF

Info

Publication number
CN104851127B
CN104851127B CN201510249612.9A CN201510249612A CN104851127B CN 104851127 B CN104851127 B CN 104851127B CN 201510249612 A CN201510249612 A CN 201510249612A CN 104851127 B CN104851127 B CN 104851127B
Authority
CN
China
Prior art keywords
cloud model
point
point cloud
metope
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201510249612.9A
Other languages
English (en)
Other versions
CN104851127A (zh
Inventor
黄华
刘洪�
张磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Research Institute Beijing Institute Of Technology
Beijing Institute of Technology BIT
Original Assignee
Shenzhen Research Institute Beijing Institute Of Technology
Beijing Institute of Technology BIT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Research Institute Beijing Institute Of Technology, Beijing Institute of Technology BIT filed Critical Shenzhen Research Institute Beijing Institute Of Technology
Priority to CN201510249612.9A priority Critical patent/CN104851127B/zh
Publication of CN104851127A publication Critical patent/CN104851127A/zh
Application granted granted Critical
Publication of CN104851127B publication Critical patent/CN104851127B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

本发明涉及一种基于交互的建筑物点云模型纹理映射方法及装置,属于计算机视觉处理技术领域。本发明针对现代化城镇建筑物的外轮廓特征,以重建点云模型中的每个三维点和恢复当前空间点所用图像中对应的像素点之间的空间对应关系为基础,在简单交互标定各结构拐点的条件下实现快速建筑物模型自动面片化和纹理映射;本发明方法首先进行点云模型噪声点去除,然后通过与用户交互获得点云模型墙面结构角点,并根据所选角点匹配筛选得到墙面最优匹配图像和进行空间平面拟合得到点云模型墙面,最后将最优匹配图像中墙面纹理映射到点云模型墙面。对比现有技术,本发明能够快速重建出建筑物的整体结构,并且重建结果整体效果能够满足日常需求。

Description

一种基于交互的建筑物点云模型纹理映射方法及装置
技术领域:
本发明涉及一种纹理映射方法及装置,具体涉及一种基于交互的建筑物点云模型纹理映射方法及装置,属于计算机视觉处理技术领域。
背景技术:
基于图像序列生成的重建目标三维模型相对于平面图像有空间立体感强、直观性好等优点。但是,三维点云模型的本质是大量离散三维点的集合,整体描述重建目标的三维轮廓,但是放大后呈现出离散的颗粒状,局部细节展示能力较弱,不能满足一些需要细节展示的场合。对点云数据进行网格化是三维重建领域的一项重要研究内容,已经历了几十年的研究,并产生了大量的算法如Delaunay三角剖分等、工具库如PCL(Point CloudLibrary)等、软件如Meshlab等。但是,这些算法或工具都是针对利用激光扫描等硬件辅助下获取的点云质量较好的模型,面对基于图像序列重建生成的噪声较多的无序点云数据,现有的算法效果都会大打折扣,难于真正在应用系统中产生效果。当前应用较为广泛的另一种方法就是利用图像直接进行建筑物模型重建并实现面片化,比如说google的的交互模型生成工具sketchup,该软件虽然能够实现建筑物外轮廓整体重建,并能够在细致的人工交互下完成一些细节的结构信息重构。但该软件对操作者和硬件环境要求较高,同时重建流程耗时较长。
发明内容:
本发明的目的是针对上述缺陷,提出了一种基于交互的建筑物点云模型纹理映射方法,在简单交互标定各结构拐点的条件下实现快速建筑物外轮廓重建。
本发明的主要重建目标是现代化城镇建筑物,针对现代化城镇建筑物的外轮廓特征,主要以重建点云模型中的每个三维点和恢复当前空间点所用图像中对应的像素点之间的空间对应关系为基础,在简单交互标定各结构拐点的条件下实现快速建筑物模型自动面片化和纹理映射。
本发明的目的是通过以下技术方案实现的:
一种基于交互的建筑物点云模型纹理映射方法,该方法包括以下步骤:
步骤一、点云模型去噪;
作为优选,采用k近邻算法快速去除点云模型中噪声点;
步骤二、对于去噪后的点云模型通过与用户交互确定点云模型和图像中的对应墙面;具体通过以下步骤完成:
步骤2.1对用户在点云模型中选取的墙面结构角点采用包围球方法确定准确度较高的三维点位置;
作为优选,如果用户选取的点的包围球半径比其他点的包围球半径至少大10倍时,放弃该选点并提示用户重新选点;
步骤2.2通过以下过程选取与点云模型中墙面结构角点对应的图像:
首先,根据以下属性对与点云模型中墙面结构角点对应的图像进行计算:
a)图像中墙面的面积在整幅图中所占的比例p;
b)图像中墙面各个边的比例和点云模型中墙面的各边比例差值,首先以其中一条边为基准,求出其他三条边在图像中和点云模型中各自的相对长度,然后计算图像中和点云模型中这三条边长度总和的差值q;
然后,对所有图像的差值q进行归一化,得到新的差值
最后,将所有图像按照值从大到小排列,由用户自主选择映射所需墙面图像;
步骤三、根据点云模型墙面结构角点通过以下过程进行空间平面拟合:
首先,对墙面的所有结构角点进行最小二乘拟合得到一个平面作为墙面所在位置;
然后,将各个结构角点映射到新的平面上作为新的角点;
最后,区分以下情况确定相交平面共用的结构角点:
a)对于两个墙面共用一个结构角点的情况:首先对于两个墙面根据各自的结构角点分别拟合对应的平面,然后求出两个平面的交线l,然后将已经映射到平面上的结构角点坐标继续映射到交线l上,记为A1,A2,最后取A1,A2的中点作为拟合后的新的共用结构角点;
b)对于三个墙面共用一个结构角点的情况:首先按照两个墙面共用一个结构角点时候的方法找出一条交线l,然后取l与第三个拟合后的墙面的交点作为三个墙面共用的结构角点;
步骤四、将步骤二所选图像的墙面纹理映射到通过步骤三得到的点云模型墙面;
通过以上步骤,在与用户交互确定完所有墙面的结构角点之后,系统就可以帮助用户将各个墙面的纹理图像映射到点云模型中,然后重建出建筑物的整体外观。
一种基于交互的建筑物点云模型纹理映射装置,包括点云模型去噪模块、点云模型与图像对应模块、空间平面拟合模块和墙面纹理映射模块;其中点云模型去噪模块分别与点云模型与图像对应模块、空间平面拟合模块连接,图像对应模块与空间平面拟合模块连接,点云模型与图像对应模块和空间平面拟合模块分别与墙面纹理映射模块连接;
点云模型去噪模块用于采用k近邻算法去除点云模型输入数据中的噪声点得到去噪点云模型;
点云模型与图像对应模块用于根据与用户交互获得的去噪点云模型墙面结构角点自动对与该墙面对应的图像输入数据进行筛选得到最优匹配图像;
空间平面拟合模块用于根据去噪点云模型墙面结构角点对去噪点云模型进行空间拟合得到点云模型墙面;
墙面纹理映射模块用于将最优匹配图像中的墙面纹理映射到对应的点云模型墙面中;
作为优选,所述点云模型与图像对应模块进一步包括相互连接的墙面结构角点确定单元和最优图像匹配单元,墙面结构角点确定单元用于在用户选择点云模型中墙面结构角点之后找出在图像中对应的结构角点,最优图像匹配单元用于依照用于依照基于交互的建筑物点云模型纹理映射方法中步骤2.2所述规则根据图像与点云模型中所选墙面的匹配程度对其进行排序后输出供用户选择用于映射的图像。
有益效果:
对比现有技术,本发明方法能够快速重建出建筑物的整体结构,并且重建结果整体效果能够满足日常需求。
附图说明:
图1为本发明实施例一种基于交互的建筑物点云模型纹理映射算法方法流程示意图;
图2为本发明实施例一种基于交互的建筑物点云模型纹理映射装置结构示意图;
图3为应用本发明实施例方法对点云模型进行纹理映射的过程示意图,从(a)到(c)依次为点云模型、叠加点云数据的纹理映射模型预览结果和纹理映射模型预览结果。
具体实施方式
下面将结合附图和实施例对本发明加以详细说明,同时也叙述了本发明技术方案解决的技术问题及有益效果,需要指出的是,所描述的实施例仅旨在便于对本发明的理解,而对其不起任何限定作用。
实施例1
如图1所示为本发明实施例一种基于交互的建筑物点云模型纹理映射算法方法流程示意图,下面对流程中的步骤进行详细描述:
步骤一、点云模型去噪
输入的点云模型中会有部分噪声点,这些噪声点将影响后续步骤的纹理映射效果,因此需要进行噪声点的去除,本发明中使用k近邻算法进行快速去噪,具体算法如下:
步骤1.1对于点云模型中的任意一点Mi,检索模型中与其最近的K个三维点,记为
步骤1.2计算出K个三维点与Mi的距离然后求出其平均值如果那么说明该点是噪声点,直接舍弃掉,其中dTHR为预设的噪声阈值,作为优选,本实施例中取值为15;
步骤二、用户交互确定点云模型和图像中的对应墙面
步骤2.1确定用户在点云模型中选取的墙面结构角点
因为点云模型中含有大量的离散三维点,用户通过鼠标去选择对应点的时候准确率会比较低,所以本发明提出了一种包围球方法来确定准确度较高的三维点位置:首先,以用户选择的三维点X0为球心,以r为半径画一个球使得球内包含20个点,然后统计球中所有三维点的平均位置最后选择一个离平均位置最近的点作为用户选择的点;
另外,为减少用户选取错误,如果某个点的包围球半径远远大于其他点的包围球半径,如至少大10倍,那么有很大的概率这个标定的点是误差较大的,这时候可以提示用户重新选择较好的点;
步骤2.2确定与点云模型中墙面结构角点对应的图像
因为在三维重建的时候每个三维点都由多张图像重建出来,所以三维点在图像中的对应位置都是已知的,因此程序可以自动寻找与用户在点云模型中标定墙面对应的图像,同时找出其中的墙面四个角点,但是因为用于重建时候的图像较多,所以一个点云模型的墙面可能出现在多个平面中,在此时需要根据图像的匹配程度对所有的候选图像排序,在用户进行步骤2.1的标定后,通过以下属性来筛选图像:
c)图像中墙面的面积在整幅图中所占的比例p;
d)图像中墙面各个边的比例和点云模型中墙面的各边比例差值,首先以其中一条边为基准,求出其他三条边在图像中和点云模型中各自的相对长度,然后计算图像中和点云模型中这三条边长度总和的差值q;
首先对所有图像的差值q进行单位化,也即找出其中最大值,然后所有的差值都除以这个最大值得到新的差值然后比较所有图像的按照值从大到小排序,然后由用户选择用于映射的墙面图像
步骤三、空间平面拟合
由于用户在点云模型中点击得到的墙面结构角点一般不太可能严格分布在一个平面上,所以为了得到墙面的位置需要对墙面的所有结构角点进行最小二乘拟合然后得到一个平面作为墙面所在位置,然后将各个结构角点映射到新的平面上作为新的角点;但是墙面之间是有公共结构角点的,如何在拟合得到新平面之后重新确定结构角点是一个技术难点,本发明针对以下几种情况分别进行处理:
c)对于两个墙面共用一个结构角点的情况,首先对于两个墙面根据各自的结构角点分别拟合对应的平面,然后求出两个平面的交线l,然后将已经映射到平面上的结构角点坐标继续映射到交线l上,记为A1,A2,最后取A1,A2的中点作为拟合后的新的共用结构角点;
d)对于三个墙面共用一个结构角点的情况,首先按照两个墙面共用一个结构角点时候的方法找出一条交线l,然后取l与第三个拟合后的墙面的交点作为三个墙面共用的结构角点;
步骤四、纹理映射
在获得了点云模型墙面和对应图像的墙面之后,通过四个角点的对应关系就可以得到仿射矩阵,然后就可以将图像中的墙面纹理映射到点云模型中,然后重建出建筑物的整体外观。
实施例2
如图2所示为一种基于交互的建筑物点云模型纹理映射装置结构示意图,由图中可以看出该装置包括点云模型去噪模块、点云模型与图像对应模块、空间平面拟合模块和墙面纹理映射模块;
点云模型去噪模块用于采用k近邻算法去除点云模型输入数据中的噪声点得到去噪点云模型;
点云模型与图像对应模块用于根据与用户交互获得的去噪点云模型墙面结构角点对与该墙面对应的图像输入数据进行筛选得到最优匹配图像;
空间平面拟合模块用于根据去噪点云模型墙面结构角点对去噪点云模型进行空间拟合得到点云模型墙面;
墙面纹理映射模块用于将最优匹配图像中的墙面纹理映射到对应的点云模型墙面中。
作为优选,所述点云模型与图像对应模块进一步包括相互连接的墙面结构角点确定单元和最优图像匹配单元,墙面结构角点确定单元用于在用户选择点云模型中墙面结构角点之后找出在图像中对应的结构角点,最优图像匹配单元用于依照步骤2.2所述规则对图像与点云模型中所选墙面的匹配程度进行排序。
实验结果
如图3所示为应用本发明实施例1所述方法对点云模型进行纹理映射的过程示意图,从(a)到(c)依次为点云模型、叠加点云数据的纹理映射模型预览结果和纹理映射模型预览结果。对于第一副点云模型中的建筑,设备性能相等条件下,一个熟练使用sketchup的人员至少需要20分钟才能完成相应建筑的重建,且操作过程较多,重建得到的模型在某些方向容易造成形变;而根据实施例1本发明方法实现的实施例2所述装置,在操作熟练的情况下人工交互重建的过程仅需不到3分钟,点云重建过程耗时为3分28秒,重建得到的模型在整体展示效果方面能够满足日常,整个重建流程操作简单,实用性高。
以上所述的具体描述,对发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于交互的建筑物点云模型纹理映射方法,其特征在于,包括以下步骤:
步骤一、点云模型去噪;
步骤二、对于去噪后的点云模型通过与用户交互确定点云模型和图像中的对应墙面;具体通过以下步骤完成:
步骤2.1对用户在点云模型中选取的墙面结构角点采用包围球方法确定准确度较高的三维点位置;
步骤2.2通过以下过程选取与点云模型中墙面结构角点对应的图像:
首先,根据以下属性对与点云模型中墙面结构角点对应的图像进行计算:
a)图像中墙面的面积在整幅图中所占的比例p;
b)图像中墙面各个边的比例和点云模型中墙面的各边比例差值,首先以其中一条边为基准,求出其他三条边在图像中和点云模型中各自的相对长度,然后计算图像中和点云模型中这三条边长度总和的差值q;
然后,对所有图像的差值q进行归一化,得到新的差值
最后,将所有图像按照值进行排序,由用户选择用于映射的图像;
步骤三、根据点云模型墙面结构角点通过以下过程进行空间平面拟合:
首先,对墙面的所有结构角点进行最小二乘拟合得到一个平面作为墙面所在位置;
然后,将各个结构角点映射到新的平面上作为新的角点;
最后,区分以下情况确定相交平面共用的结构角点:
a)对于两个墙面共用一个结构角点的情况:首先对于两个墙面根据各自的结构角点分别拟合对应的平面,然后求出两个平面的交线l,然后将已经映射到平面上的结构角点坐标继续映射到交线l上,记为A1,A2,最后取A1,A2的中点作为拟合后的新的共用结构角点;
b)对于三个墙面共用一个结构角点的情况:首先按照两个墙面共用一个结构角点时候的方法找出一条交线l,然后取l与第三个拟合后的墙面的交点作为三个墙面共用的结构角点;
步骤四、将步骤二所选图像的墙面纹理映射到通过步骤三得到的点云模型墙面。
2.根据权利要求1所述的一种基于交互的建筑物点云模型纹理映射方法,其特征在于:所述步骤一采用如下k近邻算法快速去除点云模型中噪声点:
步骤1.1对于点云模型中的任意一点Mi,检索模型中与其最近的K个三维点,记为
步骤1.2计算出K个三维点与Mi的距离然后求出其平均值如果那么说明该点是噪声点,直接舍弃掉,其中dTHR为预设的噪声阈值。
3.根据权利要求2所述的一种基于交互的建筑物点云模型纹理映射方法,其特征在于:dTHR=15。
4.根据权利要求1所述的一种基于交互的建筑物点云模型纹理映射方法,其特征在于:所述步骤2.1中,如果用户选取的点的包围球半径比其他点的包围球半径至少大10倍时,放弃该选点并提示用户重新选点。
5.一种基于交互的建筑物点云模型纹理映射装置,其特征在于:包括点云模型去噪模块、点云模型与图像对应模块、空间平面拟合模块和墙面纹理映射模块;其中点云模型去噪模块分别与点云模型与图像对应模块、空间平面拟合模块连接,图像对应模块与空间平面拟合模块连接,点云模型与图像对应模块和空间平面拟合模块分别与墙面纹理映射模块连接;
所述点云模型去噪模块用于采用k近邻算法去除点云模型输入数据中的噪声点得到去噪点云模型;
所述点云模型与图像对应模块用于根据与用户交互获得的去噪点云模型墙面结构角点自动对与该墙面对应的图像输入数据进行筛选得到最优匹配图像;
所述空间平面拟合模块用于根据去噪点云模型墙面结构角点对去噪点云模型进行空间拟合得到点云模型墙面;
所述墙面纹理映射模块用于将最优匹配图像中的墙面纹理映射到对应的点云模型墙面中。
6.根据权利要求5所述的一种基于交互的建筑物点云模型纹理映射装置,其特征在于:所述点云模型与图像对应模块进一步包括相互连接的墙面结构角点确定单元和最优图像匹配单元,墙面结构角点确定单元用于在用户选择点云模型中墙面结构角点之后找出在图像中对应的结构角点,最优图像匹配单元用于依照权利要求1中步骤2.2选取图像并根据图像与点云模型中所选墙面的匹配程度对其进行排序后输出供用户选择用于映射的图像。
CN201510249612.9A 2015-05-15 2015-05-15 一种基于交互的建筑物点云模型纹理映射方法及装置 Expired - Fee Related CN104851127B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510249612.9A CN104851127B (zh) 2015-05-15 2015-05-15 一种基于交互的建筑物点云模型纹理映射方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510249612.9A CN104851127B (zh) 2015-05-15 2015-05-15 一种基于交互的建筑物点云模型纹理映射方法及装置

Publications (2)

Publication Number Publication Date
CN104851127A CN104851127A (zh) 2015-08-19
CN104851127B true CN104851127B (zh) 2017-07-04

Family

ID=53850754

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510249612.9A Expired - Fee Related CN104851127B (zh) 2015-05-15 2015-05-15 一种基于交互的建筑物点云模型纹理映射方法及装置

Country Status (1)

Country Link
CN (1) CN104851127B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105205866B (zh) * 2015-08-30 2018-04-13 浙江中测新图地理信息技术有限公司 基于密集点云的城市三维模型快速构建方法
CN107633523B (zh) * 2016-07-18 2021-04-16 巧夺天宫(深圳)科技有限公司 基于点云的提取建筑特征线方法和系统
CN108961395B (zh) * 2018-07-03 2019-07-30 上海亦我信息技术有限公司 一种基于拍照重建三维空间场景的方法
CN113015677A (zh) * 2018-10-29 2021-06-22 大疆科技股份有限公司 用于执行实时地图构建的可移动物体
CN111929693B (zh) * 2020-09-18 2021-01-08 雷熵信息科技(潍坊)有限公司 一种基于激光点云距离序列的井下定位方法
CN112927370A (zh) * 2021-02-25 2021-06-08 苍穹数码技术股份有限公司 三维建筑物模型构建方法、装置、电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103279983A (zh) * 2013-05-31 2013-09-04 西安理工大学 中国唐朝风格古建筑的建模方法
CN103606151A (zh) * 2013-11-15 2014-02-26 南京师范大学 基于影像点云的大范围虚拟地理场景自动构建方法
CN104134234A (zh) * 2014-07-16 2014-11-05 中国科学技术大学 一种全自动的基于单幅图像的三维场景构建方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012126135A1 (en) * 2011-03-21 2012-09-27 Intel Corporation Method of augmented makeover with 3d face modeling and landmark alignment

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103279983A (zh) * 2013-05-31 2013-09-04 西安理工大学 中国唐朝风格古建筑的建模方法
CN103606151A (zh) * 2013-11-15 2014-02-26 南京师范大学 基于影像点云的大范围虚拟地理场景自动构建方法
CN104134234A (zh) * 2014-07-16 2014-11-05 中国科学技术大学 一种全自动的基于单幅图像的三维场景构建方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Mesh reconstruction by meshless denoising and parameterization;Lei Zhang 等;《Computers & Graphics》;20100630;第34卷(第3期);198-208 *
三维城市建筑物的纹理映射综述;范冲 等;《测绘与空间地理信息》;20140731;第37卷(第7期);1-4 *

Also Published As

Publication number Publication date
CN104851127A (zh) 2015-08-19

Similar Documents

Publication Publication Date Title
CN104851127B (zh) 一种基于交互的建筑物点云模型纹理映射方法及装置
Shen Accurate multiple view 3d reconstruction using patch-based stereo for large-scale scenes
Cabral et al. Piecewise planar and compact floorplan reconstruction from images
Galliani et al. Massively parallel multiview stereopsis by surface normal diffusion
Jancosek et al. Exploiting visibility information in surface reconstruction to preserve weakly supported surfaces
US11521311B1 (en) Collaborative disparity decomposition
Chen et al. Robust dense reconstruction by range merging based on confidence estimation
US20130095920A1 (en) Generating free viewpoint video using stereo imaging
CN110633628B (zh) 基于人工神经网络的rgb图像场景三维模型重建方法
WO2021097843A1 (zh) 三维重建方法、装置、系统和存储介质
Zicari et al. Low-cost FPGA stereo vision system for real time disparity maps calculation
CN111415420A (zh) 空间信息确定方法、装置及电子设备
Ye et al. Exploiting depth camera for 3d spatial relationship interpretation
US9454554B1 (en) View dependent query of multi-resolution clustered 3D dataset
Lhuillier Toward flexible 3d modeling using a catadioptric camera
Chen et al. Densefusion: Large-scale online dense pointcloud and dsm mapping for uavs
CN111197976A (zh) 一种顾及弱纹理区域多阶段匹配传播的三维重建方法
Neverova et al. 2 1/2 D scene reconstruction of indoor scenes from single RGB-D images
Skuratovskyi et al. Outdoor mapping framework: from images to 3d model
Waizenegger et al. Parallel high resolution real-time visual hull on gpu
Chen et al. A quality controllable multi-view object reconstruction method for 3D imaging systems
Zabulis et al. A platform for monitoring aspects of human presence in real-time
Shujun et al. DreamWorld: CUDA-accelerated real-time 3D modeling system
Kaiser et al. Proxy clouds for live RGB-D stream processing and consolidation
Kunita et al. Layered probability maps: basic framework and prototype system

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170704

Termination date: 20180515

CF01 Termination of patent right due to non-payment of annual fee