CN109214349B - 一种基于语义分割增强的物体检测方法 - Google Patents
一种基于语义分割增强的物体检测方法 Download PDFInfo
- Publication number
- CN109214349B CN109214349B CN201811101111.6A CN201811101111A CN109214349B CN 109214349 B CN109214349 B CN 109214349B CN 201811101111 A CN201811101111 A CN 201811101111A CN 109214349 B CN109214349 B CN 109214349B
- Authority
- CN
- China
- Prior art keywords
- features
- type
- network
- sub
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Abstract
本发明涉及一种基于语义分割增强的物体检测方法,包括:准备标注好的图像;图像集划分;设计基于语义分割增强的深度卷积神经网络结构,以适用于物体检测,基于语义分割增强的深度卷积神经网络包含三个主要部分:主干子网络,分割子网络和检测子网络,主干子网络用来提取图像的通用特征,该特征是类别无关的特征;分割子网络基于主干子网络提取特征的基础上,进一步提取语义分割的特征并预测每一类物体的分割的热图;将每一类物体的热图作为该类的先验知识,并与检测子网络提取的特征相融合,进而产生类别相关的特征,每一类物体有对应类别的特征,该特征显著反映该类物体的特性;模型训练。
Description
技术领域
本发明涉及计算机视觉领域中高性能的物体检测方法,特别是涉及采用深度学习方法进行图像物体检测的方法。
背景技术
深度学习技术作为人工智能发展过程中的关键技术,已经广泛的应用于智能监控、人机交互、辅助驾驶以及自动驾驶等多个领域,实现对场景中人、车以及其他类物体的实时检测与识别。作为深度学习技术中的重要实现方法,深度卷积神经网络在物体检测任务上已经取得了显著成果。
以自动驾驶系统为例,如图1所示,在物体检测任务中,首先通过车载相机捕获现实场景中的视频/图像;进一步地,将相机捕获的视频/图像输入到物体检测算法中;通过物体检测算法的运行,输出所检测到的物体的位置以及物体的类别;经过决策层,根据检测到的物体信息进行自动驾驶的决策,实现安全的自动驾驶。
作为自动驾驶中的关键技术,物体检测的精度直接关乎自动驾驶的安全程度,因此提升物体检测的精度,能够有效保证自动驾驶的安全性,进一步推动自动驾驶的发展。
现有的性能较优的物体检测算法是基于深度卷积神经网络的物体检测算法。Girshick等人[1][2]提出一种基于深度卷积神经网络的物体检测算法,首先通过卷积神经网络提取特征并生成候选窗口,然后将候选窗口通过检测子网络得出最终的预测结果。Liu等人[3]为进一步提升物体检测的效率,提出一种单阶段的物体检测算法,即将图像直接输入到深度卷积神经网络中,通过网络直接输出对物体框的回归和分类结果,略去了双阶段物体检测算法中候选窗口生成的阶段,一定程度上提升了物体检测的速度,但是物体检测的精度有所下降。Dvornik等人[4]提出将语义分割和物体检测任务相结合的深度卷积神经网络算法,采用一个主干网络,和两个分支分别用于生成语义分割结果和物体检测结果,实现了多任务的联合训练和应用。以上基于深度卷积神经网络的物体检测算法虽然取得了一定效果,但是仍然存在物体检测效果不佳的问题,无法有效的满足实际物体检测的需要。
本发明主要针对目前物体检测精度不佳的问题,设计一种新型物体检测算法,以有效提升物体检测的精度。具体地,本发明提出了一种基于语义分割增强的物体检测算法。通过引入语义分割的分支,以语义分割结果作为先验知识,生成类别相关的特征图,以增强不同类别物体的特征提取,并基于不同类别的特征实现对不同类别物体的检测识别。本发明提出的方法可用于上述介绍的领域中实现高精度的物体检测。
参考文献:
[1]Girshick R.Fast R-CNN.IEEE International Conference on ComputerVision.IEEE Computer Society,2015:1440-1448.
[2]Ren S,He K,Girshick R,et al.Faster R-CNN:Towards Real-Time ObjectDetection with Region Proposal Networks.IEEE Transactions on PatternAnalysis&Machine Intelligence,2015,39(6):1137-1149.
[3]Liu W,Anguelov D,Erhan D,et al.SSD:Single Shot MultiBoxDetector.European Conference on Computer Vision.Springer,Cham,2016:21-37.
[4]Dvornik N,Shmelkov K,Mairal J,et al.BlitzNet:A Real-Time DeepNetwork for Scene Understanding.ICCV 2017.2017:4174-4182.
发明内容
本发明的目的是克服现有的基于深度卷积神经网络的物体检测算法检测精度较低的问题,提出了一种基于语义分割增强的深度卷积神经网络物体检测方法,能够有效的提升物体检测的精度,进一步促进物体检测在众多领域中的应用。技术方案如下:
一种基于语义分割增强的物体检测方法,包括下列步骤:
1)准备标注好的图像,收集包含各种不同类别物体的图像,并标注每张图像中的所有感兴趣物体,标注内容为每个物体的位置、每个物体的类别以及每个像素点的所属物体类别,以其作为图像标签信息;
2)图像集划分,将收集的图像划分为训练集,验证集和测试集,训练集用于训练卷积神经网络,验证集用于选择最佳的训练模型,测试集为后续测试模型效果或者实际应用时使用;
3)设计基于语义分割增强的深度卷积神经网络结构,以适用于物体检测,基于语义分割增强的深度卷积神经网络包含三个主要部分:主干子网络,分割子网络和检测子网络,主干子网络用来提取图像的通用特征,该特征是类别无关的特征;分割子网络基于主干子网络提取特征的基础上,进一步提取语义分割的特征并预测每一类物体的分割的热图,每一类的热图中,存在该类物体的位置响应值显著,而其他所有类别物体的位置响应值不显著,能够有效的反映出不同类别物体之间的差异;将每一类物体的热图作为该类的先验知识,并与检测子网络提取的特征相融合,进而产生类别相关的特征,每一类物体有对应类别的特征,该特征显著反映该类物体的特性,在检测子网络中,基于类别相关的特征,采用特定类别的检测器对该类别的特征进行提取和预测,以实现对每一类物体更好的检测;物体检验子网络包含对每一类物体检测的预测模块,用以产生对每一类物体的预测结果,该预测模块可以直接由回归和分类模块组成,或由候选框生成子网络以及回归和分类模块组成;
4)输入数据,前向计算预测结果和损失代价,通过反向传播算法计算参数的梯度并更新参数;迭代的更新参数,待代价函数曲线收敛时,模型训练完毕;
5)将训练好的模型应用于测试或实际应用中,当输入图像时,通过该训练好的模型计算得到图像的检测结果,即物体的位置和类别信息,辅助实际应用场景中的决策。
本发明通过语义分割子网络增强语义特征的基础上,将分割结果作为先验知识,能够有效增强检测结构特征的语义信息。同时,基于类别相关的特征图进行特定类别的物体检测,有效的分解复杂的检测任务,进一步提升物体检测的精确度。将基于语义分割增强的深度卷积神经网络应用到实际任务中进行物体检测的过程中,能够实现对图像中感兴趣物体的精确检测(精确的输出物体的位置以及物体的类别信息),进一步促进本发明方法在智能监控、辅助驾驶、自动驾驶等众多领域的应用,提升不同任务场景下的安全性。
附图说明
图1中描述了本发明在自动驾驶中实现物体检测的应用示例。
图2中描述了传统的深度卷积神经网络应用于物体检测的方法示例。
图3描述了本发明提出的基于语义分割增强的深度卷积神经网络应用于物体检测的示例。
具体实施方式
下面结合附图对本发明作进一步的描述。
图2描述了传统的深度卷积神经网络应用于物体检测的示例。具体地,该类方法将原始图像输入到所设计的卷积神经网络中,直接回归得到所有类别物体的坐标,并输出物体的对应类别。产生预测所基于的特征是类别无关的特征,即该特征不能显式的反映每一类物体的特性。
图3描述了本发明所提出的基于语义分割增强的深度卷积神经网络应用于物体检测的示例。具体地,该深度神经网络包含三个主要部分:主干子网络,分割子网络和检测子网络。主干子网络主要用来提取通用的特征,该特征是类别无关的特征。分割子网络基于主干子网络提取特征的基础上,进一步提取语义分割的特征并预测每一类物体的分割的热图。每一类的热图中,存在该类物体的位置响应值显著,而其他所有类别物体的位置响应值不显著,因此能够有效的反映出不同类别物体之间的差异。将每一类物体的热图作为该类的先验知识,并与检测子网络提取的特征相融合,进而产生类别相关的特征。每一类物体有对应类别的特征,该特征显著反映了该类物体的特性,而抑制了其他类别的特性。因此,在检测子网络中,基于类别相关的特征,采用特定类别的检测器对该类别的特征进行提取和预测,能够实现对每一类物体更好的检测,以达到更好的检测效果。
具体地,本发明的具体实施方式包含以下几个步骤:
第一步:准备训练所用数据集
(1)准备标注好的图像。所准备的图像应能包含所感兴趣的所有类别的物体,同时每张图像中需至少包含某一类物体中的一个物体。由于基于深度神经网络的物体检测方法是一种有监督的学习方法,因此需要对所准备的图像进行标注。具体地,需要标注的信息应至少包括:每一个物体的坐标位置,每一个物体的类别,每一张图像的语义分割结果。
(2)处理数据集。将所准备的数据集划分为训练数据集、验证数据集和测试数据集。训练数据集用于训练模型,验证数据集用于验证并挑选设计的哪种结构为最优,测试数据集用于测试训练模型的最终性能。
(3)增强数据。为提升模型的检测精度,应对数据进行增强。增强的方式包括但不限于:随机翻转,随机裁剪,加入随机噪声,图像缩放等。
第二步:设计基于语义分割增强的深度卷积神经网络结构以适用于物体检测。
(1)设计该网络的主干子网络。主干子网络由卷积层、池化层、归一化层、非线性激活层等常用的深度卷积神经网络模块组成。考虑到检测网络中,经常采用ImageNet预训练的网络参数以初始化检测的主干网络,主干网络可以选取ResNet,DenseNet,ResNeXt等网络结构,用以提取图像的基础特征。
(2)设计该网络的语义分割子网络。语义分割子网络包含卷积层、池化层、归一化层、非线性激活层等层,用以产生N类物体的分割热图(N对应于感兴趣的物体种类数)。该热图能够作为先验知识,提升物体检测的性能。同时,为监督分割子网络,分割子网络需要包含Softmax层用以产生图像分割结果。
(3)设计该网络的物体检测子网络。检测子网络应包括卷积层、池化层、归一化层、非线性激活层等层。通过前面的卷积层提取检测通用特征,并与先验知识融合产生类别相关的特征图。该子网络应包含对每一类物体的检测预测模块,用以产生对每一类物体的预测结果,该预测模块可以直接由回归和分类模块组成,或由候选框生成子网络以及回归和分类模块组成。
(4)设计监督网络所用的损失代价函数:L=Lseg+αLreg+βLcls。其中Lseg为分割子网络的损失函数,常采用的为SoftmaxLoss函数。Lreg为检测子网络的回归损失,常采用的为L1Smooth损失函数。Lcls为检测子网络的分类损失,常采用的为SoftmaxLoss函数。α、β为损失权重,通常由手工设定。
(5)初始化网络中的参数。参数包括卷积层的滤波器参数,归一化层的参数,以及需要手工设定如损失权重、学习率、权重衰减系数等参数。主干网络通常由预训练的权重进行初始化,语义分割子网络和物体检测子网络中的参数则采用Gaussian、Xavier等方法对其进行随机初始化。
第三步:训练本发明的基于语义分割增强的深度卷积神经网络用于物体检测。
(1)前向计算:(结合图3说明)
a)将训练图像输入网络中,通过主干子网络的各层计算,得到的卷积特征图C1。
b)基于卷积特征图C1,经过语义分割子网络,提取语义分割特征C2,并计算对图像中每一类物体的分割热图Sn。
c)基于卷积特征图C1,经过物体分割子网络部分卷积层进一步提取特征,得到特征C3
d)将语义分割子网络输出的对第n类物体的分割结果Sn作为先验,基于特征C3,计算第n类物体的特征Fn:
所生成的特征为类别相关的特征,每一类物体有对应的类别特征,通过计算类别相关的特征,能够提前有效区分不同类别物体的特性。
e)基于每一类物体的特征Fn,经过物体分割子网络中的每一类物体的检测器(检测器1~检测器N),得到每一类物体的回归结果和分类结果。
f)根据分割子网络的每一类热图,根据分割损失SoftmaxLoss函数,计算分割损失。根据检测子网络的回归和分类结果,计算回归和分类损失。并计算所有损失L.
(2)反向传播:
通过反向传播(BP)算法,计算每一层参数的梯度,采用梯度下降法(SGD)更新神经网络中的所有可学习的参数。
(3)迭代训练:
迭代的进行上述的(1)前向传播和(2)反向传播过程,不断的更新参数。停止标准可以选择损失函数的损失值趋近于收敛(在一个稳定值附近波动,无明显变化)停止迭代信号。
第四步:将上述训练得到的本发明的基于语义分割增强的深度卷积神经网络用于实际物体检测。
(1)准备测试集。若为测试模型性能,准备的测试集应具有如训练图像一样的数据标注格式,并计算测试结果的mAP指标作为性能度量。若为实际应用测试,则不需具备标注信息。
(2)将输入图像输入已经训练好的模型中进行测试。
g)将训练图像输入网络中,根据第三步中的a)~e)计算,得到每一类物体的检测结果。
h)采用非极大值抑制方法,移除同一位置重叠较大的物体检测框,保留置信度较高的框作为最终的物体检测输出,输出物体的位置和物体的类别信息。
i)为可视化,可将物体的检测框和对应的类别信息显示在图像上。
j)若在测试集上进行测试,可计算测试结果的mAP指标以测试检测模型的性能。
Claims (1)
1.一种基于语义分割增强的物体检测方法,包括下列步骤:
1)准备标注好的图像,收集包含各种不同类别物体的图像,并标注每张图像中的所有感兴趣物体,标注内容为每个物体的位置、每个物体的类别以及每个像素点的所属物体类别,以其作为图像标签信息;
2)图像集划分,将收集的图像划分为训练集,验证集和测试集,训练集用于训练卷积神经网络,验证集用于选择最佳的训练模型,测试集为后续测试模型效果或者实际应用时使用;
3)设计基于语义分割增强的深度卷积神经网络结构,以适用于物体检测,基于语义分割增强的深度卷积神经网络包含三个主要部分:主干子网络,分割子网络和检测子网络,主干子网络用来提取图像的通用特征,该特征是类别无关的特征;分割子网络基于主干子网络提取特征的基础上,进一步提取语义分割的特征并预测每一类物体的分割的热图,每一类的热图中,存在该类物体的位置响应值显著,而其他所有类别物体的位置响应值不显著,能够有效的反映出不同类别物体之间的差异;将每一类物体的热图作为该类的先验知识,并与检测子网络提取的特征相融合,进而产生类别相关的特征,每一类物体有对应类别的特征,该特征显著反映该类物体的特性,在检测子网络中,基于类别相关的特征,采用特定类别的检测器对该类别的特征进行提取和预测,以实现对每一类物体更好的检测;物体检验子网络包含对每一类物体检测的预测模块,用以产生对每一类物体的预测结果,该预测模块可以直接由回归和分类模块组成,或由候选框生成子网络以及回归和分类模块组成;
4)输入数据,前向计算预测结果和损失代价,通过反向传播算法计算参数的梯度并更新参数;迭代的更新参数,待代价函数曲线收敛时,模型训练完毕;
5)将训练好的模型应用于测试或实际应用中,当输入图像时,通过该训练好的模型计算得到图像的检测结果,即物体的位置和类别信息,辅助实际应用场景中的决策。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811101111.6A CN109214349B (zh) | 2018-09-20 | 2018-09-20 | 一种基于语义分割增强的物体检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811101111.6A CN109214349B (zh) | 2018-09-20 | 2018-09-20 | 一种基于语义分割增强的物体检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109214349A CN109214349A (zh) | 2019-01-15 |
CN109214349B true CN109214349B (zh) | 2021-08-06 |
Family
ID=64984647
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811101111.6A Active CN109214349B (zh) | 2018-09-20 | 2018-09-20 | 一种基于语义分割增强的物体检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109214349B (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109871891B (zh) * | 2019-02-13 | 2021-03-19 | 深兰科技(上海)有限公司 | 一种物体识别方法、装置和存储介质 |
CN109919218A (zh) * | 2019-02-28 | 2019-06-21 | 上海交通大学 | 混合连接的多任务fcn模型系统 |
CN110032952B (zh) * | 2019-03-26 | 2020-11-10 | 西安交通大学 | 一种基于深度学习的道路边界点检测方法 |
CN110070552B (zh) * | 2019-05-07 | 2021-09-07 | 西南石油大学 | 一种基于语义分割的岩石图像孔隙类型识别方法 |
CN110245665B (zh) * | 2019-05-13 | 2023-06-06 | 天津大学 | 基于注意力机制的图像语义分割方法 |
CN110399800B (zh) * | 2019-06-28 | 2021-05-07 | 智慧眼科技股份有限公司 | 基于深度学习vgg16框架的车牌检测方法及系统、存储介质 |
CN110321897A (zh) * | 2019-07-08 | 2019-10-11 | 四川九洲视讯科技有限责任公司 | 基于图像语义分割识别非机动车异常行为的方法 |
CN110738113B (zh) * | 2019-09-12 | 2023-07-28 | 天津大学 | 一种基于邻近尺度特征滤除与转移的物体检测方法 |
CN110807332B (zh) | 2019-10-30 | 2024-02-27 | 腾讯科技(深圳)有限公司 | 语义理解模型的训练方法、语义处理方法、装置及存储介质 |
CN111598876B (zh) * | 2020-05-18 | 2021-03-16 | 北京小白世纪网络科技有限公司 | 甲状腺结节自动识别模型构建方法、系统及设备 |
CN112633061B (zh) * | 2020-11-18 | 2023-03-24 | 淮阴工学院 | 一种轻量级的fire-det火焰检测方法及系统 |
CN112560999B (zh) * | 2021-02-18 | 2021-06-04 | 成都睿沿科技有限公司 | 一种目标检测模型训练方法、装置、电子设备及存储介质 |
CN113139471A (zh) * | 2021-04-25 | 2021-07-20 | 上海商汤智能科技有限公司 | 目标检测方法及装置、电子设备和存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809200A (zh) * | 2016-03-11 | 2016-07-27 | 中国科学院自动化研究所 | 一种生物启发式自主抽取图像语义信息的方法及装置 |
CN108229478A (zh) * | 2017-06-30 | 2018-06-29 | 深圳市商汤科技有限公司 | 图像语义分割及训练方法和装置、电子设备、存储介质和程序 |
-
2018
- 2018-09-20 CN CN201811101111.6A patent/CN109214349B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809200A (zh) * | 2016-03-11 | 2016-07-27 | 中国科学院自动化研究所 | 一种生物启发式自主抽取图像语义信息的方法及装置 |
CN108229478A (zh) * | 2017-06-30 | 2018-06-29 | 深圳市商汤科技有限公司 | 图像语义分割及训练方法和装置、电子设备、存储介质和程序 |
Non-Patent Citations (2)
Title |
---|
A Weakly Supervised Deep Learning Semantic Segmentation Framework;Jizhi Zhang; Guoying Zhang; Qiangyu Wang; Shuang Bai;《IEEE》;20171123;全文 * |
基于多尺度特征提取的图像语义分割;熊志勇;《中南民族大学学报( 自然科学版)》;20170930;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109214349A (zh) | 2019-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109214349B (zh) | 一种基于语义分割增强的物体检测方法 | |
Chu et al. | Object detection based on multi-layer convolution feature fusion and online hard example mining | |
CN110533084B (zh) | 一种基于自注意力机制的多尺度目标检测方法 | |
CN109389057B (zh) | 一种基于多尺度高级语义融合网络的物体检测方法 | |
CN111401293B (zh) | 一种基于Head轻量化Mask Scoring R-CNN的手势识别方法 | |
CN109284779A (zh) | 基于深度全卷积网络的物体检测方法 | |
CN112488999B (zh) | 一种图像中小目标检测方法、系统、存储介质及终端 | |
CN111524117A (zh) | 一种基于特征金字塔网络的隧道表面缺陷检测方法 | |
CN110728694A (zh) | 一种基于持续学习的长时视觉目标跟踪方法 | |
CN110599459A (zh) | 基于深度学习的地下管网风险评估云系统 | |
CN114155474A (zh) | 基于视频语义分割算法的损伤识别技术 | |
CN111199238A (zh) | 一种基于双流卷积神经网络的行为识别方法及设备 | |
CN111368634B (zh) | 基于神经网络的人头检测方法、系统及存储介质 | |
CN114511710A (zh) | 一种基于卷积神经网络的图像目标检测方法 | |
CN113989261A (zh) | 基于Unet改进的无人机视角下红外图像光伏板边界分割方法 | |
İmamoğlu et al. | Saliency detection by forward and backward cues in deep-CNN | |
Shit et al. | An encoder‐decoder based CNN architecture using end to end dehaze and detection network for proper image visualization and detection | |
Lin et al. | Integrated circuit board object detection and image augmentation fusion model based on YOLO | |
CN112766179A (zh) | 一种基于运动特征混合深度网络的火灾烟雾检测方法 | |
CN112132839A (zh) | 一种基于深度卷积级联网络的多尺度快速人脸分割方法 | |
Bergum et al. | Automatic in-situ instance and semantic segmentation of planktonic organisms using Mask R-CNN | |
CN111612803A (zh) | 一种基于图像清晰度的车辆图像语义分割方法 | |
CN110738113B (zh) | 一种基于邻近尺度特征滤除与转移的物体检测方法 | |
CN110472638A (zh) | 一种目标检测方法、装置及设备、存储介质 | |
Al-Shammri et al. | A Combined Method for Object Detection under Rain Conditions Using Deep Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |