CN111225160B - 基于图像多阈值控制的自动曝光控制方法 - Google Patents

基于图像多阈值控制的自动曝光控制方法 Download PDF

Info

Publication number
CN111225160B
CN111225160B CN202010053972.2A CN202010053972A CN111225160B CN 111225160 B CN111225160 B CN 111225160B CN 202010053972 A CN202010053972 A CN 202010053972A CN 111225160 B CN111225160 B CN 111225160B
Authority
CN
China
Prior art keywords
threshold
image
frame image
current frame
bright
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN202010053972.2A
Other languages
English (en)
Other versions
CN111225160A (zh
Inventor
申仑
乔卫东
吕宝刚
葛伟
马小龙
王南歌
薛彬
杨建峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
XiAn Institute of Optics and Precision Mechanics of CAS
Original Assignee
XiAn Institute of Optics and Precision Mechanics of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by XiAn Institute of Optics and Precision Mechanics of CAS filed Critical XiAn Institute of Optics and Precision Mechanics of CAS
Priority to CN202010053972.2A priority Critical patent/CN111225160B/zh
Publication of CN111225160A publication Critical patent/CN111225160A/zh
Application granted granted Critical
Publication of CN111225160B publication Critical patent/CN111225160B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time

Abstract

本发明涉及一种深空探测中使用的自动曝光控制方法,具体涉及一种基于图像多阈值控制的自动曝光控制方法,以解决现有技术中存在的自动曝光控制方法容易使太空背景下可见光图像中的空间目标曝光过度,且不适用于深空环境的航天特定微处理器的问题。首先依据图像传感器饱和值设定亮区阈值、暗区阈值、合理亮度阈值区间、过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值,然后依据图像像元值对当前帧图像进行计算与统计,得到当前帧图像的平均亮度、饱和像元数、亮像元数,再将当前帧图像的平均亮度、饱和像元数、亮像元数与设定阈值进行比较,确定是否更新曝光时间,如果更新曝光时间,则将连续帧循环迭代直至图像符合设定要求,曝光控制结束。

Description

基于图像多阈值控制的自动曝光控制方法
技术领域
本发明涉及一种深空探测中使用的自动曝光控制方法,具体涉及一种基于图像多阈值控制的自动曝光控制方法。
背景技术
应用于空间探测的成像装置在轨工作时,曝光时间至关重要,曝光时间过短会导致景物昏暗,而曝光时间过长又会导致景物亮度饱和,因此进行自动曝光控制是必不可少的,也是成像装置的核心技术。
自动曝光控制的目标是使拍摄主体的图像暗部细节不丢失,亮部不过曝,同时平均亮度适合人眼观看,但自动曝光控制非常复杂,曝光控制不好可能会陷入曝光时间紊乱,出现时亮时暗的情况。
在空间探测相机工作的环境中,太空背景是全黑的暗背景,很多高亮的空间目标与暗背景形成了强烈的反差。当空间目标在画面中所占比例较小而太空暗背景所占比例较大时,画面整体表现偏暗,此时若仍采取平均值或直方图等传统曝光控制方法,空间目标必然过曝。
此外,民用相机一般采用的微处理器因无法保证其在深空环境下的可靠性而不能应用于空间探测相机,能够适用于深空环境的航天特定微处理器对自动曝光控制方法也提出了优化需求。
因此,亟需一种自动曝光控制方法,既能满足常规目标成像,又能解决太空背景下可见光图像中的空间目标容易曝光过度的问题,同时还能应用于航天特定微处理器。
发明内容
本发明的目的是解决现有技术中存在的自动曝光控制方法容易使太空背景下可见光图像中的空间目标曝光过度,且不适用于深空环境的航天特定微处理器的问题,而提供了一种基于图像多阈值控制的自动曝光控制方法。
本发明所依据的原理是:
自动曝光控制的目标是使拍摄主体的图像暗部细节不丢失,亮部不过曝,同时平均亮度适合人眼观看。在空间探测相机工作的环境中,太空背景是全黑的暗背景,很多高亮的空间目标与暗背景形成了强烈的反差,需要去除暗背景对空间目标成像的干扰,同时需要避免空间目标成像亮度饱和。
本发明所采用的技术方案是:
一种基于图像多阈值控制的自动曝光控制方法,其特殊之处在于,按照以下步骤实施:
步骤1)设定阈值
依据图像传感器饱和值设定亮区阈值、暗区阈值、合理亮度阈值区间,以及过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值;
步骤2)对当前帧图像进行计算和统计
依据当前帧图像的像元值计算得到当前帧图像的平均亮度,统计得到当前帧图像的饱和像元数、亮像元数;
步骤3)将计算和统计结果与设定阈值进行比较,确定是否更新曝光时间
将步骤2)得到的当前帧图像的平均亮度、饱和像元数、亮像元数与步骤1)中设定的合理亮度阈值区间、过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值进行比较,依次判断当前帧图像的平均亮度是否位于合理亮度阈值区间之外,饱和像元数是否高于过饱和阈值,亮像元数是否高于过亮阈值,饱和像元数是否低于欠饱和阈值且亮像元数低于过暗阈值;如果任一判断结果为是,则更新曝光时间,并返回步骤2),将连续帧循环迭代直至图像的平均亮度位于合理亮度阈值区间,且饱和像元数不高于过饱和阈值,亮像元数不高于过亮阈值,饱和像元数不低于欠饱和阈值或亮像元数不低于过暗阈值;如果判断结果均为否,则图像符合设定要求,曝光控制结束。
进一步地,步骤1)中所述亮区阈值的范围为图像传感器饱和值的7/10~9/10;所述暗区阈值的范围为图像传感器饱和值的1/10~3/10;所述合理亮度阈值区间为图像传感器饱和值的3/10~7/10;所述过饱和阈值的范围为图像像元总数的万分之一至万分之五;所述欠饱和阈值的范围为图像像元总数的百万分之一至百万分之五;所述过亮阈值的范围为图像像元总数的百分之一至百分之五;所述过暗阈值的范围为图像像元总数的千分之一至千分之五。
进一步地,步骤1)中所述亮区阈值为图像传感器饱和值的4/5;所述暗区阈值为图像传感器饱和值的1/5;所述合理亮度阈值区间为图像传感器饱和值的1/3~2/3;所述过饱和阈值为图像像元总数的万分之一;所述欠饱和阈值为图像像元总数的百万分之三;所述过亮阈值为图像像元总数的百分之一;所述过暗阈值为图像像元总数的千分之一。
进一步地,步骤2)具体是指将图像中大于暗区阈值的像元值进行累加求平均值,得到当前帧图像的平均亮度;将图像中像元值等于图像传感器饱和值的像元进行统计,得到当前帧图像的饱和像元数;将图像中像元值大于亮区阈值的像元进行统计,得到当前帧图像的亮像元数。
进一步地,步骤3)具体包括以下步骤:
3.1)若当前帧图像的平均亮度位于合理亮度阈值区间之外,则依据当前帧图像的平均亮度调整下一帧图像曝光时间,下一帧图像曝光时间=(图像传感器饱和值*当前帧图像曝光时间)/(2*当前帧图像平均亮度),并返回步骤2);否则执行下一步;
3.2)若当前帧图像的饱和像元数高于过饱和阈值,则在当前帧图像曝光时间的基础上减小下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*0.8,并返回步骤2);否则执行下一步;
3.3)若当前帧图像的亮像元数高于过亮阈值,则在当前帧图像曝光时间的基础上减小下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*0.9,并返回步骤2);否则执行下一步;
3.4)若当前帧图像的饱和像元数低于欠饱和阈值且亮像元数低于过暗阈值,则在当前帧图像曝光时间的基础上增加下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*1.1,并返回步骤2);
否则,图像符合设定要求,曝光控制结束。
本发明相比现有技术的有益效果是:
(1)本发明提供的基于图像多阈值控制的自动曝光控制方法,依据当前帧图像的平均亮度、饱和像元数、亮像元数,经比较并计算出下一帧图像曝光时间,算法简便易行,适用于航天特定微处理器;
(2)本发明可快速、准确地调整曝光时间,既能满足常规目标成像,又能解决太空背景下可见光图像中的空间目标容易曝光过度的问题,对空间探测中的暗背景亮目标取得较好的曝光效果。
附图说明
图1是本发明基于图像多阈值控制的自动曝光控制方法流程图;
图2是本发明步骤3的具体流程图;
图3是实施例一中未经本发明方法调整的图像;
图4是实施例一中经本发明方法调整后的图像;
图5是实施例二中经本发明方法调整后的图像;
图6是图5的局部放大图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
如图1所示,该基于图像多阈值控制的自动曝光控制方法,具体按照以下步骤实施:
步骤1)依据图像传感器饱和值设定亮区阈值、暗区阈值、合理亮度阈值区间,以及过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值。
设定暗区阈值用于在后续计算过程中将暗背景排除,只有大于暗区阈值的像元参与运算得到当前帧图像的平均亮度,避免暗背景干扰曝光控制;
设定亮区阈值用于统计图像中的亮像元数;
设定合理亮度阈值区间用于判定当前帧图像亮暗是否合适;
设定过饱和阈值和过亮阈值用于判定当前帧图像是否过亮;
设定欠饱和阈值和过暗阈值用于判定当前帧图像是否过暗。
其中,亮区阈值的范围为图像传感器饱和值的7/10~9/10;暗区阈值的范围为图像传感器饱和值的1/10~3/10;合理亮度阈值区间为图像传感器饱和值的3/10~7/10;过饱和阈值的范围为图像像元总数的万分之一至万分之五;欠饱和阈值的范围为图像像元总数的百万分之一至百万分之五;过亮阈值的范围为图像像元总数的百分之一至百分之五;过暗阈值的范围为图像像元总数的千分之一至千分之五。
优选地,亮区阈值为图像传感器饱和值的4/5;暗区阈值为图像传感器饱和值的1/5;合理亮度阈值区间为图像传感器饱和值的1/3~2/3;过饱和阈值为图像像元总数的万分之一;欠饱和阈值为图像像元总数的百万分之三;过亮阈值为图像像元总数的百分之一;过暗阈值为图像像元总数的千分之一。
步骤2)依据当前帧图像的像元值,将图像中大于暗区阈值的像元值进行累加求平均值,得到当前帧图像的平均亮度;将图像中像元值等于图像传感器饱和值的像元进行统计,得到当前帧图像的饱和像元数;将图像中像元值大于亮区阈值的像元进行统计,得到当前帧图像的亮像元数。
步骤3)将步骤2)得到的当前帧图像的平均亮度、饱和像元数、亮像元数与步骤1)中设定的合理亮度阈值区间、过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值进行比较,确定是否更新曝光时间;如果更新曝光时间,则返回步骤2),将连续帧循环迭代直至图像符合设定要求,曝光控制结束。
如图2所示,具体包括以下步骤:
3.1)若当前帧图像的平均亮度位于合理亮度阈值区间之外,则依据当前帧图像的平均亮度调整下一帧图像曝光时间,下一帧图像曝光时间=(图像传感器饱和值*当前帧图像曝光时间)/(2*当前帧图像平均亮度),并返回步骤2);否则执行下一步。由于像元值与曝光时间一般呈线性关系,使用上述公式得到的下一帧图像平均亮度会向1/2图像传感器饱和值收敛;当前帧图像的平均亮度与1/2图像传感器饱和值差异越大,则下一帧图像曝光时间调整幅度越大。当前帧图像的平均亮度位于合理亮度阈值区间则说明亮度较为适中,基本适合人眼观察,曝光时间无需进行大幅调整。
3.2)若当前帧图像的饱和像元数高于过饱和阈值,则在当前帧图像曝光时间的基础上减小下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*0.8,即当前帧图像过亮,需要减少曝光时间以减少饱和点,则下一帧图像曝光时间减少20%,并返回步骤2);否则执行下一步。
3.3)若当前帧图像的亮像元数高于过亮阈值,则在当前帧图像曝光时间的基础上减小下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*0.9,即当前帧图像偏亮,需要减少曝光时间以减少亮区域,则下一帧图像曝光时间减少10%,并返回步骤2);否则执行下一步。
3.4)若当前帧图像的饱和像元数低于欠饱和阈值且亮像元数低于过暗阈值,则在当前帧图像曝光时间的基础上增加下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*1.1,即当前帧图像偏暗,需要增加曝光时间,则下一帧图像曝光时间增加10%,并返回步骤2);
否则,图像符合设定要求,即图像的平均亮度位于合理亮度阈值区间,且饱和像元数不高于过饱和阈值,亮像元数不高于过亮阈值,饱和像元数不低于欠饱和阈值或亮像元数不低于过暗阈值,曝光控制结束。
实施例一
图3是未经本发明方法调整的图像,该图像的饱和像元数为25,亮像元数为46,当前帧图像的平均亮度为246.1,图像整体偏暗,暗部细节不清楚。
经上述步骤调整曝光时间后,得到的图像如图4所示,该图像的饱和像元数为81,亮像元数为7599,当前帧图像的平均亮度为437.9,图像整体灰度均匀,暗部细节较为清楚,图像右上方有光源照射,但未出现大面积过亮与饱和区域,亮部细节较为清楚。
实施例二
图5是经过上述步骤调整曝光时间后得到的图像,该图像场景中包含大量暗背景,并包含多种成像目标,图5经局部放大后得到图6,可以看出成像目标暗部细节不丢失,亮部不过曝,同时平均亮度适合人眼观看。

Claims (3)

1.一种基于图像多阈值控制的自动曝光控制方法,其特征在于,按照以下步骤实施:
步骤1)设定阈值
依据图像传感器饱和值设定亮区阈值、暗区阈值、合理亮度阈值区间,以及过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值;
步骤2)对当前帧图像进行计算和统计
依据当前帧图像的像元值计算得到当前帧图像的平均亮度,统计得到当前帧图像的饱和像元数、亮像元数;
具体为:将图像中大于暗区阈值的像元值进行累加求平均值,得到当前帧图像的平均亮度;将图像中像元值等于图像传感器饱和值的像元进行统计,得到当前帧图像的饱和像元数;将图像中像元值大于亮区阈值的像元进行统计,得到当前帧图像的亮像元数;
步骤3)将计算和统计结果与设定阈值进行比较,确定是否更新曝光时间
将步骤2)得到的当前帧图像的平均亮度、饱和像元数、亮像元数与步骤1)中设定的合理亮度阈值区间、过饱和阈值、欠饱和阈值、过亮阈值、过暗阈值进行比较,依次判断当前帧图像的平均亮度是否位于合理亮度阈值区间之外,饱和像元数是否高于过饱和阈值,亮像元数是否高于过亮阈值,饱和像元数是否低于欠饱和阈值且亮像元数低于过暗阈值;如果任一判断结果为是,则更新曝光时间,并返回步骤2),将连续帧循环迭代直至图像的平均亮度位于合理亮度阈值区间,且饱和像元数不高于过饱和阈值,亮像元数不高于过亮阈值,饱和像元数不低于欠饱和阈值或亮像元数不低于过暗阈值;如果判断结果均为否,则图像符合设定要求,曝光控制结束;
具体包括以下步骤:
3.1)若当前帧图像的平均亮度位于合理亮度阈值区间之外,则依据当前帧图像的平均亮度调整下一帧图像曝光时间,下一帧图像曝光时间=(图像传感器饱和值*当前帧图像曝光时间)/(2*当前帧图像平均亮度),并返回步骤2);否则执行下一步;
3.2)若当前帧图像的饱和像元数高于过饱和阈值,则在当前帧图像曝光时间的基础上减小下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*0.8,并返回步骤2);否则执行下一步;
3.3)若当前帧图像的亮像元数高于过亮阈值,则在当前帧图像曝光时间的基础上减小下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*0.9,并返回步骤2);否则执行下一步;
3.4)若当前帧图像的饱和像元数低于欠饱和阈值且亮像元数低于过暗阈值,则在当前帧图像曝光时间的基础上增加下一帧图像曝光时间,下一帧图像曝光时间=当前帧图像曝光时间*1.1,并返回步骤2);
否则,图像符合设定要求,曝光控制结束。
2.根据权利要求1所述的基于图像多阈值控制的自动曝光控制方法,其特征在于:
步骤1)中所述亮区阈值的范围为图像传感器饱和值的7/10~9/10;
所述暗区阈值的范围为图像传感器饱和值的1/10~3/10;
所述合理亮度阈值区间为图像传感器饱和值的3/10~7/10;
所述过饱和阈值的范围为图像像元总数的万分之一至万分之五;
所述欠饱和阈值的范围为图像像元总数的百万分之一至百万分之五;
所述过亮阈值的范围为图像像元总数的百分之一至百分之五;
所述过暗阈值的范围为图像像元总数的千分之一至千分之五。
3.根据权利要求2所述的基于图像多阈值控制的自动曝光控制方法,其特征在于:
步骤1)中所述亮区阈值为图像传感器饱和值的4/5;
所述暗区阈值为图像传感器饱和值的1/5;
所述合理亮度阈值区间为图像传感器饱和值的1/3~2/3;
所述过饱和阈值为图像像元总数的万分之一;
所述欠饱和阈值为图像像元总数的百万分之三;
所述过亮阈值为图像像元总数的百分之一;
所述过暗阈值为图像像元总数的千分之一。
CN202010053972.2A 2020-01-17 2020-01-17 基于图像多阈值控制的自动曝光控制方法 Expired - Fee Related CN111225160B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010053972.2A CN111225160B (zh) 2020-01-17 2020-01-17 基于图像多阈值控制的自动曝光控制方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010053972.2A CN111225160B (zh) 2020-01-17 2020-01-17 基于图像多阈值控制的自动曝光控制方法

Publications (2)

Publication Number Publication Date
CN111225160A CN111225160A (zh) 2020-06-02
CN111225160B true CN111225160B (zh) 2021-06-22

Family

ID=70827071

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010053972.2A Expired - Fee Related CN111225160B (zh) 2020-01-17 2020-01-17 基于图像多阈值控制的自动曝光控制方法

Country Status (1)

Country Link
CN (1) CN111225160B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112153360B (zh) * 2020-08-24 2022-03-18 青岛小鸟看看科技有限公司 头戴设备的曝光参数的确定方法、装置及设备
CN112788250B (zh) * 2021-02-01 2022-06-17 青岛海泰新光科技股份有限公司 一种基于fpga实现的自动曝光控制方法
CN113347369B (zh) * 2021-06-01 2022-08-19 中国科学院光电技术研究所 一种深空探测相机曝光调节方法、调节系统及其调节装置
CN116389901B (zh) * 2023-03-23 2023-11-21 中国科学院空间应用工程与技术中心 一种航天相机在轨智能曝光及对焦方法、系统和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101231169A (zh) * 2008-01-31 2008-07-30 北京控制工程研究所 紫外月球敏感器自主积分时间调节方法
CN103826066A (zh) * 2014-02-26 2014-05-28 芯原微电子(上海)有限公司 一种自动曝光调整方法及系统
CN104184958A (zh) * 2014-09-17 2014-12-03 中国科学院光电技术研究所 一种适用于空间探测成像的基于fpga的自动曝光控制方法及其装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5136664B2 (ja) * 2010-07-09 2013-02-06 カシオ計算機株式会社 画像処理装置、及びプログラム
CN105160636A (zh) * 2015-07-09 2015-12-16 北京控制工程研究所 一种面向星上光学成像敏感器的自适应图像预处理方法
CN105915811B (zh) * 2016-04-08 2018-11-30 深圳英飞拓科技股份有限公司 图像强光抑制适应控制方法和装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101231169A (zh) * 2008-01-31 2008-07-30 北京控制工程研究所 紫外月球敏感器自主积分时间调节方法
CN103826066A (zh) * 2014-02-26 2014-05-28 芯原微电子(上海)有限公司 一种自动曝光调整方法及系统
CN104184958A (zh) * 2014-09-17 2014-12-03 中国科学院光电技术研究所 一种适用于空间探测成像的基于fpga的自动曝光控制方法及其装置

Also Published As

Publication number Publication date
CN111225160A (zh) 2020-06-02

Similar Documents

Publication Publication Date Title
CN111225160B (zh) 基于图像多阈值控制的自动曝光控制方法
CN104184957B (zh) 一种适用于空间探测成像的基于自适应预期图像平均亮度的自动曝光控制方法
CN106713778B (zh) 曝光控制方法和装置
CN110248112B (zh) 一种图像传感器的曝光控制方法
CN109918993B (zh) 一种基于人脸区域曝光的控制方法
CN106454145A (zh) 一种具有场景自适应的自动曝光方法
CN104754240A (zh) Cmos图像传感器自动曝光方法及装置
CN110599433B (zh) 一种基于动态场景的双曝光图像融合方法
CN111064904A (zh) 一种暗光图像增强方法
US8780262B2 (en) Image pickup apparatus that performs exposure control, method of controlling the image pickup apparatus, and storage medium
CN106412447A (zh) 曝光控制系统及其方法
US7995105B2 (en) Brightness adjusting method
CN104954696B (zh) 一种emccd增益自动调节方法
CN104184958A (zh) 一种适用于空间探测成像的基于fpga的自动曝光控制方法及其装置
TW201106685A (en) Foreground image separation method
CN112752023B (zh) 一种图像调整方法、装置、电子设备及存储介质
JP2013258444A (ja) 画像処理装置、画像処理方法及びプログラム
CN101227562A (zh) 亮度的修正方法
CN103475821A (zh) 基于近红外相机自动积分时间的调整方法
CN105554410B (zh) 自动驾驶中摄像头动态曝光调整方法
DE102016225311A1 (de) Bildverarbeitungseinrichtung
CN114666512B (zh) 一种快速自动曝光的调节方法及系统
CN113556468B (zh) 一种图像处理的方法及系统
CN108551555B (zh) 一种使用cmos探测器的工业相机的自动曝光方法
CN112653845A (zh) 曝光控制方法、装置、电子设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20210622

Termination date: 20220117

CF01 Termination of patent right due to non-payment of annual fee