CN106973285A - 摄像装置和闪烁检测方法 - Google Patents
摄像装置和闪烁检测方法 Download PDFInfo
- Publication number
- CN106973285A CN106973285A CN201610886218.0A CN201610886218A CN106973285A CN 106973285 A CN106973285 A CN 106973285A CN 201610886218 A CN201610886218 A CN 201610886218A CN 106973285 A CN106973285 A CN 106973285A
- Authority
- CN
- China
- Prior art keywords
- flicker
- camera device
- control unit
- phase
- fourier
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 102
- 238000001228 spectrum Methods 0.000 claims abstract description 90
- 238000005096 rolling process Methods 0.000 claims abstract description 14
- 230000033001 locomotion Effects 0.000 claims description 40
- 238000000034 method Methods 0.000 claims description 15
- 238000007689 inspection Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 10
- 238000011156 evaluation Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000003860 storage Methods 0.000 description 7
- 230000015654 memory Effects 0.000 description 6
- 238000011835 investigation Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 230000006399 behavior Effects 0.000 description 4
- 241000638935 Senecio crassissimus Species 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000003595 spectral effect Effects 0.000 description 3
- 230000003936 working memory Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 210000003205 muscle Anatomy 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 241000894007 species Species 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 241000406668 Loxodonta cyclotis Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 239000011800 void material Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/745—Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/745—Circuitry for generating timing or clock signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Studio Devices (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
本发明提供摄像装置和闪烁检测方法。具备闪烁检测功能的摄像装置包含卷帘快门方式的摄像元件,对由所述卷帘快门方式的摄像元件摄像的摄像定时不同的2个摄影图像,基于成为检测对象的闪烁周期进行傅立叶谱解析,来分别算出包含振幅和相位的傅立叶谱,在该算出的傅立叶谱的振幅和2个傅立叶谱的相位满足给定条件的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
Description
技术领域
本发明涉及基于所摄像的图像内的明亮度变化来检测闪烁的摄像装置。
背景技术
数字视频摄像机等摄像装置若在对应于商用电源频率(例如50Hz、60Hz)而周期性明亮度变化的光源(例如荧光管等)的环境下进行摄像,则在商用电源频率为50Hz的情况下,以1/100秒周期而光源的明亮度发生变化,在60Hz的情况下,以1/120秒周期而光源的明亮度发生变化,因此有时在该图像信号内中会出现明暗的条纹。在该情况下,在卷帘快门方式(行曝光依次读出方式)的摄像元件(CMOS)中,由于以行为单位错开曝光定时来进行1帧份的摄像,因此有在所摄像的图像中在垂直方向上呈现条纹图样而产生闪烁的情况。
作为检测该闪烁的技术,过去已知如下技术(参考专利文献1):在具备卷帘快门方式的摄像元件的摄像装置中,在检测有无荧光灯等闪烁产生要因的情况下,解析在所摄影的图像中出现的条纹的产生状态,由此检测荧光灯的闪烁分量的频率。
专利文献1:JP特开2004-7402号公报
但在上述的专利文献中,在通过解析在图像内产生的条纹而检测到闪烁的情况下,虽然只要是在能设定闪烁检测用的特别的摄影条件的状况下即可,但在动态图象摄影中为了被摄体抖动而有希望积极使用高速快门的要求的情况等、不能像动态图象摄影中或实时取景显示中那样设定闪烁检测用的特别的摄影条件(摄像定时等)的状况下,有以下那样的问题。即,难以区别在图像内产生的条纹是描绘在被摄体的图样或因被摄体的配置状态等而呈现的条纹图样(被摄体所引起的条纹),还是因光源的闪烁而呈现的条纹图样(闪烁所引起的条纹),有难以进行闪烁的检测这样的问题。
发明内容
本发明的课题是,在闪烁检测用的特别的摄影条件的设定受到限制的摄影状况下,也能区别在摄像图像内产生的条纹是由被摄体引起的还是由闪烁引起的,从而合适地检测闪烁。
本发明的1个方式是具备闪烁检测功能的摄像装置,其特征在于,包含:包含卷帘快门方式的摄像元件的摄像部;和包含处理器以及存储器的控制部,所述控制部对由所述卷帘快门方式的摄像元件摄像的摄像定时不同的2个摄影图像,基于成为检测对象的闪烁周期进行傅立叶谱解析,由此分别算出包含振幅和相位的傅立叶谱,在该算出的傅立叶谱的振幅和2个傅立叶谱的相位满足给定条件的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
另外,本发明的其他方式是具备卷帘快门方式的摄像元件的摄像装置中的闪烁检测方法,对由所述卷帘快门方式的摄像元件摄像的摄像定时不同的2个摄影图像,基于成为检测对象的闪烁周期进行傅立叶谱解析,来分别算出包含振幅和相位的傅立叶谱,在所述算出的傅立叶谱的振幅和2个傅立叶谱的相位满足给定条件的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
附图说明
图1是表示作为摄像装置而运用的数字摄像机的基本构成要素的框图。
图2是用于说明摄影模式下的一部分动作(本实施方式的特征性的闪烁检测动作)的流程图。
图3是紧接图2的动作的流程图。
具体实施方式
以下参考图1~图3来说明本发明的实施方式。
图1是表示作为摄像装置而运用的数字摄像机的基本构成要素的框图。
摄像装置是数字摄像机,除了具备对静止图像和动态图象进行摄像的摄像功能、显示记录保存的图像的重放功能、得到计时信息的计时功能、自动控制光圈、速度来得到与被摄体的明度相应的曝光的自动曝光功能等以外,还具备闪烁检测功能。该闪烁检测功能是在对应于商用电源频率而明亮度周期性变化的光源(例如荧光管等)的环境下,检测所摄像的图像内中所呈现的闪烁的产生要因的功能。控制部1通过来自电源部(二次电池)2的电力提供而动作,按照存放于存储部3内的各种程序来控制该数字摄像机的整体动作,在该控制部1中设有未图示的CPU(中央运算处理装置)、存储器等。
存储部3例如是具有ROM、闪速存储器等的构成,具有:容纳用于按照后述的图2以及图3所示的动作次序实现本实施方式的程序、各种应用等的程序存储器3A;临时存储为了该摄像机动作而需要的各种信息(例如标记等)的工作内存3B等。另外,存储部3例如可以是包含SD卡、USB存储器等拆装自由的可移动型存储器(记录介质)的构成,虽未图示,但也可以在经由通信功能与网络连接的状态下包含给定的服务器装置侧的存储区。
虽然图示省略,操作部4除了具备切换能摄影的动作模式(摄影模式)和重放摄影完毕图像(保存图像)的动作模式(重放模式)的模式变更按钮、指示摄影开始的释放按钮以外,还具备进行快门速度、光圈、ISO灵敏度等摄影条件的设定操作等的各种键,控制部1例如进行模式变更处理、摄影处理、摄影条件的设定等,作为与来自该操作部4的输入操作信号相应的处理。显示部5是高精细度液晶显示器或有机EL(Electro Luminescence,电致发光)显示器等,成为实时显示摄像的图像数据(实时取景图像)的监视器画面(实时取景画面),或成为重放摄影完毕的图像数据的重放画面。
摄像部6构成能高精度对被摄体进行摄影的摄像机部,在其镜头构件6A设置变焦透镜6B、聚焦透镜(合焦透镜)6C、光圈和快门6D、摄像元件6E。摄像元件6E将各像素二维配置成行列的矩阵状,是对配置于水平行(行行)和垂直行(列行)上的各像素一边按垂直方向上并排的每水平行(1行或多行)错开曝光定时一边进行摄像的卷帘快门方式(行曝光依次读出方式)的CMOS图像传感器。
并且,虽然图示省略,但摄像元件6E具有电荷积蓄部以及电荷转移部,针对从其排头行(最上端(行)的水平行)到最终行(最下端(行)的水平行)每隔给定时间一边错开定时一边按每水平行依次进行曝光、读出。另外,在此所说的「垂直」、「水平」是方便示出在卷帘快门方式的摄像元件中进行上述那样的曝光的情况下的像素数据的读出方向的称谓,并不限定于重力方向或摄像元件的安装方向等。以下也有将水平行仅称作“行”的情况。
从该摄像元件6E读出的图像信号(模拟值的信号)被图示省略的A/D变换部变换成数字信号(图像信号),并在被实施了给定的图像显示处理后,作为实时取景图像而实时监视显示在显示部5。控制部1对按照释放按钮(图示省略)的操作而摄像的图像实施给定的图像处理(显影处理等)来生成摄影图像,并在实施图像压缩处理而变换为标准的文件格式后,记录保存在存储部3的记录介质。
在如此具备卷帘快门方式的摄像元件6E的摄像装置(数字摄像机)中,一般,作为检测在对应于商用电源频率(例如50Hz、60Hz)而明亮度周期性变化的光源的环境下进行动态图象摄影的情况下产生的闪烁的方法,有以下的方法。作为其中1个方法,利用因闪烁而在摄像图像产生的条纹的量根据曝光时间不同而不同这点,通过控制该曝光时间来检测闪烁。在该方法中,由于能直接检测闪烁所引起的条纹,因此不需要区别在摄像图像内产生的条纹是描绘在被摄体的图样或因被摄体的配置状态等而呈现的条纹图样(被摄体所引起的条纹),还是因光源的闪烁而呈现的条纹图样(闪烁所引起的条纹),相应地,有着在闪烁检测时未保持合适曝光、或闪烁的条纹较大呈现在摄像图像中这样的问题。
作为其他方法,利用因闪烁而在摄像图像产生的条纹的相位根据摄像定时(帧周期)不同而不同这点,通过控制该摄像定时来区别在摄像图像产生的条纹是被摄体所引起的条纹还是闪烁所引起的条纹,从而检测闪烁。在该方法中,在检测到在2个摄像图像中产生条纹且条纹的相位不同的情况下,判定为不是被摄体所引起的条纹而是产生闪烁所引起的条纹,因此能在保持合适曝光的情况下使呈现在摄像图像的闪烁的条纹也减小,相应地,需要控制摄像定时,以能区别在摄像图像内产生的条纹是被摄体所引起的条纹还是闪烁所引起的条纹。为此,在动态图象摄影时(或实时取景显示时)那样决定了摄像定时的摄影状况下,有难以进行闪烁检测这样的问题。
即,所摄像的图像内呈现闪烁的条纹的周期,成为闪烁周期与摄影帧的周期的最小公倍数的周期,但若摄影帧的周期是闪烁周期的整数倍,则呈现闪烁条纹的周期与摄影帧的周期一致,闪烁条纹不再呈现,因此例如在摄像帧速率为30fps(33ms周期)的情况下,能检测50Hz闪烁(因50Hz的电源频率而产生的闪烁)。与此相对,在摄影帧的周期不是闪烁周期的整数倍的情况下,例如在摄像帧速率为30fps(33ms周期)时检测60Hz闪烁(因60Hz的电源频率而产生的闪烁)的情况下,无论哪个定时的帧都与60Hz闪烁相位成为相同,在各帧间没有闪烁导致的相位差,不再能检测60Hz闪烁。
在如此控制摄像定时来检测闪烁的方法中,相对于摄像定时刻意错开闪烁所引起的条纹的相位(控制摄像定时),并且不相对于摄像定时刻意错开被摄体所引起的条纹的相位(设定帧速率,使得在被摄体即使移动也让移动量较少那样的短时间内进行2次的摄像),由此检测到在摄像图像中产生条纹且条纹的相位不同,在该情况下,判定为不是被摄体所引起的条纹,而是呈现闪烁所引起的条纹。与此相对,在本实施方式中,使用与上述的方法相反的方法,区别在摄像图像内产生的条纹是由被摄体引起还是由闪烁引起,从而检测闪烁。
即,本实施方式与上述的方法相反,不相对于摄像定时刻意错开闪烁的相位(将帧速率(摄像定时)设定为固定而不错开),且相对于摄像定时刻意错开被摄体所引起的条纹的相位,即,在进行2次的摄像时判定为被摄体和该摄像装置相对移动的情况下利用该2个摄像图像来检测该图像内的条纹的相位,由此在检测到在摄像图像中产生条纹且条纹的相位相同或近似的情况下,判定为不是被摄体所引起的条纹,而是产生闪烁所引起的条纹。由此在动态图象摄影时(或实时取景显示时)那样决定了摄像定时的摄影状况下,也能区别在摄像图像内产生的条纹是否是被摄体所引起的闪烁,来对闪烁进行检测。
接下来,参考图2以及图3中的流程图来说明本实施方式中的数字摄像机的动作概念。在此,这些流程图中所记述的各功能以可读的程序代码的形态存放,遵循该程序代码的动作被逐次执行。另外,还能逐次执行经由网络等传输介质传输来的上述的程序代码的动作。即,除了能利用记录介质以外,还能利用经由传输介质而外部提供的程序/数据来执行本实施方式特有的动作。另外,图2以及图3是表示摄像装置的整体动作当中本实施方式的特征部分的动作概要的流程图,在从该图2以及图3的流程脱离时,返回整体动作的主流程(图示省略)。
图2以及图3是用于说明摄影模式下的一部分动作(本实施方式的特征性的闪烁检测动作)的流程图,例如在动态图象摄影时(或实时取景显示时)执行。
首先,控制部1按照当前模式(从各种动态图象摄影模式中任意选择的摄影模式)来设定对应的摄影用帧速率(图2的步骤S1)。这时,若是实时取景显示的摄影模式,则作为其摄影用帧速率设定30fps。接下来开始与当前模式相应的摄影动作,若是实时取景显示的摄影模式,则进一步开始所摄像的图像的显示动作(步骤S2)。
在该状态下,调查是否是预先决定的闪烁检测定时(例如起动时设定摄影模式的情况、从其他模式切换到摄影模式的情况等)(步骤S3),若不是检测定时(步骤S3“否”),则移转到摄影模式下下的其他动作,若是检测定时(步骤S3“是”),则从成为检测对象的50Hz闪烁的周期(10ms)、60Hz闪烁的周期(8.3ms)中选择其中1个作为本次的检测对象(步骤S4)。然后取得预先设定的动态图象摄影时(或实时取景显示时)的帧速率(帧周期),调查该摄影用的帧周期是否是所选择的闪烁频率的整数倍(步骤S5)。
例如在摄影用的帧速率被设定为30fps的状态下选择60Hz闪烁作为检测对象的情况下,摄影用的帧周期33ms成为闪烁周期(8.3ms)的整数倍,在选择50Hz闪烁作为检测对象的情况下,摄影用的帧周期33ms不成为闪烁周期(10ms)的整数倍。另外,在摄影用的帧速率被设定为25fps的状态下选择60Hz闪烁周期作为检测对象的情况下,摄影用的帧周期40ms不成为闪烁周期(8.3ms)的整数倍,而在选择50Hz闪烁作为检测对象的情况下,摄影用的帧周期40ms成为闪烁周期(10ms)的整数倍。
当前,在摄影用的帧速率被设定为30fps的状态下,选择60Hz闪烁作为检测对象的情况下,由于摄影用的帧周期成为闪烁周期的整数倍(步骤S5“是”),因此以下移转到本实施方式的特征的闪烁检测处理(步骤S6~S16)。在该闪烁检测处理中,将在每个给定的摄像定时摄像的帧图像基于成为检测对象的闪烁周期进行傅立叶谱解析(Fourier spectrumsanalysis),来算出包含振幅和相位的傅立叶谱,在与检测对象的闪烁周期对应的傅立叶谱的振幅为给定以上且2个傅立叶谱的相位之差为给定以下、进而被摄体和该摄像装置相对运动的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
首先,将连续摄像的2帧份的图像指定为闪烁检测用的评价对象,取得它们的帧图像并暂时存储在工作内存3B(步骤S6)。然后读出暂时存储在该工作内存3B内的2个帧图像,对这些帧图像进行处理,将其各图像值按每水平行积分,来算出垂直方向的明亮度变动数据(步骤S7)。即,由于闪烁所引起的条纹在图像内的垂直方向上呈现,因此首先将时间上前后的2帧图像当中的其中一方的帧图像作为对象,将各水平行内的在水平方向上并排的全部像素数据按每水平行积分,得到与多个水平行对应的多个积分值。
接下来,将另一方帧图像作为对象,同样地,将各水平行内的在水平方向上并排的全部像素数据按每水平行积分,得到与多个水平行对应的多个积分值。然后,将以一方的帧图像为对象得到的多个积分值和以另一方帧图像为对象得到的多个积分值按每水平行进行比较,算出多个比较值(每行的明亮度的比)作为垂直方向的明亮度变动数据。另外,上述的积分和比较既可以分别按每1行进行,也可以按每多行进行。另外,也可以按每1行进行积分,按每多行进行比较。另外,也可以在按每像素进行比较后将其比较值按每行积分。
接下来,从算出的各个明亮度变动数据提取(采样)相当于成为检测对象的闪烁周期的N(整数)倍的范围,在频率N下进行傅立叶谱解析(步骤S8)。即,确定成为傅立叶谱解析的对象的评价区域(图像区),从该确定的评价区域(图像区)内提取对应的多个比较值数据,但在该情况下,明亮度的变化由于对应于闪烁周期周期性呈现,因此若检测对象是50Hz闪烁,则从相当于其周期10ms以上(可能的话为其2倍以上的整数倍)的时间的图像区(评价区域)提取比较值数据,若检测对象是60Hz闪烁,则从相当于其周期8.3ms以上(可能的话为其2倍以上的整数倍)的时间的图像区(评价区域)内提取比较值数据。然后,将从该评价区域内提取的比较值数据的垂直方向的明亮度变化(明亮度比的变动数据)在频率N(N=1、2、3、...的整数)下进行傅立叶谱解析。在该情况下,在将评价区域整体作为1周期的情况下,解析包含与其几倍的频率对应的频率分量。
对如此在每个给定的摄像定时摄像的2个帧图像,基于成为检测对象的闪烁周期进行傅立叶谱解析,由此分别算出包含振幅和相位(虚部和实部)的傅立叶谱。之后移转到图3的流程,根据对2个帧图像进行傅立叶谱解析的结果(在解析结果以包含傅立叶谱的虚部和实部的复数的形式得到的情况下,根据其虚数和实数基于已知的变换式变换成傅立叶谱的振幅和相位)来分别取得傅立叶谱的振幅(步骤S9)。然后,对每个帧图像调查其振幅谱(与检测对象的闪烁对应的频率的谱分量的振幅)是否为给定以上(步骤S10)。
即,调查振幅谱的大小是否为给定以上、即为了判定摄像图像内是否呈现条纹而预先设定的阈值以上(调查的可以是仅一方的帧图像,也可以调查两方,将大的值、小的值、平均值的任一者与阈值进行比较)。在此,若任何帧图像的振幅谱都不为给定以上(步骤S10“否”),则判断为在任何图像内都未呈现条纹,判定为没有成为检测对象的闪烁周期的闪烁(步骤S16)。
另外,若任意的帧图像的振幅谱为给定以上(步骤S10“是”),则判断为在摄像图像内呈现被摄体所引起的条纹、或闪烁所引起的条纹,移转到步骤S11,读出暂时存储在工作内存3B的2个帧图像(傅立叶谱解析中所利用的2帧份的图像),将其像素值按每个像素进行比较,来算出它们的差分的平方(二次方)的和。然后,基于该算出值(图像整体的偏差量)是否为给定以上,来调查被摄体和该摄像装置是否相对的运动(步骤S12)。
在此,在振幅光谱被判断为给定以上从而判定为在图像内呈现条纹的情况下(步骤S10“是”),若2个帧图像的差分二次方和(差分平方和)不是给定以上,即若图像整体的偏差量不少(步骤S12“否”),则由于被摄体与该摄像装置的相对的运动(移动量)少,因此也判定为被摄体和该摄像装置未相对运动。在该情况下,返回上述的步骤S6,将连续摄像的新的2个帧图像指定为比较对象(评价对象),在取得这些帧图像后,以下重复上述的动作(步骤S6~S12)。
由此,若差分二次方和成为给定以上(步骤S12“是”),则判断为被摄体和该摄像装置相对运动,移转到接下来的步骤S13,从使用在被摄体的移动中摄像的2个帧图像进行傅立叶谱解析,并根据结果(傅立叶谱的虚数和实数)分别取得傅立叶谱的相位。接下来,调查与成为检测对象的闪烁周期对应的频率的谱分量(相位谱)的差(绝对值)是否为给定以下,即,是否是为了判定是否是检测对象的闪烁所引起的条纹而预先设定的阈值以下(相位是否相同或近似)(步骤S14)。在该情况下,由于帧周期是闪烁周期的整数倍从而没有闪烁所引起的条纹改变位置的情况,因此基于相位差是否为给定以下来判定是否呈现检测对象的闪烁所引起的条纹。
在此,由于若与闪烁周期对应的频率的谱分量(相位谱)的差(相位的差)不为给定以下(步骤S14“否”),则条纹的位置发生变化(由于不是闪烁所引起的条纹),因此判定为没有成为检测对象的闪烁周期的闪烁(步骤S16),由于若该相位的差为给定以下(步骤S14“是”),则相位相同或近似,因此判定为有成为检测对象的闪烁周期的闪烁导致的影响(步骤S15)。即,就算与频率N对应的2个傅立叶谱的相位的差分的绝对值为给定以上,若没有傅立叶谱的相位差,则判定为与频率N对应的傅立叶谱的振幅成为给定以上的原因不是因描绘在被摄体的图样或被摄体的配置状态等而呈现的条纹图样,而是成为检测对象的闪烁周期的闪烁所引起的条纹图样。在进行了这样的判定后从图2以及图3的流程脱离。
另一方面,在摄影用的帧周期为选择的闪烁频率的整数倍的情况下,例如在摄影用的帧速率被设定为30fps的状态下,选择50Hz闪烁作为检测对象的情况下(步骤S5“否”),移转到接下来的步骤S17,取得连续摄像的2帧份的图像作为闪烁检测用的评价对象。然后,对该2个帧图像,作为不使用傅立叶谱的相位差的其他闪烁检测处理而进行如下处理:不使用2个傅立叶谱的相位或判定被摄体与该摄像装置的相对的运动的判定结果,基于傅立叶谱的振幅来检测是否产生成为检测对象的闪烁的周期的闪烁(步骤S18)。
即,使用如下方法:利用最初所示那样的因闪烁而在摄像图像产生的条纹的量根据曝光时间不同而不同这点,控制该曝光时间来检测闪烁;相对于摄像定时刻意错开闪烁所引起的条纹的相位(控制摄像定时),且相对于摄像定时不刻意错开被摄体所引起的条纹的相位(设定帧速率,使得即使被摄体移动也让移动量较少那样在短时间内进行2次的摄像),由此在检测到在摄像图像产生条纹且条纹的相位不同的情况下,判定为呈现的不是被摄体所引起的条纹,而是闪烁所引起的条纹。
例如,对短时间内连续摄像且相对于闪烁周期的摄像定时的相位不同的2个帧图像,将其各图像值按每水平行积分来分别算出垂直方向的明亮度变动数据,取算出的2个明亮度变动数据的差分,从该差分数据提取(采样)相当于成为检测对象的闪烁周期的N(整数)倍的范围,并在频率N下进行傅立叶谱解析来取得傅立叶谱的振幅,若该振幅不为给定以上,则判定为没有成为检测对象的闪烁周期的闪烁,若为给定以上,则判定为呈现检测对象的闪烁所引起的条纹。之后从图2以及图3的流程脱离。
另外,若上述那样的闪烁检测处理结束(从图2以及图3的流程脱离),则移转到基于在该处理中检测到的闪烁的产生有无以及闪烁的种类(50Hz闪烁、60Hz闪烁)来变更摄影条件(曝光时间等)的处理(图示省略)。例如曝光时间(快门速度)基于检测到的闪烁的种类(50Hz闪烁、60Hz闪烁)而变更成闪烁周期(10ms或8.3ms)的整数倍。例如,若为50Hz电源的环境下,则曝光时间变更为10ms、20ms、30ms等的任一者,若成为60Hz电源的环境下,则变更为8.3ms、16.7ms、25ms等的任一者。
如以上那样,在本实施方式中,在具备卷帘快门方式的摄像元件的摄像装置中,对摄像定时不同的2个摄影图像,基于成为检测对象的闪烁周期来进行傅立叶谱解析,由此分别算出包含振幅和相位的傅立叶谱,在该算出的傅立叶谱的振幅和2个傅立叶谱的相位满足给定条件的情况下,判断为产生成为检测对象的闪烁周期的闪烁,因此在闪烁检测用的特别的摄影条件的设定受到限制的摄影状况下,也能区别在摄像图像内产生的条纹是由被摄体引起的还是由闪烁引起的,从而合适地检测闪烁。
控制部1在与检测对象的闪烁周期对应的傅立叶谱的振幅为给定以上且2个傅立叶谱的相位的差为给定以下的情况下,判断为产生成为检测对象的闪烁周期的闪烁,因此若在2个帧图像中呈现的条纹的相位差相同或近似,则能检测到不是被摄体所引起的条纹,而是成为检测对象的闪烁所引起的条纹。
控制部1在与检测对象的闪烁周期对应的傅立叶谱的振幅为给定以上且2个傅立叶谱的相位的差为给定以下、进而判定为被摄体和该摄像装置相对运动的情况下,检测到产生成为检测对象的闪烁周期的闪烁,因此若在被摄体和该摄像装置相对运动时所摄像的2个帧图像中所呈现的条纹的相位差相同或近似,则能检测到不是被摄体所引起的条纹,而是成为检测对象的闪烁所引起的条纹。
由于对从以给定的摄影帧周期连续摄像的多个帧图像中选择的2个帧图像进行傅立叶谱解析,因此能在动态图象摄影时检测闪烁。
控制部1在摄影帧周期是成为检测对象的闪烁周期的整数倍的情况下,将2个傅立叶谱的相位的差为给定以下且判定为被摄体和该摄像装置相对运动作为条件,来检测出产生了成为检测对象的闪烁周期的闪烁,因此即使摄影帧周期是成为检测对象的闪烁周期的整数倍,也能合适地检测闪烁。
控制部1在摄影帧周期不是成为检测对象的闪烁周期的整数倍的情况下,不使用2个傅立叶谱的相位或被摄体和该摄像装置是否相对运动的判定结果,而是基于傅立叶谱的振幅来检测是否产生成为检测对象的闪烁周期的闪烁,因此,在摄影帧周期不是成为检测对象的闪烁周期的整数倍的情况下,能根据傅立叶谱的振幅检测检测对象的闪烁的有无。因此,在希望将帧速率保持恒定的情况下(例如30fps的动态图象摄影中),不管50Hz闪烁还是60Hz闪烁都能检测,能实现高速摄像的主动采用。
控制部1将摄像定时不同的2个图像作为对象,将这2个图像的像素值按每个像素进行比较,由此判定被摄体和该摄像装置是否相对运动,因此能根据图像整体的明亮度变化判定被摄体与该摄像装置的相对的运动,能精度良好地进行该判定。
控制部1将摄像定时不同的2个图像作为对象,在这2个图像的像素值的每个像素的差分的二次方和为给定以上的情况下,判定为被摄体和该摄像装置相对运动,因此在图像整体的像素值的偏差量大的情况下判定为被摄体和该摄像装置相对运动。
控制部1通过对利用了经过傅立叶谱解析的2个帧图像的图像进行比较,来判定被摄体和该摄像装置是否相对运动,因此能在被摄体和该摄像装置相对运动的情况下利用所摄像的2个帧图像进行傅立叶谱解析。
控制部1从在每个给定的摄像定时摄像的帧图像中指定连续的2个帧图像,并进行利用了这2个帧图像的图像的比较,直到由此判别到被摄体和该摄像装置相对运动为止,重复依次指定连续的2个帧图像的动作,因此能在被摄体和该摄像装置相对运动的情况下利用所摄像的2个帧图像进行闪烁检测。
控制部1在摄影的帧图像内将曝光定时处于成为检测对象的闪烁周期的N倍(N是整数)的时间范围内的图像区域内作为对象,在频率N下进行傅立叶谱解析,因此能效率良好地进行将相当于闪烁周期的N倍的区域的数据(解析用数据)作为对象的傅立叶谱解析。
控制部1在判定为与频率N对应的傅立叶谱的振幅为给定以上的情况下检测到产生成为检测对象的闪烁周期的闪烁,因此能准确地检测对应于成为检测对象的闪烁周期而周期性呈现的闪烁。
控制部1,就算判定为被摄体和该摄像装置相对运动,在与频率N对应的2个傅立叶谱的相位的差分的绝对值为给定以下的情况下,由于检测到与频率N对应的傅立叶谱的振幅成为给定以上的原因是由成为检测对象的闪烁周期的闪烁引起,因此即使以被摄体和该摄像装置相对运动为前提来进行闪烁检测,也能合适地检测闪烁。
控制部1在检测对象是60Hz或50Hz闪烁、摄像帧速率是30fps或25fps的情况下,基于2个傅立叶谱的相位、以及被摄体和该摄像装置是否相对运动的判定结果,来检测是否产生成为检测对象的闪烁周期的闪烁,因此即使摄影帧周期是成为检测对象的闪烁周期的整数倍也能合适地检测闪烁。
另外,在上述的实施方式中,在傅立叶谱解析后,对在该解析中所用的2个帧图像进行比较,来判定被摄体和该摄像装置是否相对运动,但也可以在判定被摄体和该摄像装置是否相对运动后,使用该判定中所用的2个帧图像来进行傅立叶谱解析。
在上述的实施方式中,为了判定被摄体和该摄像装置是否相对移动而比较连续摄影的2个图像,但也可以利用摄像元件以外的移动检测传感器(加速度传感器、多普勒传感器等)。
另外,在预先获知(设想)将摄像机不是固定在三脚架等而是用手保持来进行摄影的情况下,由于产生不少手抖,因此也可以省略图3的流程图中的步骤A11、A12的处理。
在上述的实施方式中,比较2帧份的图像来算出其差分的平方(二次方)的和,基于该差分二次方和是否为给定以上来判定被摄体和该摄像装置是否相对运动,但作为其判定方法,当然并不限于差分二次方和。
另外,在被摄体和该摄像装置是否相对运动的判定中,也可以判定是否在产生图像的条纹的纵向上相对运动。
在上述的实施方式中,在图2的步骤A5中判定为「否」的情况下,为了减轻执行运动检测、相位解析等额外的处理的负担而进行另外的闪烁检测处理,但也可以在步骤A5中判定为「否」的情况下也进行与判定为「是」的情况相同的闪烁检测处理。
在上述的实施方式中,示出了作为摄像装置而运用数字摄像机的情况,但并不限于此,也可以是带摄像机功能个人计算机、PDA(面向个人的便携型信息通信设备)、平板终端装置、智能手机等便携电话机、电子游戏机、音乐播放器等。
另外,上述的实施方式中示出的“装置”、“部”,也可以按功能分离成多个筐体,并不限于单一的筐体。另外,上述的流程图中记述的各步骤并不限于时间序列上的处理,也可以并行处理多个步骤,或分开独立进行处理。
Claims (15)
1.一种摄像装置,具备闪烁检测功能,
所述摄像装置的特征在于,包含:
包含卷帘快门方式的摄像元件的摄像部;和
包含处理器的控制部,
所述控制部对由所述卷帘快门方式的摄像元件摄像的摄像定时不同的2个摄影图像,基于成为检测对象的闪烁周期进行傅立叶谱解析,由此分别算出包含振幅和相位的傅立叶谱,
所述控制部在该算出的2个傅立叶谱当中至少1个振幅和2个傅立叶谱的相位满足给定条件的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
2.根据权利要求1所述的摄像装置,其特征在于,
所述控制部在与检测对象的闪烁周期对应的傅立叶谱的振幅为给定以上、且2个傅立叶谱的相位的差为给定以下的情况下,判断为产生成为检测对象的闪烁周期的闪烁。
3.根据权利要求1所述的摄像装置,其特征在于,
所述控制部判定被摄体和该摄像装置是否相对运动,
所述控制部在与检测对象的闪烁周期对应的傅立叶谱的振幅为给定以上、且2个傅立叶谱的相位的差为给定以下、进而判定为被摄体和该摄像装置相对运动的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
4.根据权利要求1所述的摄像装置,其特征在于,
所述摄像部以给定的摄影帧周期连续进行摄像,
所述控制部对从以所述给定的摄影帧周期连续摄像的多个帧图像中选出的2个帧图像进行所述傅立叶谱解析。
5.根据权利要求4所述的摄像装置,其特征在于,
所述控制部,在所述摄像部的摄影帧周期是成为检测对象的闪烁周期的整数倍的情况下,将2个傅立叶谱的相位的差为给定以下、且判定为被摄体和该摄像装置相对运动作为条件,来检测产生了成为检测对象的闪烁周期的闪烁。
6.根据权利要求4所述的摄像装置,其特征在于,
所述控制部在摄影帧周期不是成为检测对象的闪烁周期的整数倍的情况下,不使用2个傅立叶谱的相位或所述判定结果,而是基于傅立叶谱的振幅来检测是否产生了成为检测对象的闪烁周期的闪烁。
7.根据权利要求4所述的摄像装置,其特征在于,
所述控制部以摄像定时不同的2个帧图像为对象,通过将这2个帧图像的像素值按每个像素进行比较,来判定被摄体和该摄像装置是否相对运动。
8.根据权利要求7所述的摄像装置,其特征在于,
所述控制部将摄像定时不同的2个帧图像作为对象,在这2个帧图像的像素值的每个像素的差分的二次方和为给定以上的情况下,判定为被摄体和该摄像装置相对运动。
9.根据权利要求7所述的摄像装置,其特征在于,
所述控制部通过利用经过傅立叶谱解析的2个帧图像的图像比较来判定被摄体和该摄像装置是否相对运动。
10.根据权利要求7所述的摄像装置,其特征在于,
所述控制部从在每个给定的摄像定时摄像的帧图像中指定连续的2个帧图像,
直到通过利用2个帧图像的图像比较判定为被摄体和该摄像装置相对运动为止,重复依次指定连续的2个帧图像的动作。
11.根据权利要求4所述的摄像装置,其特征在于,
所述控制部将在帧图像内曝光定时处于成为检测对象的闪烁周期的N倍的时间范围内的图像区域内作为对象,在频率N下进行傅立叶谱解析,其中N是整数。
12.根据权利要求11所述的摄像装置,其特征在于,
所述控制部在判定为与频率N对应的傅立叶谱的振幅为给定以上的情况下,检测产生了成为检测对象的闪烁周期的闪烁。
13.根据权利要求11所述的摄像装置,其特征在于,
所述控制部,就算判定为被摄体和该摄像装置相对运动,在与频率N对应的2个傅立叶谱的相位的差分的绝对值为给定以下的情况下,检测与频率N对应的傅立叶谱的振幅成为给定以上的原因是由成为检测对象的闪烁周期的闪烁引起的。
14.根据权利要求1所述的摄像装置,其特征在于,
所述控制部在检测对象为60Hz或50Hz闪烁、摄像帧速率为30fps或25fps的情况下,基于2个傅立叶谱的相位和所述判定单元的判定结果来检测是否产生成为检测对象的闪烁周期的闪烁。
15.一种闪烁检测方法,是具备卷帘快门方式的摄像元件的摄像装置中的闪烁检测方法,所述闪烁检测方法的特征在于,
对由所述卷帘快门方式的摄像元件摄像的摄像定时不同的2个摄影图像,基于成为检测对象的闪烁周期进行傅立叶谱解析,来分别算出包含振幅和相位的傅立叶谱,
在算出的所述2个傅立叶谱当中的至少1个振幅和2个傅立叶谱的相位满足给定条件的情况下,判断为产生了成为检测对象的闪烁周期的闪烁。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015-222278 | 2015-11-12 | ||
JP2015222278A JP6304605B2 (ja) | 2015-11-12 | 2015-11-12 | 撮像装置、フリッカ検出方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106973285A true CN106973285A (zh) | 2017-07-21 |
CN106973285B CN106973285B (zh) | 2019-08-02 |
Family
ID=58691638
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610886218.0A Expired - Fee Related CN106973285B (zh) | 2015-11-12 | 2016-10-11 | 摄像装置、闪烁检测方法以及记录介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9979898B2 (zh) |
JP (1) | JP6304605B2 (zh) |
CN (1) | CN106973285B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110049214A (zh) * | 2019-03-25 | 2019-07-23 | 华为技术有限公司 | 摄像组件及电子设备 |
CN111164407A (zh) * | 2017-10-05 | 2020-05-15 | 柯尼卡美能达株式会社 | 二维闪烁测量装置、二维闪烁测量系统、二维闪烁测量方法以及二维闪烁测量程序 |
CN112565595A (zh) * | 2020-11-25 | 2021-03-26 | 西安闻泰电子科技有限公司 | 图像抖动消除方法、装置、电子设备和存储介质 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11196940B2 (en) * | 2018-10-10 | 2021-12-07 | Johnson Controls Tyco IP Holdings LLP | Systems and methods of eliminating video flicker caused by LED duty cycling to maintain brightness and control power consumption |
JP2021182698A (ja) * | 2020-05-19 | 2021-11-25 | キヤノン株式会社 | 撮像装置及びその制御方法 |
CN112614180B (zh) * | 2020-12-31 | 2022-05-31 | 中国科学院长春光学精密机械与物理研究所 | 一种位移测量方法 |
CN112887629B (zh) * | 2021-01-27 | 2022-08-23 | 维沃移动通信有限公司 | 频率检测方法、装置、电子设备及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1714565A (zh) * | 2002-11-18 | 2005-12-28 | 索尼株式会社 | 闪烁降低方法、图像拾取装置与闪烁降低电路 |
CN102256062A (zh) * | 2011-05-06 | 2011-11-23 | 钰创科技股份有限公司 | 自动侦测影像闪烁的电路及其方法 |
JP2014027496A (ja) * | 2012-07-27 | 2014-02-06 | Cis:Kk | 画像処理装置、画像処理方法及び画像処理プログラム |
CN103975578A (zh) * | 2011-12-08 | 2014-08-06 | 索尼公司 | 图像处理设备、图像处理方法以及程序 |
JP2014165800A (ja) * | 2013-02-27 | 2014-09-08 | Canon Inc | フリッカ検出装置、フリッカ補正装置、その制御方法、および制御プログラム |
CN104380710A (zh) * | 2013-04-12 | 2015-02-25 | 松下电器(美国)知识产权公司 | 闪烁减少装置、拍摄装置以及闪烁减少方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4337353B2 (ja) | 2002-03-25 | 2009-09-30 | セイコーエプソン株式会社 | フリッカ検出装置、フリッカ補正装置、撮像装置、フリッカ検出プログラムおよびフリッカ補正プログラム |
US8451345B2 (en) * | 2008-11-20 | 2013-05-28 | Panasonic Corporation | Flicker reduction device, integrated circuit, and flicker reduction method |
JP5625371B2 (ja) * | 2010-01-29 | 2014-11-19 | ソニー株式会社 | 画像処理装置、および信号処理方法、並びにプログラム |
US9088727B2 (en) * | 2011-04-06 | 2015-07-21 | Pelco, Inc. | Spatially-varying flicker detection |
-
2015
- 2015-11-12 JP JP2015222278A patent/JP6304605B2/ja active Active
-
2016
- 2016-08-24 US US15/245,762 patent/US9979898B2/en active Active
- 2016-10-11 CN CN201610886218.0A patent/CN106973285B/zh not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1714565A (zh) * | 2002-11-18 | 2005-12-28 | 索尼株式会社 | 闪烁降低方法、图像拾取装置与闪烁降低电路 |
CN102256062A (zh) * | 2011-05-06 | 2011-11-23 | 钰创科技股份有限公司 | 自动侦测影像闪烁的电路及其方法 |
CN103975578A (zh) * | 2011-12-08 | 2014-08-06 | 索尼公司 | 图像处理设备、图像处理方法以及程序 |
US20140375848A1 (en) * | 2011-12-08 | 2014-12-25 | Sony Corporation | Image processing apparatus, image processing method, and program |
JP2014027496A (ja) * | 2012-07-27 | 2014-02-06 | Cis:Kk | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2014165800A (ja) * | 2013-02-27 | 2014-09-08 | Canon Inc | フリッカ検出装置、フリッカ補正装置、その制御方法、および制御プログラム |
CN104380710A (zh) * | 2013-04-12 | 2015-02-25 | 松下电器(美国)知识产权公司 | 闪烁减少装置、拍摄装置以及闪烁减少方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111164407A (zh) * | 2017-10-05 | 2020-05-15 | 柯尼卡美能达株式会社 | 二维闪烁测量装置、二维闪烁测量系统、二维闪烁测量方法以及二维闪烁测量程序 |
CN110049214A (zh) * | 2019-03-25 | 2019-07-23 | 华为技术有限公司 | 摄像组件及电子设备 |
CN112565595A (zh) * | 2020-11-25 | 2021-03-26 | 西安闻泰电子科技有限公司 | 图像抖动消除方法、装置、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN106973285B (zh) | 2019-08-02 |
JP6304605B2 (ja) | 2018-04-04 |
US20170142315A1 (en) | 2017-05-18 |
US9979898B2 (en) | 2018-05-22 |
JP2017092772A (ja) | 2017-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106973285B (zh) | 摄像装置、闪烁检测方法以及记录介质 | |
CN106559623B (zh) | 摄像装置和闪烁检测方法 | |
CN103971090B (zh) | 图像处理装置、图像捕获装置及图像处理方法 | |
CN101854484B (zh) | 图像选择装置、图像选择方法 | |
CN103685925B (zh) | 摄像装置以及摄像处理方法 | |
CN105141853B (zh) | 图像处理方法以及电子设备 | |
US7397500B2 (en) | Camera shake warning and feedback system that teaches the photographer | |
EP2709062B1 (en) | Image processing device, image processing method, and computer readable medium | |
CN110166708A (zh) | 夜景图像处理方法、装置、电子设备以及存储介质 | |
CN101582989A (zh) | 摄影装置以及程序 | |
CN108322646A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN104580878A (zh) | 电子装置以及自动效果方法 | |
CN102572262A (zh) | 电子设备 | |
US9077961B1 (en) | Rolling shutter timing tester | |
KR20090116559A (ko) | 복수개의 카메라를 이용한 고속촬영장치 | |
CN103369220A (zh) | 成像设备、成像设备的控制方法以及计算机程序 | |
JP2009231967A (ja) | 画像記録方法、画像記録装置、およびプログラム | |
CN109120844B (zh) | 摄像控制装置、摄像控制方法以及存储介质 | |
JPWO2019045091A1 (ja) | 情報処理装置、計数システム、計数方法およびコンピュータプログラム | |
CN113596344B (zh) | 拍摄处理方法、装置、电子设备和可读存储介质 | |
WO2015180684A1 (zh) | 基于移动终端的摄影仿真教学方法及系统、存储介质 | |
CN102739958B (zh) | 图像处理装置、图像处理方法 | |
CN107767397A (zh) | 移动对象组检测装置和移动对象组检测方法 | |
CN105190229A (zh) | 三维形状计测装置、三维形状计测方法及三维形状计测程序 | |
TW201349854A (zh) | 影像擷取裝置及其影像合成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20190802 |