CN109379584B - 一种复杂环境光应用条件下的相机系统及像质调节方法 - Google Patents

一种复杂环境光应用条件下的相机系统及像质调节方法 Download PDF

Info

Publication number
CN109379584B
CN109379584B CN201811419276.8A CN201811419276A CN109379584B CN 109379584 B CN109379584 B CN 109379584B CN 201811419276 A CN201811419276 A CN 201811419276A CN 109379584 B CN109379584 B CN 109379584B
Authority
CN
China
Prior art keywords
image quality
image
camera system
evaluation
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811419276.8A
Other languages
English (en)
Other versions
CN109379584A (zh
Inventor
刘皓挺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology Beijing USTB
Original Assignee
University of Science and Technology Beijing USTB
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology Beijing USTB filed Critical University of Science and Technology Beijing USTB
Priority to CN201811419276.8A priority Critical patent/CN109379584B/zh
Publication of CN109379584A publication Critical patent/CN109379584A/zh
Application granted granted Critical
Publication of CN109379584B publication Critical patent/CN109379584B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本发明提供一种复杂环境光应用条件下的相机系统及像质调节方法,能够获得像质高且稳定的成像结果。所述方法包括:采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价,其中,像质表示图像质量;将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数;其中,在训练所述人工智能模型时,其输入为使主观图像质量评估等级低的图像变成等级高的图像的客观图像质量评估参数,监督数据为该客观图像质量评估参数对应的相机系统控制参数;将得到的相机系统控制参数值输入到相机系统相应的机构中,各个机构按照接收到的控制参数进行执行;本发明涉及成像领域。

Description

一种复杂环境光应用条件下的相机系统及像质调节方法
技术领域
本发明涉及成像领域,特别是指一种复杂环境光应用条件下的相机系统及像质调节方法。
背景技术
近年来,成像系统被广泛应用于国防、安全、科学试验等各个领域。成像系统因其采集数据直观、丰富、易于分析的特点,目前可被用来执行目标观测、目标搜索、目标特征分析等相关任务。一般而言,成像系统的设计属于光学、电子学等领域的研究范畴,成像系统主要依靠光电传感器对物质辐射光场能量的变化进行感知,以了解环境状态的变化。然而复杂的环境光往往会对成像系统的输出产生不利影响。例如:水下潜航器在浑浊的水域航行时,成像装置容易受水中浮游生物或漂浮物反光影响,或是受自身携带的主动光源工作能力影响,最终导致成像清晰度较差;又如地面行驶车辆上安装的成像装置,当受到阳光直射影响,或是观测到强烈爆炸现象时,容易产生眩光现象,而强眩光同样会引起成像系统传感元件的过饱和问题,进而导致整个系统无法清晰成像;再如,空间在轨高速运动的成像装置在执行空间碎片的观测时,往往易受高动态范围太阳光及地球反射光的影响,进而无法稳定清晰成像。
为了解决上述问题,不同应用领域的专家提出过不少解决方案。中国专利“通过自然环境识别提高成像质量的方法”(专利公开号:CN105959541A)提出一种通过自然环境识别提高成像质量的方法,该方法根据对天气光线识别的结果计算出最佳匹配值,并控制遮光片进行环境光强的控制。中国专利“一种基于辅助焦面的推扫式遥感相机调焦方法”(专利公开号:CN107888836A)提出一种根据成像质量参数分析结果进行相机焦距快速调节的方法。中国专利“一种数字域TDI相机成像质量的调整方法及调整系统”(专利公开号:CN106791508A)提出一种在轨TDI相机成像质量自适应调整的方法,该方法根据相机检测参数、卫星运行参数等初始值自适应估计相机的积分级数、积分时间、增益及曝光时间等值,以提高相机成像效果。中国专利“相机噪声和帧率的控制方法与装置”(专利公开号:CN104079842A)通过调节相机增益和曝光时间的方式改善相机的噪声及帧率。中国专利“一种自动调整相机曝光效果的方法及系统”(专利公开号:CN103957362A)提出一种当在亮暗对比明显场景拍照时,根据图像分析结果对图像中分别对明亮度和暗亮度区域进行不同曝光以提升成像质量的方法。中国专利“低照度摄像机成像控制方法、装置及摄像系统”(专利公开号:CN102223486B)提出一种根据图像分析的结果进行相机快门速度、电荷自动增益调整级别、图像积分时间等指标进行动态控制的方法。
通过比较分析,可知:目前在成像系统的设计与研究方面,相关研究虽然取得了一定的成果,但仍然存在一定的不足。一方面,在当前已有的成像装置中,成像装置控制系统的环境感知与自适应调节能力较为有限。例如,仅能对环境光变化做出较为“粗糙”的分析,无法对环境光变化进行全面的定量化描述。而在进行成像系统像质调节方法设计时,由于受复杂光学成像模型以及算法计算复杂度的约束,系统所能考虑到的相机像质影响因素也不够全面。如当前大多数应用执行一次仅能对相机的焦距、曝光时间或增益等少数几个控制指标进行同时调节。
发明内容
本发明要解决的技术问题是提供一种复杂环境光应用条件下的相机系统及像质调节方法,以解决现有技术所存在的环境感知有限与自适应调节能力有限的问题。
为解决上述技术问题,本发明实施例提供一种复杂环境光应用条件下的相机系统,包括:控制模块、与控制模块相连的相机、遮光板装置、照明装置、滤光装置、相机姿态控制装置、减震装置、通信装置和供电装置;其中,
所述相机,用于采集被观测目标的图像;所述遮光板装置,用于控制相机所处环境的环境光摄入量;所述照明装置,用于对被观测目标进行补光;所述滤光装置,用于对特定谱段的光线进行过滤或选通;所述相机姿态控制装置,用于控制相机的姿态;所述减震装置,用于减少由基座传递到相机系统的振动;所述通信装置,用于传输信息;所述供电装置,用于为所述相机系统提供工作所需的能源;所述控制模块,用于控制相机、遮光板装置、照明装置、滤光装置、相机姿态控制装置、减震装置、供电装置和通信装置的运行。
进一步地,所述遮光板装置包括:遮光板和遮光板运动控制机构;其中,所述遮光板,用于控制相机的环境光摄入量;所述遮光板运动控制机构,用于控制所述遮光板的开合状态和开合程度;
所述照明装置包括:照明机构和照明机构运动控制机构;其中,所述照明机构,用于对被观测目标进行补光;所述照明机构运动控制机构,用于对所述照明机构的照明方向进行自动控制与调节,使所述照明机构的照明轴线与相机光心轴线的控制夹角不超过预设的角度阈值;
所述滤光装置包括:滤光片和滤光片更换机构;其中,所述滤光片,用于对特定谱段的光线进行过滤或选通;所述滤光片更换机构,用于根据控制模块发送的滤光片更换命令进行滤光片的自动更换。
进一步地,所述系统还包括:与控制模块相连的温控装置或稳像装置;其中,
所述温控装置,用于控制所述相机系统的温度;
所述稳像装置,用于控制相机系统运动状态的稳定程度。
本发明的上述技术方案的有益效果如下:
上述方案中,通过相机采集被观测目标的图像;遮光板装置控制相机所处环境的环境光摄入量;照明装置对被观测目标进行补光;滤光装置对特定谱段的光线进行过滤或选通;相机姿态控制装置控制相机的姿态;减震装置减少由基座传递到相机系统的振动;控制模块控制相机、遮光板装置、照明装置、滤光装置、相机姿态控制装置、减震装置、供电装置和通信装置的运行;从而能够更为精细和全面的感知环境光变化,且能够实现对成像系统更为全面的控制。
本发明实施例还提供一种复杂环境光应用条件下的相机系统像质调节方法,包括:
采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价,其中,像质表示图像质量;
将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数;其中,在训练所述人工智能模型时,其输入为使主观图像质量评估等级低的图像变成等级高的图像的客观图像质量评估参数,监督数据为该客观图像质量评估参数对应的相机系统控制参数;
将得到的相机系统控制参数值输入到相机系统相应的机构中,各个机构按照接收到的控制参数进行执行。
进一步地,所述采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价包括:
判断被相机系统采集图像的被观测目标是否属于快速变化的目标;
若属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的每一帧图像进行像质的定量化评价;
若不属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的图像隔帧进行像质的定量化评价。
进一步地,所述判断被相机系统采集图像的被观测目标是否属于快速变化的目标包括:
判断被观测目标的大小或形态变化在相邻两帧中变化程度是否超过预设的变化阈值,若超过,则被观测目标属于快速变化的目标;或,
判断被观测目标的位移变化在相邻两帧中移动位置是否超过预设的像素个数,若超过,则被观测目标属于快速变化的目标。
进一步地,盲图像质量评估参数包括:图像的亮度、区域对比度、边缘模糊度、噪声强度、色差、图像纹理信息中的一种或多种;
所述相机系统控制参数包括:相机的焦距、增益、积分级数、积分时间、曝光时间、光圈大小、遮光板控制量、照明控制量、滤光片选型控制量、相机姿态控制量、减震器控制量、温度控制量、稳像控制量中的一种或多种。
进一步地,在将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数之前,所述方法还包括:
获取不同环境光、不同相机系统控制参数条件下采集的图像,形成图像数据集;
利用图像质量相似度方法和模式识别聚类方法从所述图像数据集中挑选出代表图像,组成新的图像数据集,并获取针对所述新的图像数据集,形成的若干个主观评估等级数据集,其中,所述主观评估等级为主观图像质量评估等级;
确定主观评估等级数据集中评估等级高的图像的客观图像质量评估参数的分布规律;
获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,根据确定的等级高的图像的客观图像质量评估参数的分布规律,获得使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数;
根据获得的使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数训练人工智能模型。
进一步地,所述获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,根据确定的等级高的图像的客观图像质量评估参数的分布规律,获得使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数包括:
获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,每调节一次获得一种新的成像结果图像;
计算新图像的客观图像质量评估参数,判断新图像的客观图像质量评估参数与高等级图像的客观图像质量评估参数聚类中心之间的距离是否小于预设的距离阈值,若小于,停止调节相机系统控制参数,记录此时相机系统控制参数;
否则,则继续调节相机系统控制参数,直至等级低的图像被划分为高等级的图像为止;
若遍历所有相机系统控制参数后,仍无法获得高等级的成像结果时,则获取所有成像结果中客观图像质量评估参数与高等级图像客观图像质量评估参数聚类中心距离最近的结果,将其对应的图像作为质量最佳的图像进行输出。
进一步地,所述将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数包括:
判断像质评价结果与主观评估等级高的图像所对应的客观图像质量评估参数聚类中心之间的距离是否小于预设的距离阈值,若小于,则不做任何操作;否则,则利用训练好的人工智能模型,根据像质评价结果预测并输出相机系统的控制参数。
本发明的上述技术方案的有益效果如下:
上述方案中,采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价,其中,像质表示图像质量;将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数;其中,在训练所述人工智能模型时,其输入为使主观图像质量评估等级低的图像变成等级高的图像的客观图像质量评估参数,监督数据为该客观图像质量评估参数对应的相机系统控制参数;将得到的相机系统控制参数值输入到相机系统相应的机构中,各个机构按照接收到的控制参数进行执行,调节相机的成像方式以获得高质量的成像效果;所述相机系统像质调节方法能够根据环境光变化,自适应调节影响相机像质的多种相机系统控制参数,进而保证相机成像质量的稳定,从而获得像质高且稳定的成像结果。
附图说明
图1为本发明实施例提供的复杂环境光应用条件下的相机系统的结构示意图一;
图2为本发明实施例提供的复杂环境光应用条件下的相机系统的结构示意图二;
图3为本发明实施例提供的复杂环境光应用条件下的相机系统像质调节方法的流程示意图;
图4为本发明实施例提供的像质进行定量化评价的流程示意图;
图5为本发明实施例提供的训练人工智能模型的流程示意图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。
本发明针对现有的环境感知有限与自适应调节能力有限的问题,提供一种复杂环境光应用条件下的相机系统及像质调节方法。
实施例一
本发明实施例针对复杂环境光变化的实际应用,诸如水下、地面、空中(大气层内)以及在轨(大气层外)等应用情况,设计了一种能够对环境光变化进行全面、精细感知的相机系统,即:复杂环境光应用条件下的相机系统。
如图1所示,本发明实施例提供的复杂环境光应用条件下的相机系统,包括:控制模块1、与控制模块相连的相机2、遮光板装置3、照明装置4、滤光装置5、相机姿态控制装置6、减震装置7、通信装置8和供电装置9;其中,
所述相机2,用于采集被观测目标的图像;所述遮光板装置3,用于控制相机所处环境的环境光摄入量;所述照明装置4,用于对被观测目标进行补光;所述滤光装置5,用于对特定谱段的光线进行过滤或选通;所述相机姿态控制装置6,用于控制相机的姿态;所述减震装置7,用于减少由基座传递到相机系统的振动;所述通信装置8,用于传输信息;所述供电装置9,用于为所述相机系统提供工作所需的能源;所述控制模块1,用于控制相机2、遮光板装置3、照明装置4、滤光装置5、相机姿态控制装置6、减震装置7、供电装置8和通信装置9的运行。
本发明实施例所述的复杂环境光应用条件下的相机系统,通过相机采集被观测目标的图像;遮光板装置控制相机所处环境的环境光摄入量;照明装置对被观测目标进行补光;滤光装置对特定谱段的光线进行过滤或选通;相机姿态控制装置控制相机的姿态;减震装置减少由基座传递到相机系统的振动;控制模块控制相机、遮光板装置、照明装置、滤光装置、相机姿态控制装置、减震装置、供电装置和通信装置的运行;从而能够更为精细和全面的感知环境光变化,且能够实现对成像系统更为全面的控制。
本实施例中,所述相机,用于采集环境中的二维或三维成像数据;所述相机可以是可见光相机、红外相机、紫外相机或量子成像相机等任何可以成像的装置;相机内部主要可以包括:光学镜头、成像传感器以及基本信号处理电路。
本实施例中,所述遮光板装置包括:遮光板和遮光板运动控制机构;其中,所述遮光板,设于相机镜头前侧,用于控制和调节环境光的摄入量,从而控制相机的环境光摄入量;所述遮光板运动控制机构,用于控制所述遮光板的开合状态和开合程度。
本实施例中,所述遮光板为可电动控制伸缩的合金或塑料板材。
本实施例中,所述照明装置包括:照明机构和照明机构运动控制机构;其中,所述照明机构可为环境亮度照明灯具、激光照明装置或其它任何可以实现对被观测目标进行补光的照明装置,其输出强度可以为固定输出强度或连续调节输出强度;所述照明机构运动控制机构,用于对所述照明机构的照明方向进行自动控制与调节,使所述照明机构的照明轴线与相机光心轴线的控制夹角不超过预设的角度阈值(例如,30度)。
本实施例中,所述滤光装置包括:滤光片和滤光片更换机构;其中,所述滤光片,设于相机镜头的前侧,用于对特定谱段的光线进行过滤或选通,优选地,滤光片为与相机镜头输入尺寸一致的、表面涂有特殊图层的光学镜片,其中,所述涂有特殊图层的光学镜片可以是指实现红外、近红外光信号选通的光学镜片;滤光片更换机构,用于根据控制模块发送的滤光片更换命令进行滤光片的自动更换。
本实施例中,镜头、滤光片、遮光板三者位置关系由内而外为:镜头、滤光片、遮光板。
本实施例中,所述相机姿态控制装置由多个转动机构及位移平台构成,可实现对相机姿态的控制,优选的,所述相机姿态控制机构设于相机的下侧,其可实现相机的俯仰、偏航及滚转运动的精密控制,以及平动和升降的精密控制。
本实施例中,所述减震装置,用于连接所述相机系统与基座,以实现减少和消除由基座传递到相机系统振动的作用;优选地,减震装置安装在整个相机系统与基座之间,减震装置上自带姿态传感器,用于测量相机系统的振动量。
本实施例中,所述供电装置可提供整个相机系统正常工作所需的能源;优选地,供电装置采用电池供电,其输出为直流电。
本实施例中,所述通信装置用于实现对相机系统控制信息、图像信息以及状态信息的输出,同时也可实现对外部控制指令的接收;优选地,通信装置可同时包括图传通道(用于传输图像信息)和数传通道(用于传输:控制信息和状态信息)。
如图2所示,本发明实施例所述的复杂环境光应用条件下的相机系统还可以包括:温控装置10和稳像装置11,其中,所述温控装置10和稳像装置11与所述控制模块1相连。
本实施例中,所述温控装置,用于在环境温度变化剧烈时,控制所述相机系统的温度,以保证相机系统能正常工作;所述温控装置适用于零下10摄氏度至零上40摄氏度的环境,或者温度变化速度小于每秒1摄氏度的环境。
本实施例中,所述稳像装置,用于在环境存在强振动时,控制相机系统运动状态的稳定程度,以避免相机所采集的图像出现振动引起的降质;其中,所述稳像装置可以采用陀螺仪稳像、光学系统稳像或数字图像稳像方法来控制相机系统运动状态的稳定程度。
本实施例中,所述控制模块实现对所采集到图像数据的收集、传输、存储、分析以及全相机系统各个机构的控制;其中,所述控制模块可采用现场可编程门阵列(Field-Programmable Gate Array,FPGA)电路、数字信号处理(Digital Signal Processing,DSP)电路或FPGA与DSP混合电路的设计模式;当上述所有装置均被同时使用时,优选地,控制模块实现与相机、遮光板运动控制机构、照明机构运动控制机构、滤光片更换机构、相机姿态控制装置、减震装置、供电装置、通信装置的连接;在特定应用条件下,如温度变化剧烈或存在高振动应用的情况下,还可与温控装置和稳像装置进行连接,并可对上述各个机构发送控制命令进行控制。当上述装置仅被部分使用时,控制电路板负责与被使用的装置进行连接及发送控制命令。
本实施例中,所述控制模块对所采集到图像数据进行分析,具体是指:图像质量(像质)的定量化评价、人工智能模型的计算(但不包括训练人工智能模型,因为训练人工智能模型是在该系统工作前就训练好的),人工智能模型的计算其实就是根据相机系统采集的图像,计算其像质高低,然后利用人工智能模型进行相机系统控制参数的估算。
实施例二
如图3所示,本发明实施例还提供一种复杂环境光应用条件下的相机系统像质调节方法,包括:
S101,采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价,其中,像质表示图像质量;
S102,将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数;其中,在训练所述人工智能模型时,其输入为使主观图像质量评估等级低的图像变成等级高的图像的客观图像质量评估参数,监督数据为该客观图像质量评估参数对应的相机系统控制参数;
S103,将得到的相机系统控制参数值输入到相机系统相应的机构中,各个机构按照接收到的控制参数进行执行。
本发明实施例所述的复杂环境光应用条件下的相机系统像质调节方法,采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价,其中,像质表示图像质量;将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数;其中,在训练所述人工智能模型时,其输入为使主观图像质量评估等级低的图像变成等级高的图像的客观图像质量评估参数,监督数据为该客观图像质量评估参数对应的相机系统控制参数;将得到的相机系统控制参数值输入到相机系统相应的机构中,各个机构按照接收到的控制参数进行执行,调节相机的成像方式以获得高质量的成像效果;所述相机系统像质调节方法能够根据环境光变化,自适应调节影响相机像质的多种相机系统控制参数,进而保证相机成像质量的稳定,从而获得像质高且稳定的成像结果。
在前述复杂环境光应用条件下的相机系统像质调节方法的具体实施方式中,进一步地,所述采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价包括:
判断被相机系统采集图像的被观测目标是否属于快速变化的目标;
若属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的每一帧图像进行像质的定量化评价;
若不属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的图像隔帧进行像质的定量化评价。
本实施例中,如图4所示,在采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价时,首先要确定被观测目标在成像面中变化速度(A11)。
本实施例中,相机系统对被观测目标连续抓拍,根据抓拍的图像,判断被观测目标是否属于快速变化的目标,具体的:
判断被观测目标的大小或形态变化在相邻两帧中变化程度是否超过预设的变化阈值,若超过,则被观测目标属于快速变化的目标;或,
判断被观测目标的位移变化在相邻两帧中移动位置是否超过预设的像素个数,若超过,则被观测目标属于快速变化的目标。
例如,当被观测目标的大小或形态变化在相邻两帧中变化程度超过10%,或是被观测目标的位移变化在相邻两帧中移动位置超过3个像素时,可认定被观测目标为快速变化目标;其它情况可认定被观测目标为慢速变化目标。
接着,对被观测目标进行像质分析(A12),如图4所示。
若被观测目标属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的每一帧图像进行像质的定量化评价;
若被观测目标不属于快速变化的目标(即为慢速变化目标),则采用盲图像质量评估参数方法对相机系统采集的图像隔帧进行像质的定量化评价。
本实施例中,对于快速变化的目标,因其目标细节或像质变化较快,需要对每一帧图像采用盲图像质量评估参数方法、人工智能算法进行处理,以达到提高像质和增强输出稳定性的目的;对于慢速变化的目标,可采用隔帧处理的策略,以降低算法的运算量和系统的功耗,例如,间隔帧数可以选5帧或更多,在实际应用中,间隔帧数根据实际应用确定。
本实施例中,用于定量化评价的图像质量评估参数包括:图像的亮度、区域对比度、边缘模糊度、噪声强度、色差、图像纹理信息或其他一种或多种可以表征图像质量的盲图像质量评估参数值。
本实施例中,所述盲图像质量评估参数是一种客观图像质量评估参数计算方法,其计算效果能客观反映图像某一方面的品质,且其计算效果不受图像内容干扰或受图像内容干扰较小。
本实施例中,在完成像质定量化评价后,采用人工智能模型根据所确定的像质评价结果进行相机系统控制参数的预测。
本实施例中,人工智能模型可以包括:神经网络模型、支持向量机等任何能够实现根据多输入数据进行多输出数据预测的模式识别模型与方法。
本实施例中,人工智能模型的输入可以包括:图像亮度、区域对比度、边缘模糊度、噪声强度、色差、图像纹理信息或其他可以表征图像质量的盲图像质量评估参数值;人工智能模型输出的相机系统控制参数可以包括:相机的焦距、增益、积分级数、积分时间、曝光时间(快门速度)、光圈大小、遮光板控制量、照明控制量、滤光片选型控制量、相机姿态控制量、减震器控制量,在温度变化剧烈或存在高振动应用条件下还可包括温度控制量和稳像控制量等。
本实施例中,为了进一步提高相机系统的灵活性,在进行上述人工智能模型训练时,其输入输出可以是上文所提及各个参量中的一种或几种的任意组合。例如,一种人工智能模型的输入可以包括:图像亮度、区域对比度、边缘模糊度、噪声强度、图像纹理信息,模型的输出可以包括相机的焦距、增益、积分级数、积分时间、曝光时间(快门速度)、光圈大小、遮光板控制量、照明控制量、滤光片选型控制量、相机姿态控制量;另一种人工智能模型的输入可以包括图像亮度、区域对比度、边缘模糊度、噪声强度,模型的输出可以包括相机的焦距、增益、积分级数、积分时间、曝光时间(快门速度)、光圈大小、遮光板控制量、照明控制量;也就是说,人工智能模型的输入和输出可以根据实际应用场景进行组合。
本实施例中,在人工智能模型输出相机系统控制参数后,通过控制模块向相机系统的各个机构进行发送;各个机构按照接收到的控制参数进行执行。
在前述复杂环境光应用条件下的相机系统像质调节方法的具体实施方式中,进一步地,在将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数之前,所述方法还包括:
获取不同环境光、不同相机系统控制参数条件下采集的图像,形成图像数据集;
利用图像质量相似度方法和模式识别聚类方法从所述图像数据集中挑选出代表图像,组成新的图像数据集,并获取针对所述新的图像数据集,形成的若干个主观评估等级数据集,其中,所述主观评估等级为主观图像质量评估等级;
确定主观评估等级数据集中评估等级高的图像的客观图像质量评估参数的其分布规律;
获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,根据确定的等级高的图像的客观图像质量评估参数的分布规律,获得使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数;
根据获得的使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数训练人工智能模型。
本实施例中,在应用人工智能模型预测相机系统控制参数之前,还需训练人工智能模型,如图5所示,训练人工智能模型的具体步骤可以包括:
B1、针对典型相机观测应用,积累大量不同环境光、不同相机系统控制参数条件下拍摄的图像,形成图像数据集。
针对特定应用,如在轨空间碎片的观测或是水下典型珊瑚礁的观测等应用问题,积累不同实验环境下的图像数据。不同实验环境下的图像数据是指,需考虑不同实际应用环境光变化条件,以及不同相机系统控制参数条件下采集的数据。实际应用环境光变化可以根据具体应用进行分析,提取典型环境光条件。如在轨空间碎片观测应用中,可根据相机在轨的不同位置处,选定30个特定轨道位置处的环境光情况。不同相机控制参数条件中相机的控制参数可包括:相机的焦距、增益、积分级数、积分时间、曝光时间(快门速度)、光圈大小、遮光板控制量、照明控制量、滤光片选型控制量、相机姿态控制量、减震器控制量,在温度变化剧烈或存在高振动应用条件下还可包括温度控制量和稳像控制量等。
图像数据积累的过程可以采集真实条件下拍摄的图像,也可以采用仿真软件仿真的方法生成不同环境光条件下的图像数据。其目的是尽可能多的涵盖不同环境光条件下的工况。
在采集真实数据时,可以采用遍历的方式采集不同成像条件下的图像。比如,针对近地轨道在轨观测空间碎片的应用问题,首先,可在真实空间应用试验中或实验室环境下仿真取定20种典型空间环境光条件(即20种典型轨道位置处的环境光);其次分别针对各个影响相机系统像质的因素,进行不同控制参数的选取:5种相机的典型焦距控制方法、5种相机的增益典型控制方法、3种相机的积分级数典型控制方法、3种相机的积分时间典型控制方法、5种相机的曝光时间(快门速度)典型控制方法、3种相机的光圈大小典型控制方法、3种照明控制量典型控制方法、3种滤光片选型控制量典型控制方法、5种相机姿态控制量典型控制方法。最终,针对上述20×5×5×3×3×5×3×3×3×5种情况,进行实验数据的自动拍摄和获取,最终形成相关图像数据库。
又比如,在水下观测应用中,首先可在真实水下应用试验中或实验室仿真环境下取定12种典型水下环境光条件;其次分别针对各个影响相机系统像质的因素,进行不同控制参数的选取:3种相机的典型焦距控制方法、3种相机的增益典型控制方法、3种相机的积分级数典型控制方法、3种相机的积分时间典型控制方法、3种相机的曝光时间(快门速度)典型控制方法、3种相机的光圈大小典型控制方法、3种照明控制量典型控制方法、5种相机姿态控制量典型控制方法。最终,针对上述12×3×3×3×3×3×3×3×5种情况,进行实验数据的自动拍摄和获取,最终形成相关图像数据库。
由上述举例不难看出,环境光条件与相机系统控制参数的选取跟特定应用相关,可在充分考虑采集数据量和复杂程度的基础上灵活选择任意组合方式。
B2、根据形成的图像数据集,利用图像质量相似度计算方法、模式识别聚类方法以及人因工程学方法,确定若干个主观评估等级数据集,其中,所述主观评估等级为主观图像质量评估等级。
首先,针对形成的图像数据集,根据图像质量的相似度对原始数据进行删减。删减的目的是为了进一步降低数据量,减轻后续采用人因工程学进行图像质量评价的工作量;删减的过程可理解为一种“粗删减”的过程,该过程是根据图像质量的相似度挑选出质量等级类似图像中的代表,将所选出的“代表”用于参与人因学实验,以进行进一步图像质量高低精细的评判。在这一步中,在进行图像质量的计算时,可计算图像亮度、区域对比度、边缘模糊度、噪声强度、色差、图像纹理或其他可以表征图像质量的盲图像质量评估参数值。
其次,采用模式识别聚类方法,计算各个图像质量特征的聚类结果,挑选聚类中心量代表类别中的所有数据,这样处理可以使得聚类后图像的数据量显著减少。优选的,可采用C均值聚类方法,并将所有图像质量特征当做一个向量来进行聚类处理;当原始数据量在百万幅以上时,可选定聚类个数小于一万进行聚类。当聚类后,可采用聚类中心的数据(如果聚类中心在原始数据集中)或与聚类中心距离最近的数据(如果聚类中心不在原始数据集中)作为这一类图像数据的代表,最终形成人因工程学实验所需的图像数据集。
再次,组织人因学实验,要求参与实验的受试者对上述新生成的图像数据集进行主观打分,最终可形成不同主观评估等级的数据集。优选地,人因学实验的人数应当大于20人次的,主观评估等级可以选取为5级。当完成主观评估后,可将本次人因学实验所使用图像数据的评估结果,应用于上一步聚类获取的图像数据中与本次人因学实验数据属于同一类别的所有数据。即,本次实验对上一步处理数据中的聚类中心给出了主观评估结果,在这一步中可认为上一步获取的数据中与聚类中心属于同一类别的数据具有与聚类中心同样的主观评估结果。
通过上述处理,可以将步骤B1中所获取的数据,根据主观像质评价结果,分成若干个主观评估等级不同的数据集。假设,将原始数据集分为5个数据集A、B、C、D、E;其中,数据集A与B的主观图像质量评估等级较高,数据集C、D、E的评价等级较低。
B3、确定主观评估等级数据集中评估等级高的图像的客观图像质量评估参数并分析其分布规律。
首先,对前述所获得的分级图像中主观评估等级评估高的数据,即数据集A与B,计算客观图像质量评估参数。优选地,所计算的客观图像质量评估参数包括:图像亮度、区域对比度、边缘模糊度、噪声强度、色差、图像纹理或其他可以表征图像质量的盲图像质量评估参数值。其次,对所计算的客观图像质量评估参数,计算各个参数的分布规律。在进行数据分析时,可单独观察单个图像质量评估参数,也可将若干个图像质量评估参数组成向量,在高维空间进行分布规律的分析。优选地,可采用C均值聚类技术分析其聚类中心,并计算其聚类阈值半径。所谓聚类阈值半径是指,当某一数据与聚类中心的距离小于阈值半径时,可认为该数据属于聚类中心所对应的同一类数据;否则,则不属于。
这一步骤实施完成后,可以得到主观评估等级高的数据集(A和B)所对应的客观图像质量评估参数的分布规律。
B4、开展相机参数调节实验,以获取使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数。
对步骤B2中主观评估等级低的数据,即数据集C、D、E,首先,按照其原始生成条件调节相机系统控制参数,以保证相机能再次拍摄或复现出该图像数据。其次,依次对相机系统控制参数进行调节,每调节一次可获得一种新的成像结果图像;计算该新图像的客观图像质量评估参数,并将计算的结果与步骤B3中分析出的高等级图像(数据集A和B)的分布规律做比较;如果新图像的客观图像质量符合高图像质量等级图像的客观图像质量评估参数分布规律,例如,其客观图像质量评估参数与高等级图像的客观图像质量评估参数聚类中心的距离小于预设的距离阈值,则认为该新图像也属于高成像质量的图像,则停止调节相机系统控制参数,记录此时相机系统控制参数;否则继续进行相机系统控制参数的调节,并记录图像、计算其客观图像质量评估参数与高等级图像的客观图像质量评估参数的聚类中心进行比较,直至该图像被划分为高像质的图像为止。再次,如果经过遍历所有相机系统控制参数后,仍无法获得高等级的成像结果时,则计算所有成像结果中客观图像质量评估结果与高质量图像客观图像质量评估参数聚类中心距离最近的结果,将其对应的图像作为质量最佳的图像进行输出。上述过程可以编写程序自动实现,无需人工干预。优选地,上述计算过程中,计算新生成图像的客观图像质量评估参数与高等级图像数据集的客观图像质量评估参数聚类中心距离的方法可以采用欧拉距离进行计算。
最终,通过本步骤的操作,可以获得使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数。
B5、利用前述获得的使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数训练人工智能模型。
在步骤B4处理的数据集中(即图像数据集C、D、E),每一幅图像均对应一个客观图像质量评估结果以及使其像质变好的相机控制参数调节方法。因此,在这一环节中,可利用图像的客观图像质量评估结果数据集以及相机系统控制参数数据集生成条件进行人工智能模型的训练。此时训练人工智能模型的输入为客观图像质量评估参数数据集,监督数据为各客观图像质量评估参数数据集对应的相机系统控制参数数据集。上述训练过程为一个多输入多输出模型的训练过程,可以实现根据客观图像质量评估参数预测相机系统控制参数的计算效果。最终,当人工智能模型完成训练后,便可将该人工智能模型进行使用。优选地,当该人工智能模型的预测正确率大于95%时,可终止训练。
最后,可以应用训练好的人工智能模型预测相机系统的控制参数
本实施例中,当相机系统在实际应用中抓拍到一幅图像时,相机系统首先判断被观测目标是否属于快速变化的目标,然后计算该图像的客观图像质量评估参数;其次,系统将所计算的客观图像质量评估参数与步骤B2中所计算的主观评估等级高的图像数据所对应的客观图像质量评估参数的分布规律进行比较,如果其客观图像质量评估参数与主观评估等级高的图像数据所对应的客观图像质量评估参数聚类中心之间的距离小于预设的距离阈值,则系统不做任何操作,否则,利用步骤B5中训练好的人工智能模型,根据客观图像质量评估参数预测相机系统的控制参数;最终,系统将所预测的控制参数进行输出控制,调节相机的成像方式以获得高质量的成像效果。
在像质评估人因学研究方面,当前已有成像装置大多也仅能考虑有限个影响像质的因素进行像质评估人因学实验的实施与研究。本实施例所述的相机系统像质调节方法,在进行成像系统像质评估人因学研究方面,能够综合考虑不同因素(包括相机自身的因素及相机外围控制机构的影响因素)对像质的影响,最大限度的提高了相机系统像质基准的准确性;另一方面该方法能够采用模式识别手段有效删减像质等级接近的数据,降低主观评估过程的工作量与复杂程度,使得像质主观评估过程变得简单易行。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上所述是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明所述原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (7)

1.一种复杂环境光应用条件下的相机系统像质调节方法,其特征在于,包括:
采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价,其中,像质表示图像质量;
将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数;其中,在训练所述人工智能模型时,其输入为使主观图像质量评估等级低的图像变成等级高的图像的客观图像质量评估参数,监督数据为该客观图像质量评估参数对应的相机系统控制参数;
将得到的相机系统控制参数值输入到相机系统相应的机构中,各个机构按照接收到的控制参数进行执行。
2.根据权利要求1所述的复杂环境光应用条件下的相机系统像质调节方法,其特征在于,所述采用盲图像质量评估参数方法对相机系统采集的图像进行像质的定量化评价包括:
判断被相机系统采集图像的被观测目标是否属于快速变化的目标;
若属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的每一帧图像进行像质的定量化评价;
若不属于快速变化的目标,则采用盲图像质量评估参数方法对相机系统采集的图像隔帧进行像质的定量化评价。
3.根据权利要求2所述的复杂环境光应用条件下的相机系统像质调节方法,其特征在于,所述判断被相机系统采集图像的被观测目标是否属于快速变化的目标包括:
判断被观测目标的大小或形态变化在相邻两帧中变化程度是否超过预设的变化阈值,若超过,则被观测目标属于快速变化的目标;或,
判断被观测目标的位移变化在相邻两帧中移动位置是否超过预设的像素个数,若超过,则被观测目标属于快速变化的目标。
4.根据权利要求1所述的复杂环境光应用条件下的相机系统像质调节方法,其特征在于,盲图像质量评估参数包括:图像的亮度、区域对比度、边缘模糊度、噪声强度、色差、图像纹理信息中的一种或多种;
所述相机系统控制参数包括:相机的焦距、增益、积分级数、积分时间、曝光时间、光圈大小、遮光板控制量、照明控制量、滤光片选型控制量、相机姿态控制量、减震器控制量、温度控制量、稳像控制量中的一种或多种。
5.根据权利要求1所述的复杂环境光应用条件下的相机系统像质调节方法,其特征在于,在将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数之前,所述方法还包括:
获取不同环境光、不同相机系统控制参数条件下采集的图像,形成图像数据集;
利用图像质量相似度方法和模式识别聚类方法从所述图像数据集中挑选出代表图像,组成新的图像数据集,并获取针对所述新的图像数据集,形成的若干个主观评估等级数据集,其中,所述主观评估等级为主观图像质量评估等级;
确定主观评估等级数据集中评估等级高的图像的客观图像质量评估参数的分布规律;
获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,根据确定的等级高的图像的客观图像质量评估参数的分布规律,获得使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数;
根据获得的使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数训练人工智能模型。
6.根据权利要求5所述的复杂环境光应用条件下的相机系统像质调节方法,其特征在于,所述获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,根据确定的等级高的图像的客观图像质量评估参数的分布规律,获得使等级低的图像变成等级高的图像的相机系统控制参数调节方法及客观图像质量评估参数包括:
获取主观评估等级数据集中评估等级低的图像,基于其原始生成条件,调节相机系统控制参数,每调节一次获得一种新的成像结果图像;
计算新图像的客观图像质量评估参数,判断新图像的客观图像质量评估参数与等级高的图像的客观图像质量评估参数聚类中心之间的距离是否小于预设的距离阈值,若小于,停止调节相机系统控制参数,记录此时相机系统控制参数;
否则,则继续调节相机系统控制参数,直至等级低的图像被划分为等级高的图像为止;
若遍历所有相机系统控制参数后,仍无法获得等级高的成像结果时,则获取所有成像结果中客观图像质量评估参数与等级高的图像客观图像质量评估参数聚类中心距离最近的结果,将其对应的图像作为质量最佳的图像进行输出。
7.根据权利要求5所述的复杂环境光应用条件下的相机系统像质调节方法,其特征在于,所述将像质评价结果输入到训练好的人工智能模型中,得到相机系统控制参数包括:
判断像质评价结果与主观评估等级高的图像所对应的客观图像质量评估参数聚类中心之间的距离是否小于预设的距离阈值,若小于,则不做任何操作;否则,则利用训练好的人工智能模型,根据像质评价结果预测并输出相机系统的控制参数。
CN201811419276.8A 2018-11-26 2018-11-26 一种复杂环境光应用条件下的相机系统及像质调节方法 Active CN109379584B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811419276.8A CN109379584B (zh) 2018-11-26 2018-11-26 一种复杂环境光应用条件下的相机系统及像质调节方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811419276.8A CN109379584B (zh) 2018-11-26 2018-11-26 一种复杂环境光应用条件下的相机系统及像质调节方法

Publications (2)

Publication Number Publication Date
CN109379584A CN109379584A (zh) 2019-02-22
CN109379584B true CN109379584B (zh) 2019-12-17

Family

ID=65383635

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811419276.8A Active CN109379584B (zh) 2018-11-26 2018-11-26 一种复杂环境光应用条件下的相机系统及像质调节方法

Country Status (1)

Country Link
CN (1) CN109379584B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110636227B (zh) * 2019-09-24 2021-09-10 合肥富煌君达高科信息技术有限公司 高动态范围hdr图像合成方法及集成该方法的高速相机
CN111310541B (zh) * 2019-11-27 2023-09-29 Oppo广东移动通信有限公司 一种场景预测方法及终端、存储介质
CN111091069A (zh) * 2019-11-27 2020-05-01 云南电网有限责任公司电力科学研究院 一种盲图像质量评价引导的电网目标检测方法及系统
CN113411510B (zh) * 2021-06-21 2022-08-12 北京清影机器视觉技术有限公司 一种基于图像质量评价和红热锻件的相机自动曝光算法
CN113259595B (zh) * 2021-06-25 2021-10-08 煤炭科学研究总院 图像采集方法、装置以及存储介质
CN115482227B (zh) * 2022-09-26 2023-09-12 中机生产力促进中心有限公司 机器视觉自适应成像环境调整方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102223486B (zh) * 2011-04-13 2013-07-17 北京瑞澜联合通信技术有限公司 低照度摄像机成像控制方法、装置及摄像系统
CN104614834A (zh) * 2015-02-04 2015-05-13 深圳市华星光电技术有限公司 曝光机自动更换滤波片装置及曝光机
CN105021537A (zh) * 2015-08-13 2015-11-04 苏州优谱德精密仪器科技有限公司 一种应用光学对流体进行分析的装置
CN207433827U (zh) * 2017-07-05 2018-06-01 北京邮电大学 一种小型全景相机云台系统
CN108540703A (zh) * 2018-06-12 2018-09-14 长江三峡勘测研究院有限公司(武汉) 隧道倾斜摄影装置

Also Published As

Publication number Publication date
CN109379584A (zh) 2019-02-22

Similar Documents

Publication Publication Date Title
CN109379584B (zh) 一种复杂环境光应用条件下的相机系统及像质调节方法
US11398018B2 (en) Video shadow and motion removal system
US11308335B2 (en) Intelligent video surveillance system and method
CN106462737A (zh) 用于浑浊性检测的系统和方法
CN113361326B (zh) 一种基于计算机视觉目标检测的智慧电厂管控系统
CN108596169A (zh) 基于视频流图像的分块信号转换与目标检测方法及装置
KR102392822B1 (ko) 주간 타입 카메라 및 야간 타입 카메라를 이용하여 객체를 탐지 및 추적하는 장치 및 방법
CN111161160B (zh) 一种雾天障碍物检测方法、装置、电子设备和存储介质
CN108225277A (zh) 无人机的图像获取方法、视觉定位方法、装置、无人机
CN110956146A (zh) 一种道路背景建模方法、装置、电子设备和存储介质
CN111027436A (zh) 一种基于深度学习的东北黑木耳病虫害图像识别系统
CN107016343A (zh) 一种基于贝尔格式图像的红绿灯快速识别方法
CN116452976A (zh) 一种煤矿井下安全检测方法
KR102491684B1 (ko) 선실드가 형성된 감시카메라 장치 및 이의 제어방법
CN104010165B (zh) 降水粒子阴影图像自动采集装置
CN114040124B (zh) 森林草原巡视无人机的相机自适应曝光处理系统及方法
Nan et al. An image enhancement method in coal mine underground based on deep retinex network and fusion strategy
CN116189136A (zh) 一种基于深度学习的雨雪天气下交通信号灯检测方法
CN115187568A (zh) 一种电力开关柜状态检测方法及系统
Li et al. Image Restoration for Blast Furnace Burden Surface Based on Dust Multi-Scattering Model
CN103400381A (zh) 一种基于光学成像的水下目标跟踪方法
Haicheng et al. Study on monitoring technology of UAV aerial image enhancement for burning straw
CN113392723A (zh) 基于人工智能的无人机迫降区域筛选方法、装置及设备
Liu et al. Light pollution reduction in nighttime photography
Feng et al. An improved vibe algorithm of moving target extraction for night infrared surveillance video

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant