CN105049784B - 用于基于图像的视距估计的方法和设备 - Google Patents

用于基于图像的视距估计的方法和设备 Download PDF

Info

Publication number
CN105049784B
CN105049784B CN201510220595.6A CN201510220595A CN105049784B CN 105049784 B CN105049784 B CN 105049784B CN 201510220595 A CN201510220595 A CN 201510220595A CN 105049784 B CN105049784 B CN 105049784B
Authority
CN
China
Prior art keywords
distance
optical density
image
detection device
extinction coefficient
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510220595.6A
Other languages
English (en)
Other versions
CN105049784A (zh
Inventor
S·勒诺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Publication of CN105049784A publication Critical patent/CN105049784A/zh
Application granted granted Critical
Publication of CN105049784B publication Critical patent/CN105049784B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/49Scattering, i.e. diffuse reflection within a body or fluid
    • G01N21/53Scattering, i.e. diffuse reflection within a body or fluid within a flowing fluid, e.g. smoke
    • G01N21/538Scattering, i.e. diffuse reflection within a body or fluid within a flowing fluid, e.g. smoke for determining atmospheric attenuation and visibility
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Transportation (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Mechanical Engineering (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种用于车辆的用于基于图像的视距估计的方法,所述方法具有求取周围环境的对象在车辆的图像检测装置的图像中的成像的步骤,其中对象具有朝车辆的行驶方向的延展,其中图像是车辆前方的周围环境的成像,具有区段化对象的成像的步骤,以便得到对象的具有相对于图像检测装置在公差范围方面相同的第一距离的第一对象区域并且得到对象的具有相对于图像检测装置在公差范围方面相同的第二距离的第二对象区域,以及确定用于第一对象区域的第一对象光密度和第二对象区域的第二对象光密度,以及具有在使用第一对象光密度、第二对象光密度、第一距离和第二距离的情况下确定大气消光系数的步骤,其中大气消光系数与视距存在直接关联。

Description

用于基于图像的视距估计的方法和设备
技术领域
本发明涉及一种用于基于图像的视距估计的方法、一种用于基于图像的视距估计的相应的设备以及一种相应的计算机程序。
背景技术
通过传感器和系统的迅速的进一步开发能够实现车辆周围环境的越来越精确的检测。因此,不同的驾驶员辅助系统可以在其驾驶任务方面支持人类驾驶员和/或完全接管任务的部分。在此,主动的和被动的不同传感器借助不同的电磁频谱范围工作。在此,根据频谱范围,由于大气现象(雨、雾……)可能出现较强烈或者较不强烈的衰减效应和散射效应。对于摄像机而言(大约在可见光的范围中的频谱范围),特别是雾可能通过这种方式导致视线限制。
专利文献EP 1 474 652 A1描述了一种用于尤其从车辆在场景中进行视距确定的方法以及一种用于确定雾的存在的方法。
发明内容
由此借助在此所提出的方案,提出根据主权利要求的用于车辆的用于基于图像的视距估计的方法、使用所述方法的用于车辆的用于基于图像的视距估计的设备以及相应的计算机程序。由相应的从属权利要求和随后的说明得到有利的构型。
对于车辆中的一些系统而言,当前视距的了解是有利的。由对象在多个不同距离上的对象光密度可以求取具有与视距的关联的特征参量。在此,可以从图像检测系统或者图像检测装置的图像获得对象光密度。在所提出的方法的变型方案中,可以改变或者组合所研究的对象的数量、所分析处理的图像的数量或者所基于的数学模型,以便更稳健地构型所述方法。
提出用于基于图像的视距估计的方法,其中所述方法具有以下步骤:
在图像中求取对象的成像,其中图像示出图像检测装置的周围环境的成像;
区段化对象的成像,以便得到对象的具有相对于图像检测装置在公差范围方面相同的第一距离的第一对象区域以及得到对象的具有相对于图像检测装置在公差范围方面相同的第二距离的第二对象区域,以及确定用于所述第一对象区域的第一对象光密度和用于所述第二对象区域的第二对象光密度;
在使用第一对象光密度、第二对象光密度、第一距离和第二距离的情况下确定大气消光系数K,其中大气消光系数K与视距存在直接关联。
视距可以涉及在周围环境中占主导的视距。图像可以理解为例如车辆的周围环境的借助图像检测装置获得的成像。在此,对象可以表征图像中的区域,在所述区域中成像来自周围环境的物体。对象可以具有朝图像检测装置的视向方向的延展。因此,对象可以具有纵深,由此不同的对象区域可以具有相对于图像检测装置的彼此不同的距离。图像可以具有不同的强度数据。对象光密度可以理解为对象的强度数据。对象光密度可以取决于对象光和所散射进来的周围环境光。在区段化的步骤中可以区段化图像,尤其在图像中间的区域中。在区段化的步骤中得到的对象区域可以通过在公差范围方面相同的对象光密度并且补充地或替代地通过相对于图像检测装置在公差范围方面相同的距离突出。对于每一个对象区域可以提供由对象光密度和距离组成的值对。距离可以理解为间距。距离可以代表图像检测装置与对象或者物体的间距。所述对象可以具有光密度的方向相关性并且可以称作漫辐射体或者朗伯辐射体。所述对象可以在所有方向上发出同一光密度。所述对象可以具有朗伯面积单元的特性。
所述用于基于图像的视距估计的方法可以用于车辆或者在车辆中使用。可以不取决于车辆地例如在周围环境中运动的移动摄像机中使用所述用于基于图像的视距估计的方法。因此,在使用智能手机的情况下例如可以由行人使用所述方法。也可以借助构造用于从不同的距离拍摄对象的多个摄像机或者图像检测装置使用所述方法。尤其可以在尽可能近地彼此相邻的时刻检测对象。替代地,可以借助静止的图像检测装置使用所述用于基于图像的视距估计的方法。
在求取的步骤中,可以求取周围环境的对象在图像检测装置的图像中的成像,其中所述对象具有朝车辆的行驶方向的延展,其中所述图像可以是车辆前方的周围环境的成像。
为了描述雾密度,可以考虑由散射系数Ks[1/m]和吸收系数Ka[1/m]组成的消光系数K=Ka+Ks[1/m]。消光系数例如可以通过气象学视距dmet[m] 的定义直接与人类的察觉能力相联系:
得到气象学的视距作为仍能够以其原始对比度的5%察觉对象的距离。
出于不同的原因感兴趣的是,可以估计消光系数K。例如,当驾驶员以与视距不匹配的速度行驶时,可以警告驾驶员。甚至可以根据视距自动匹配速度。此外,对于在由于雾强烈衰减的范围范围中工作的传感器和系统(例如摄像机、激光雷达)而言,雾密度是感兴趣的参量。这些传感器以及人类在其气象学的有效距离以上不再能够作出可靠的陈述。因此,例如在视距50m时不意味着,当在前方75米内没有探测到对象时没有对象位于那里。不同的算法参数可以匹配能见度条件。另一个应用可以是雾前照灯的控制,在雾的情况下为了更高的舒适度可以接通所述雾前照灯,或者可以是后雾灯的控制,根据法律规定、如StVo(道路交通规则,Strassenverkehrsordnung)或者为了提高安全性,在视距50m以下必须或者应当接通后雾灯。
在此提出一种方法和一种设备,它们尤其在日光时可以特别快速地或者实时地由部分区段化的表面和摄像机的距离数据估计消光系数K。
在确定的步骤中,可以在使用一维公式的情况下确定消光系数K。可以在使用用于通过大气气溶胶进行光传输的模型的情况下确定消光系数 K。有利地,一维公式和补充地或替代地水平视线的模型能够实现消光系数 K的快速确定。可以将所述水平视线的模型表达为一维公式。
在确定的步骤中,可以在使用估计方法的情况下由所述一维公式确定消光系数K。因此,可以近似地且非常快速地确定消光系数K。可以迭代地实施所述估计方法并且在每一次迭代时使所确定的消光系数K趋近于目标泛函的临界消光系数K。有利地,可以实施至少三次迭代。有利地,小于5次迭代足以使所确定的消光系数K在有利的公差范围内趋近于目标泛函的临界消光系数K。临界消光系数K可以不同于周围环境的“真正的”消光系数K,其中临界消光系数K当然作为目标泛函的最小值可以是尽可能好的估计。
在确定的步骤中,可以在使用迭代的牛顿方法的情况下确定消光系数 K。有利地,使用平常的方法来确定消光系数K。因此,可以实现消光系数 K的实时确定。
在区段化的步骤中,可以区段化对象的成像,以便得到具有相对于图像检测装置在公差范围方面相同的第三距离的第三对象区域,以及确定用于所述第三对象区域的第三对象光密度。在此,在区段化的步骤中,在使用第三对象光密度和第三间距的情况下确定大气消光系数K。
在一种实施方式中,所述方法包括在使用图像检测装置、尤其车辆的图像检测装置的情况下检测图像的步骤。在此,所述图像是周围环境的对象在图像中的成像。所述对象可以具有距离方面的延展并且补充地或替代地具有相对于图像检测装置的纵深方面的延展。对象可以具有朝车辆的行驶方向的延展。因此有利地,可以直接检测用于视距估计的图像。
可以对于另一个图像实施求取的步骤和区段化的步骤。对于另一个图像可以确定至少一个另外的对象光密度和分配给所述另一个对象光密度的成像的另一个距离。在确定的步骤中,可以在使用至少一个另外的对象光密度和分配给所述另一个对象光密度的另一个距离的情况下确定大气消光系数K。可以在第一时刻检测所述图像。可以在另一个时刻检测所述另一个图像。因此,可以在使用检测所述图像的第一时刻和检测所述另一个图像的另一个时刻的情况下确定大气消光系数K。
在此所提出的方案还实现一种设备,其构造用于在相应的装置中实施、控制或者实现在此所提出的方法的一种变型方案的步骤。通过本发明的以设备形式的所述实施变型方案也可以快速且有效地解决本发明所基于的任务。
在此,设备可以理解为处理传感器信号并且据此输出控制信号和/或数据信号的电设备。所述设备可以具有可能按照硬件方式和/或按照软件方式构造的接口。当按照硬件方式构造时,所述接口例如可以是所谓的系统 ASIC的一部分,其包含所述设备的不同功能。然而,所述接口也可能是单独的集成电路或者至少部分地由分立的组件组成。当按照软件方式构造时,所述接口可以是例如在微控制器上与其他软件模框并存的软件模框。
计算机程序产品或者计算机程序也是有利的,其具有程序代码,其可以存储在机器可读的载体或者存储介质——例如半导体存储器、硬盘存储器或光学存储器上并且用于尤其当在计算机或设备上实施所述程序产品或程序时实施、实现和/或控制根据以上所描述的实施方式中任一种所述的方法的步骤。
附图说明
以下根据附图示例性地进一步阐述在此所提出的方案。附图示出:
图1根据本发明的一个实施例示出用于车辆的用于基于图像的视距估计的设备的框图;
图2根据本发明的一个实施例示出用于基于图像的视距估计的方法的流程图;
图3根据本发明的一个实施例示出气象学视距的示意图;
图4根据本发明的一个实施例示出对象光与所散射进来的周围环境光的关系的示意图;
图5根据本发明的一个实施例示出对象光与所散射进来的周围环境光的关系的示意图;
图6根据本发明的一个实施例示出在间距上所描绘的所测量的光密度的示图;
图7根据本发明的一个实施例示出对象在不同距离上的示意图;
图8根据本发明的一个实施例示出车辆的周围环境与道路表面的一个区段的示图;
图9根据本发明的一个实施例示出信号变化的框图;
图10根据本发明的一个实施例示出所估计的视距与距离相关的示图;
图11根据本发明的一个实施例示出用于车辆的用于基于图像的视距估计的设备的框图。
在本发明的有利的实施例的以下描述中,对于在不同附图中所示出的且相似作用的元素使用相同或相似的参考标记,其中放弃这些元素的重复描述。
具体实施方式
图1根据本发明的一个实施例示出用于车辆102的用于基于图像的视距估计的设备100的框图。设备100包括用于在车辆102的图像检测装置 110的图像108中求取周围环境的对象的成像106的装置104和用于以对象的相对于图像检测装置110在公差范围方面相同的第一距离d1区段化第一对象区域并且以对象的相对于图像检测装置110在公差范围方面相同的第二距离d2区段化第二对象区域的装置112。所述装置112还构造用于,确定用于所述第一对象区域的第一对象光密度L1和用于所述第二对象区域的第二对象光密度L2。设备100还具有用于在使用第一对象光密度L1、第二对象光密度L2、第一间距d1和第二间距d2的情况下确定大气消光系数K 的确定装置114,其中所述大气消光系数K与视距dmet存在直接关联。在公式(1)中示出大气消光系数K和视距dmet之间的关系。
在一个替代的实施例中,图像检测装置110和设备100与车辆无关地用于基于图像的视距估计。
根据所述实施例,图像108是车辆102前方的周围环境的成像106。在用于区段化的装置112中所区段化的对象具有朝车辆102的行驶方向的延展。
在一个替代的实施例中,对象具有在相对于车辆的距离方面或者纵深方面的延展。在一个替代的实施例中,对象具有朝图像检测装置的视向方向的延展。由图像检测装置检测的道路例如涉及弯道,或者图像检测装置具有与车辆的行驶方向不同的检测方向并且在纵深方面延展的对象例如是位于车辆旁边的停车位或者滑行区域(Rollfeld)。
此外,在图1中所示出的实施例中,设备100具有用于读取图像108 的接口116。在使用图像检测装置110的情况下检测图像108。图像108示出来自图像检测装置110的周围环境的物体作为对象,其中间距d1、d2分别代表图像检测装置110与所区段化的对象区域之间的距离。
图2根据本发明的一个实施例示出用于基于图像的视距估计的方法的流程图。所述方法可以在图1中所示出的并且所描述的设备中实施。所述用于基于图像的视距估计的方法包括在图像检测装置的图像中求取对象的成像的步骤220,其中所述对象具有朝图像检测装置的视向方向的延展,包括步骤222,其中一方面区段化所述成像以便得到对象的具有相对于图像检测装置在公差范围方面相同的第一距离d1的第一对象范围和对象的具有相对于图像检测装置在公差范围方面相同的第二距离d2的第二对象范围,而另一方面确定用于所述第一对象范围的第一对象光密度L1和用于所述第二对象范围的第二对象光密度L2。所述方法还包括在使用所述第一对象光密度L1、所述第二对象光密度L2、所述第一距离d1和所述第二距离d2的情况下确定大气消光系数K的步骤224,其中所述大气消光系数K与视距dmet存在直接关联。在公式(1)中示出大气消光系数K与视距dmet之间的关系。
在一个实施例中,在确定的步骤224中,在使用一维公式和补充地或替代地水平视线的模型的情况下确定消光系数K。
在一个实施例中,在确定的步骤224中,在使用估计方法的情况下由一维公式确定消光系数K。
可选择地,在确定的步骤224中,在使用迭代的牛顿方法的情况下确定消光系数K。
在区段化的步骤222中,可选择地以相对于图像检测装置在公差范围方面相同的第三距离来区段化至少一个第三对象区域并且确定用于所述第三对象区域的第三对象光密度。在此,在确定的步骤中,在使用第三对象光密度和第三间距的情况下确定大气消光系数K。
可选择地,所述方法包括在使用车辆的图像检测装置的情况下检测图像的步骤,其中所述图像是周围环境的对象在图像中的成像,其中所述对象具有朝车辆的行驶方向的延展。
在一个实施例中,对于另一个图像实施求取的步骤220和区段化的步骤222,其中在确定的步骤224中在使用至少一个第三对象光密度L3和分配给所述第三对象光密度L3的第三距离d3的情况下确定大气消光系数K。在此,在实施求取的步骤220和区段化的步骤222的情况下对于所述另一个图像求取至少第三对象光密度L3和所分配的第三距离d3
作为一个方面,只要能够实现,所述方法就区段化摄像机图像中间的道路区域(或者具有z延展/纵深延展的其他表面)。在所区段化的区域中确定与道路的距离(例如通过立体化装置(立体摄像机)、通过“从运动信息中恢复三维场景结构(Structure from Motion)(尤其用于单目摄像机)”、通过道路表面的了解(平面世界拍摄(Flache-Welt-Annahme)也是可能的) 和摄像机相对于道路的定位(尤其用于单目摄像机)、通过其他传感器——如雷达和激光雷达(然而需要整个系统的好的外部校准)……)。综合近似相等距离的道路区域(例如对于几乎不旋转的摄像机逐行地)并且估计用于所综合的区域的光密度(例如作为平均光密度或者中值光密度)。因此,产生光密度/距离值对(L1;d1),...,(LN;dN)。如果从道路的大约恒定的反射度出发并且假设其作为朗伯表面(真实假设),则可以通过雾模型(至少在参数L、d和K方面)对测量值的匹配由测量来确定消光系数K。有利的是,所述方法没有指出可以直至地平线地完全区段化道路。这尤其在前方行驶的车辆或者此外在几何上遮挡的对道路走向的视线的情况下是有意义的。
在此所描述的方法的一个实施例使用仅仅一个单独的图像,而没有使用具有可跟踪的对象的图像序列。在此,通过(道路)表面的部分区段化来替代或者补充在长的时间上对象的追踪或者跟踪。
在一个实施例中,在确定的步骤224中包含其他的周围环境信息(例如周围环境亮度、对象了解……)。此外,所述其他的环境信息可以由图像和/或由其他传感器和/或前后关系(Kontext)获得。
图3根据本发明的一个实施例示出气象学视距dmet的示意图。由仍可以其原始对比度的5%觉察对象的距离得到气象学视距dmet。因此,图3以五个相互相邻布置的视图示出车辆300的剪影,其中对比度从具有表示为 100%的原始对比度变化到具有表示为2%的对比度。在它们中间以50%、 20%和5%示出剪影。觉察阈值在对比度5%时经过
图4根据本发明的一个实施例示出对象光430和所散射进来的周围环境光432的关系的示意图。对象光430在从对象434或者物体434到观察者436的路径上减弱并且通过所散射进来的周围环境光432增强。
在此所描述的方案基于在摄像机的两个或多个帧或者图像上对象、表面的部分或者点的跟踪。如果所追踪的实体(在此以参考标记434表征) 在其距离方面相对于摄像机运动,则由于雾发生光密度或者对象光密度的变化。在此,光密度不仅仅指典型的光度测量的光密度。在此,该术语应当表示辐射密度的任意的(但是在实施的过程中固定的)频谱加权。在此,光密度尤其也可以表示根据摄像机成像器或者图像检测装置的单个像素的灵敏度曲线的频谱加权。
更准确地说,例如通过水平视线的Koschmieder理论描述光密度和对象距离之间的所述关系:
L=e-KdL0+(1-e-Kd)Lair (2)
其中,参数L0和Lair代表对象的光密度和周围环境光,而d[m]表示对象和观察者之间的距离。L是在观察者处所觉察的对象光,根据公式(2) 所述对象光由所衰减的对象光L0和所散射进来的周围环境光Lair组成。
根据一个实施例,当在雾时在从旁经过时由前方摄像机跟踪道路标牌时,在靠近标牌时因为更少的周围环境光散射进光学路径中并且由对象反射的光比周围环境光更弱,所以光密度(所感觉的亮度)减小。因此,在跟踪时得到减小的光密度的曲线。如果同时测量与所跟踪的对象的距离,则也可以关于距离地描绘光密度曲线。例如可以通过在单目摄像机的情况下的“从运动信息中恢复三维场景结构”、通过立体影像或者通过其它传感器、例如激光雷达来测量并且确定与所跟踪的对象的距离或者间距。在图5 中示出关于距离或者间距的光密度曲线的示例。
在此,也可以平滑、内插并且外插所述距离,以便也在跟踪的范围中得到距离,其中距离估计是困难的或者不可能的,但是已经可以跟踪所述对象。在此,可以包含关于在拍摄时刻(例如由ESP、GPS、自身运动估计……)之间所经过的路径的信息。
图4示出,对象光430在从对象到观察者的路径上如何减弱并且通过所散射进来的周围环境光432如何增强。图5示出,在所描述的相应于公式(2)的Koschmieder模型中通过光的指数混合如何描述在图4中所示出的情况。
图5根据本发明的一个实施例示出对象光430和所散射进来的周围环境光432之间的关系的示意图。对象光430在从对象434或者物体434到车辆102中的观察者436的路径上减弱并且通过所散射进来的周围环境光 432增强。图5中的示图示出与图4中的示图不同的事实情况。对象434 涉及道路表面的点或者区域。在笛卡尔坐标系537中示出对象光430的光密度,其中关于距离d地以百分数示出光密度。在此,第一曲线538示出关于对象光的距离d的指数减小的光密度,开始于100%。第二曲线539示出关于周围环境光的距离d的指数增大的光密度,开始于0%。周围环境光也称作“天空光(air light)”。
在一种有利的情形中,道路表面具有在窄的公差范围中恒定的漫反射系数,即道路表面具有恒定的反射能力并且是漫反射的。在一个有利的实施例中,道路表面符合朗伯定律,也已知为朗伯余弦定律。因此,来自所有观察角的辐射密度(英语:radiance)相等。对于观察者而言,这得到与观察角无关的光密度(英语:luminance),其中光密度是辐射密度的光度的相应(Entsprechung)。
图6根据本发明的一个实施例示出在间距上所描绘的所测量的光密度的示图。在笛卡尔坐标系中,在横坐标上描绘间距d并且在纵坐标上描绘对象的光密度L。将实际的测量点记录为点,即在间距上描绘所追踪的对象的所测量的光密度。作为实线600,所修整的模型曲线相应地表示水平视线的Koschmieder模型,相应于公式(2)。
在日光时由前方摄像机或者图像检测装置的单个帧或者图像估计消光系数K的一个途径基于所谓的“道路表面亮度曲线”或者也缩写为RSLC 的提取。在此,在摄像机图像中区段化道路和天空的区域并且将所区段化的区域的逐行的中值描绘为曲线。示出的是,所述曲线的拐点的位置可以通过模型与消光系数K相关联。
图7根据本发明的一个实施例示出对象434在不同距离上的示意图。在不同的距离上检测对象的光密度。在此,例如可以将对象理解为在真实物体的成像的图像中的显示。以L表示光密度,以d表示间距或者距离。在此,索引表示时刻,因此L1代表第一时刻的光密度,L2代表第二时刻的光密度。在此,给每一个时刻分配一个图像。
因此,对于对象得到值对(L1;d1),...,(LN;dN),其中N是帧或者图像的数量,在所述帧或者图像中可能已经跟踪了对象。为了能够通过相应于公式(2)的Koschmieder模型或者其它模型推断出所基于的消光系数 K,建议所述值对尽可能好地相应于预给定的模型;对于Koschmieder:
因为对于N>3而言在有噪声的实际数据上通常不能精确地求解公式系统(3),所以如此估计参数(K;L0;Lair),使得在最小的误差平方的意义上尽可能好地满足公式(3):
通过这种方式,可以由图像序列估计消光系数K,尤其也估计气象学视距dmet
图8根据本发明的一个实施例示出车辆的周围环境与道路表面的区段化的示图。所述示图可以涉及车辆的图像检测装置的图像108。例如在图1 中示出所述图像检测装置。已求取并且标记了道路的成像106。在图像中,道路基本上垂直地延伸。由于雾,道路表面的部分仅仅受限制的识别并且在区段化时不进一步考虑。这涉及地平线附近的路程区段。所述限制也可能由阻挡的对象、如车辆或者弯道引起。
如在图1或者图2中所描述的那样,区段化道路的成像并且求取由对象光密度和距离组成的值对,以便确定大气消光系数K并且因此确定视距dmet
图9根据本发明的一个实施例示出信号变化的框图。在第一框740中,在来自图像检测装置的图像108中实施具有z延展/纵深延展的表面的部分区段化、例如道路,以便得到至少一个所区段化的图像区域。在随后的第二框742中,读取至少一个所区段化的图像区域以及距离d1,...,dN并且以有代表性的光密度/距离对例如逐行地实施划分/分类(Binning)。将相应的结果(L1;d1),...,(LN;dN)传递给第三框744,在所述第三框中实施快速的Koschmieder模型拟合(Koschmieder-Modell-Fit),以便确定视距dmet或者消光系数K。
如此设置摄像机,使得其沿着具有z延伸/纵深延展的表面(例如道路) 定向。也就是说,存在表面的多个可视点,其位于与摄像机的不同距离上。表面是尽可能朗伯的,具有尽可能恒定的漫反射系数并且由于稳定性原因尽可能大面积地延展。此外,尽可能均匀地照明场景(这例如在白天的情况下)。摄像机提供图像(信号),在所述图像上区段化表面的尽可能大的部分。即在图像的每一个像素中判断所述像素属于还是不属于所述表面。在一个实施例中,这不精确地发生。在一个实施例中,尤其将表面的大的部分归类为“不属于表面”。
在所区段化的区域上估计距离。在此,可以包含来自外部传感器和/或其他图像处理单元的附加信息和/或周围环境的假设。也在未知距离的位置处内插和/或通过表面的假设来补充距离。
为了在图像中并且在距离中抑制噪声以及使数据可操作用于视距估计,将所区段化的区域综合成光密度/距离对(L1;d1),...,(LN;dN)。这在以下假设下例如可以逐行地实现:表面相对于摄像机几乎不旋转并且因此具有表面的图像行的区段大约位于相对于图像检测装置的距离上。
在下一个步骤中,将根据公式(2)的Koschmieder模型在参数K;Lair; L0方面匹配所述光密度/距离对。这在最小的误差方差的意义上如此实现,使得以下泛函最小化:
由此,可以由数据来估计K或者dmet。因为这通常是计算耗费的步骤,所以使用特定的方法来在计算技术上尽可能成本有利地实施与周围环境数据的模型匹配:
为了使泛函(见公式6)最小化,借助传统的方法(梯度下降法、牛顿方法、Levenberg-Marquardt方法……)需要非常大的耗费(与数量N、对象的数量M和对象追踪的长度Nm相关)。所述最小化可能仅仅困难地集成在实时系统中并且在那里会要求许多资源。在所述实施例中描述以下系统:其替代泛函的最小化进行一维公式f(K)=0的与此等效的求解。根据用于一维公式f(K)=0的计算的耗费,这是成本有利得多的问题。为了求解 f(K)=0,例如可以使用迭代的牛顿方法K:=K-f(K)/f'(K)。对于以下所提出的一维公式f而言,为了足够精确在(所模拟的)数据记录的所有形式上以开始值K:=0的少的迭代足够。
可以如下计算满足所要求的特性的一维公式f:
其中,
并且
以及使用缩略的写法:
此外,可以平常地确定从一维公式f到消光系数K的推导(对于牛顿方法需要)。
在一个实施例中,可以将测量不可靠性包含到所述泛函中并且因此包含到参数估计中。对于在测量L1,...,LN中表达为标准方差σ1,...,σN的测量不可靠性而言,在所基于的正态分布的随机过程中得到最大似然目标泛函,对于所述目标泛函与公式(6)、(7)、(8)和(9)类似地存在用于快速最小化的f:
因为仅仅通过摄像机的精确的辐射校准或者光度校准能够实现由图像强度确定光密度,所以光密度L在此也可以表示光密度的(大约)线性的表达,即L=α·光密度+β。
在此,饱和效应和量化效应以及线性的摄像机模型中的其它的不准确性也不是问题。因为一方面,光密度的线性变换的表达对于消光系数K借助以上所描述的方法的估计不是问题。而另一方面,通过量化并且类似通过误差平方的估计引起的相对小的不准确性不导致结果的根本性歪曲。此外,可以确定饱和度并且可以在消光系数估计或者K估计时忽略饱和测量的光密度。
在一个替代的实施例中,所述方法可扩展到多个表面。在最小化F时也将参数或者对参数的限界借助预给定的或者通过附加的惩罚项嵌入泛函中(例如的形式)作为事先了解。由此,有利地使所述估计稳定。
图10根据本发明的一个实施例示出所估计的视距相关于距离的示图。因此,图10在卡迪尔坐标系中示出与最大距离相关的所估计的视距1000,可以直至所述最大距离地区段化道路。在所述真实的示例中,视距估计在 50m以内是不稳定的(然而首先总是仍在可接受的误差边界内)。在横轴上示出区段化道路的最大距离,在纵轴上示出气象学视距dmet。在距离20米时是曲线的局部最小值,其中曲线然后上升,直至距离50至60米,从而然后示出快速恒定的视距。在此,根据所测量的数据的质量,非常不同的曲线变化是可能的。
图11根据本发明的一个实施例示出用于车辆102的用于基于图像的视距估计的设备100的框图。所述设备100可以涉及在图1中示出的设备100 的一个实施例。所述设备100扩展了图像检测装置110的至少一个第二图像1150的处理。所述第二图像1150示出在第二时刻时车辆102的周围环境的成像。在此,所述第二时刻与第一时刻不同,在所述第一时刻检测了第一图像108。在所示出的实施例中,第二时刻顺序地跟随第一时刻。图 11示出用于基于图像和基于追踪的组合的视距估计的设备100。因此,将用于基于图像的视距估计的方法(如其在图2中所描述的那样)与用于基于追踪的视距估计的方法组合。
设备100的示图广泛相应于图1的用于基于图像的视距估计的设备100 的示图和描述,具有以下区别:图像检测装置顺序地检测至少两个图像,并且通过用于读取图像的接口116将其提供给所述设备100。
用于求取的装置104构造用于,在第一时刻所检测的第一图像108中和在第二时刻所检测的第二图像1050中跟踪对象。用于区段化的装置112 构造用于,除第一时刻的第一对象光密度L1的值对、第一间距d1、第二光密度L2和第二间距d2以外,求取在第二时刻时对象的至少一个第三对象光密度L3和与对象的第三间距d3。确定装置114构造用于,在使用所述第一对象光密度L1、所述第二光密度L2、所述至少一个第三对象光密度L3、所述第一间距d1、所述第二间距d2和所述第三间距d3的情况下求取大气消光系数K,其中大气消光系数K与视距dmet存在直接关联。
在一个可选择的实施例中,每个图像求取多个由对象光密度L和间距 d组成的值对并且将其提供给确定装置114。此外,在一个可选择的实施例中,在多个时刻顺序地检测并且分析处理多个图像。例如,分析处理由10 个、30个或者50个图像组成的序列。
图11示出特别快速地或者实时地由部分区段化的表面(例如道路)和距离数据来估计K(在日光时)的设备。在一个实施例中,将以上所述与用于视距估计的以下方法组合:所述方法在日光时由前方摄像机或者图像检测装置的单个帧或者图像估计消光系数K。方法可以与在此所提出的用于视距估计的方法组合基于所谓的“道路表面亮度曲线”(RSLC)的提取。在此,在摄像机图像中区段化道路和天空的区域并且将所区段化的区域的逐行的中值描绘为曲线。示出的是,所述曲线的拐点的位置可以通过模型与K相关联。
在一个实施例中,将在此所提出的方法或者设备与基于模型地估计视距的另一个方案进行组合。这基于通过多个帧的对象的跟踪。通过包含消光系数K作为参数的模型来近似对象的所测量的光密度L和距离d。通过这种方式,在观察的测量下估计作为最有可能的参数的消光系数K。用于此的模型通常是相应于公式(2)的Koschmieder的水平视线模型,将所述水平视线模型与用于快速估计的方法进行组合。
参数L0和Lair代表对象的光密度和周围环境光,而d[m]代表对象和观察者之间的距离。L是在观察者处所察觉的对象光,所述对象光相应地由所衰减的对象光和散射进来的周围环境光组成。
在一种变型方案中,将在此所提出的方法扩展到多个表面。最小化F 时也将参数或者对参数的限界借助预给定的或者通过附加的惩罚项嵌入泛函中作为事先了解。
所描述的和在附图中所示出的实施例仅仅示例性地选择。不同的实施例可以完全地或者在单个的特征方面相互组合。也可以通过另一个实施例的特征来补充实施例。
此外,在此所提出的方法步骤可以反复以及以不同于所描述的顺序的顺序实施。
如果实施例在第一特征和第二特征之间包括“和/或”关系,则这样理解:所述实施例根据一种实施方式不仅具有第一特征而且具有第二特征而根据另一种实施方式或者仅仅具有第一特征或者仅仅具有第二特征。

Claims (10)

1.一种用于基于图像的视距估计的方法,其中,所述方法具有以下步骤:
求取(220)对象在图像(108)中的成像(106),其中,所述图像(108)是图像检测装置(110)的周围环境的成像;
区段化(222)所述对象的成像,以便得到所述对象的具有相对于所述图像检测装置(110)在公差范围方面相同的第一距离(d1)的第一对象区域并且得到所述对象的具有相对于所述图像检测装置(110)在公差范围方面相同的第二距离(d2)的第二对象区域,以及确定用于所述第一对象区域的第一对象光密度(L1)和用于所述第二对象区域的第二对象光密度(L2);
在使用所述第一对象光密度(L1)、所述第二对象光密度(L2)、所述第一距离(d1)和所述第二距离(d2)的情况下确定(224)大气消光系数(K),其中,所述大气消光系数(K)与视距(dmet)存在直接关联。
2.根据权利要求1所述的方法,其中,在所述确定的步骤(224)中,在使用一维公式和/或用于通过大气气溶胶进行光传输的模型的情况下确定所述消光系数(K)。
3.根据权利要求2所述的方法,其中,在所述确定的步骤(224)中,在使用估计方法的情况下由所述一维公式确定所述消光系数(K)。
4.根据以上权利要求中任一项所述的方法,其中,在所述确定的步骤(224)中,在使用迭代的牛顿方法的情况下确定所述消光系数(K)。
5.根据权利要求1至3中任一项所述的方法,其中,在所述区段化的步骤(222)中区段化所述对象的成像,以便得到具有相对于所述图像检测装置(110)在公差范围方面相同的第三距离(d3)的至少一个第三对象区域,以及确定用于所述第三对象区域的第三对象光密度(L3),其中,在所述确定的步骤(224)中,在使用所述第三对象光密度(L3)和所述第三距离(d3)的情况下确定所述大气消光系数(K)。
6.根据权利要求1至3中任一项所述的方法,其中,所述方法具有在使用图像检测装置(110)的情况下检测所述图像(108)的步骤,其中,所述图像(108)是所述周围环境的对象在所述图像(108)中的成像,其中,所述对象具有在相对于所述图像检测装置(110)的距离和/或纵深方面的延展和/或朝车辆(102)的行驶方向的延展。
7.根据权利要求6所述的方法,其中,所述图像检测装置(110)是车辆(102)的图像检测装置。
8.根据权利要求5所述的方法,其中,对于另一个图像(1150)实施所述求取的步骤(220)和所述区段化的步骤(222),其中,在所述确定的步骤(224)中,在使用至少一个第三对象光密度(L3)和分配给所述第三对象光密度(L3)的所述第三距离(d3)的情况下确定所述大气消光系数(K)。
9.一种用于视距估计的设备(100),所述设备包括:
第一装置(104),所述第一装置构造用于求取对象在图像(108)中的成像(106),其中,所述图像(108)是图像检测装置(110)的周围环境的成像;
第二装置(112),所述第二装置构造用于区段化所述对象的成像(106),以便得到所述对象的具有相对于所述图像检测装置(110)在公差范围方面相同的第一距离(d1)的第一对象区域并且得到所述对象的具有相对于所述图像检测装置(110)在公差范围方面相同的第二距离(d2)的第二对象区域,其中,所述第二装置(112)还构造用于确定用于所述第一对象区域的第一对象光密度(L1)和用于所述第二对象区域的第二对象光密度(L2);
第三装置(114),所述第三装置构造用于在使用所述第一对象光密度(L1)、所述第二对象光密度(L2)、所述第一距离(d1)和所述第二距离(d2)的情况下确定大气消光系数(K),其中,所述大气消光系数(K)与视距(dmet)存在直接关联。
10.一种机器可读的存储介质,其具有存储在其上的计算机程序,所述计算机程序设置用于实施根据权利要求1至8中任一项所述的方法的所有步骤。
CN201510220595.6A 2014-05-02 2015-05-04 用于基于图像的视距估计的方法和设备 Active CN105049784B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102014208271.4A DE102014208271A1 (de) 2014-05-02 2014-05-02 Verfahren und Vorrichtung zur bildbasierten Sichtweitenschätzung
DE102014208271.4 2014-05-02

Publications (2)

Publication Number Publication Date
CN105049784A CN105049784A (zh) 2015-11-11
CN105049784B true CN105049784B (zh) 2019-09-17

Family

ID=54326052

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510220595.6A Active CN105049784B (zh) 2014-05-02 2015-05-04 用于基于图像的视距估计的方法和设备

Country Status (3)

Country Link
US (1) US9536173B2 (zh)
CN (1) CN105049784B (zh)
DE (1) DE102014208271A1 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6548147B2 (ja) * 2017-02-21 2019-07-24 マツダ株式会社 車両用制御装置
CN107833246A (zh) * 2017-09-30 2018-03-23 南京理工大学 一种基于噪声因子的微光夜视系统视距估算方法
US11538257B2 (en) 2017-12-08 2022-12-27 Gatekeeper Inc. Detection, counting and identification of occupants in vehicles
US10757320B2 (en) * 2017-12-28 2020-08-25 Waymo Llc Multiple operating modes to expand dynamic range
US10803570B2 (en) 2018-05-10 2020-10-13 Eagle Technology, Llc Method and system for a measure of visibility from a single daytime image
IT201800005817A1 (it) * 2018-05-29 2019-11-29 Dispositivo e metodo per misurazioni di visibilita'
US10867193B1 (en) 2019-07-10 2020-12-15 Gatekeeper Security, Inc. Imaging systems for facial detection, license plate reading, vehicle overview and vehicle make, model, and color detection
US11196965B2 (en) * 2019-10-25 2021-12-07 Gatekeeper Security, Inc. Image artifact mitigation in scanners for entry control systems
CN111231946B (zh) * 2020-03-03 2021-08-20 安徽中科美络信息技术有限公司 一种低视距车辆安全行驶控制方法
US20220392188A1 (en) * 2021-04-27 2022-12-08 ARETé ASSOCIATES Systems and methods for estimating visibility in a scene
CN113850768A (zh) * 2021-09-15 2021-12-28 上海眼控科技股份有限公司 基于图像的能见度计算方法与设备
DE102022112655A1 (de) 2022-05-19 2023-11-23 Bayerische Motoren Werke Aktiengesellschaft Fahrassistenzsystem und Fahrassistenzverfahren für ein Fahrzeug

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1474652A1 (fr) * 2002-02-14 2004-11-10 Laboratoire Central Des Ponts Et Chaussees Procede de determination de la distance de visibilite et procede de determination de la presence d'un brouillard
CN1653660A (zh) * 2002-03-08 2005-08-10 夏普株式会社 光源装置及使用该光源装置的光通信模块
DE102010030044A1 (de) * 2009-06-15 2011-03-24 Denso Corporation, Kariya-City Wiederherstellvorrichtung für durch Wettereinflüsse verschlechterte Bilder und Fahrerunterstützungssystem hiermit
CN103287322A (zh) * 2013-05-30 2013-09-11 浙江吉利汽车研究院有限公司杭州分公司 一种行车安全装置
CN103630496A (zh) * 2013-12-12 2014-03-12 南京大学 基于路面视亮度和最小二乘法的交通视频能见度检测方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10034461A1 (de) * 2000-07-15 2002-01-31 Bosch Gmbh Robert Verfahren zur Sichtweitenbestimmung
CN102175613B (zh) * 2011-01-26 2012-11-14 南京大学 基于图像亮度特征的ptz视频能见度检测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1474652A1 (fr) * 2002-02-14 2004-11-10 Laboratoire Central Des Ponts Et Chaussees Procede de determination de la distance de visibilite et procede de determination de la presence d'un brouillard
CN1653660A (zh) * 2002-03-08 2005-08-10 夏普株式会社 光源装置及使用该光源装置的光通信模块
DE102010030044A1 (de) * 2009-06-15 2011-03-24 Denso Corporation, Kariya-City Wiederherstellvorrichtung für durch Wettereinflüsse verschlechterte Bilder und Fahrerunterstützungssystem hiermit
CN103287322A (zh) * 2013-05-30 2013-09-11 浙江吉利汽车研究院有限公司杭州分公司 一种行车安全装置
CN103630496A (zh) * 2013-12-12 2014-03-12 南京大学 基于路面视亮度和最小二乘法的交通视频能见度检测方法

Also Published As

Publication number Publication date
US20150317535A1 (en) 2015-11-05
US9536173B2 (en) 2017-01-03
DE102014208271A1 (de) 2015-11-05
CN105049784A (zh) 2015-11-11

Similar Documents

Publication Publication Date Title
CN105049784B (zh) 用于基于图像的视距估计的方法和设备
CN111448591B (zh) 不良光照条件下用于定位车辆的系统和方法
Li et al. Haze visibility enhancement: A survey and quantitative benchmarking
Kondermann et al. The hci benchmark suite: Stereo and flow ground truth with uncertainties for urban autonomous driving
US10582121B2 (en) System and method for fusing outputs of sensors having different resolutions
US20180293740A1 (en) Data fusion processing to identify obscured objects
TWI489857B (zh) 產生穩健立體影像的技術
US8417021B2 (en) Image processing methods and apparatus
US20130121559A1 (en) Mobile device with three dimensional augmented reality
US20120155744A1 (en) Image generation method
US20110123068A1 (en) Method of and arrangement for blurring an image
CN106993112A (zh) 基于景深的背景虚化方法及装置和电子装置
CN105608417B (zh) 交通信号灯检测方法及装置
Hautière et al. Enhanced fog detection and free-space segmentation for car navigation
US11625892B1 (en) Visualization techniques for data labeling
KR102232724B1 (ko) 복수의 모델들에 근거하는 객체들의 디스플레이
CN105190288A (zh) 用于在白天有雾时确定视距的方法和设备
CN114248778B (zh) 移动设备的定位方法和定位装置
US9727792B2 (en) Method and device for tracking-based visibility range estimation
Xie et al. A flexible free-space detection system based on stereo vision
US11488332B1 (en) Intensity data visualization
CN109859489A (zh) 一种车距估计方法、装置、车载设备及存储介质
Roser et al. Camera-based bidirectional reflectance measurement for road surface reflectivity classification
CN107025636A (zh) 结合深度信息的图像去雾方法及装置和电子装置
Miljković et al. Vehicle Distance Estimation Based on Stereo Camera System with Implementation on a Real ADAS Board

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant