CN204801615U - 场景成像系统、控制车辆设备的系统及外部灯光控制系统 - Google Patents

场景成像系统、控制车辆设备的系统及外部灯光控制系统 Download PDF

Info

Publication number
CN204801615U
CN204801615U CN201390000703.3U CN201390000703U CN204801615U CN 204801615 U CN204801615 U CN 204801615U CN 201390000703 U CN201390000703 U CN 201390000703U CN 204801615 U CN204801615 U CN 204801615U
Authority
CN
China
Prior art keywords
grrb
color
scene
light
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
CN201390000703.3U
Other languages
English (en)
Inventor
D·J·怀特
D·M·法尔布
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gentex Corp
Original Assignee
Gentex Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gentex Corp filed Critical Gentex Corp
Application granted granted Critical
Publication of CN204801615U publication Critical patent/CN204801615U/zh
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/14Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
    • B60Q1/1415Dimming circuits
    • B60Q1/1423Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses

Abstract

本实用新型提供场景成像系统、控制车辆设备的系统及外部灯光控制系统。自定义图像传感器可使用GRRB阵列过滤由车辆摄像头捕捉的即将到来的和先前的车辆尾灯的图像。通过在多个颜色通道上执行内插,对内插的颜色通道中的每个的亮度值求和,标准化亮度值中的每个,并且将标准化的亮度值从RGB比例转化到非红色对红色的线性比例,该方法和系统也可计算GRRB颜色度量,用于在自定义图像传感器中使用。

Description

场景成像系统、控制车辆设备的系统及外部灯光控制系统
相关申请的交叉参照
本申请根据35U.S.C.§119(e),要求题目为“通过利用自定义图像传感器对外部场景成像的方法和系统(METHODANDSYSTEMFORIMAGINGANEXTERNALSCENEBYEMPLOYINGACUSTOMIMAGESENSOR)”,于2012年8月16日提交的美国临时专利申请No.61/742,680的优先权和利益,其全部公开通过引用在此并入本申请中。
技术领域
本公开一般涉及集成到车辆的成像传感器,并且具体涉及,用于对受控车辆的外部场景成像的方法和系统。
背景技术
成像系统已经变成在车辆中的普遍特征,并且被用在各种车辆的应用中。一个重要的应用包括检测其它车辆的存在。要做到这一点,一些成像系统检测其它车辆的灯,并且另外可以将该灯光分类为头灯或尾灯。然而,当前的成像系统所遇到的一个阻碍包括在某些条件下(诸如当其它车辆处于较远距离处时)对另一个车辆的尾灯可靠地成像困难。这样,需要提供更精确的尾灯成像的成像系统。
实用新型内容
根据本实用新型的实施例,提供了对外部场景成像的方法和系统。该方法包括,使用集成到图像传感器的GRRB滤光阵列过滤从场景中接收的灯光,生成对应于被过滤的灯光的图像数据,在控制器中接收并且分析图像数据,以及计算GRRB颜色度量,以确定被过滤的灯光是否对应于另一个车辆的头灯和尾灯中的一个。
根据该实用新型的另一个实施例,提供了用于对受控车辆的外部场景成像的另一个方法。该方法包括,使用集成到图像传感器的GRRB滤光阵列过滤从场景中接收的灯光,生成对应于被过滤的灯光的图像数据,并且在控制器中接收并且分析图像数据,以检测其它车辆的灯。
依照该实用新型的另一个实施例,提供了用于控制受控车辆的外部灯的系统。该系统包括,包括GRRB滤光阵列的图像传感器和控制器,该图像传感器用于从受控车辆外部及前方的场景中接收灯光,并且用于生成表示该场景的图像数据,该控制器用于接收并分析图像数据,以检测其它车辆的灯。
根据本实用新型的第一方面,提供了一种场景成像系统,所述场景成像系统是用于对受控车辆的外部场景成像的系统,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述场景中接收灯光并且用于生成表示所述场景的图像数据;以及
用于接收并分析所述图像数据以检测其它车辆的灯的控制器。
优选地,所述控制器将红色值分配到由所述GRRB滤光器阵列接收的所述灯光,并且将所述红色值与阈值比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个。
优选地,所述控制器计算GRRB颜色度量,以确定所述检测到的灯是否为头等和尾灯中的一个。
优选地,通过在围绕峰值像素的区域中内插多个颜色通道以获得红色亮度值、绿色亮度值和蓝色亮度值,所述控制器计算GRRB颜色度量。
优选地,通过对所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步求和以获得所述灯光的整体亮度内容,所述控制器计算GRRB颜色度量。
优选地,通过将所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步标准化到所述灯光的所述整体亮度内容,所述控制器计算所述GRRB颜色度量。
优选地,通过进一步提供颜色平面以贯穿颜色立方体,所述控制器计算所述GRRB颜色度量,其中所述颜色平面具有非红色对红色的线性比例。
优选地,通过将由所述标准化的红色亮度值、绿色亮度值和蓝色亮度值限定的颜色区域进一步映射到所述颜色平面上,所述控制器计算所述GRRB颜色度量。
优选地,通过进一步执行数学计算以确定所述颜色区域的红色值,所述控制器计算所述GRRB颜色度量。
优选地,通过将所述灯光的所述红色值与阈值进一步比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个,所述控制器计算所述GRRB颜色度量。
优选地,内插为双线性内插,并且在围绕至少一个峰值像素的5x5过滤区域中执行。
根据本实用新型的第二方面,提供了一种场景成像系统,所述场景成像系统是用于对受控车辆的外部场景成像的系统,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述场景中接收灯光并且用于生成表示所述场景的图像数据;以及
用于接收并分析所述图像数据以检测其它车辆的灯的控制器,其中所述控制器计算GRRB颜色度量,以确定所述检测到的灯是否为头灯和尾灯中的一个。
优选地,所述控制器将红色值分配给由GRRB滤光器阵列接收的所述灯光,并且将所述红色值与阈值比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个。
优选地,通过在围绕峰值像素的区域中内插多个颜色通道以获得红色亮度值、绿色亮度值和蓝色亮度值,所述控制器计算所述GRRB颜色度量。
优选地,通过对所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步求和以获得所述灯光的整体亮度内容,所述控制器计算GRRB颜色度量。
优选地,通过将所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步标准化到所述灯光的所述整体亮度内容,所述控制器计算所述GRRB颜色度量。
优选地,通过进一步提供颜色平面以贯穿颜色立方体,所述控制器计算所述GRRB颜色度量,其中所述颜色平面具有非红色对红色的线性比例。
优选地,通过将由所述标准化的红色亮度值、绿色亮度值和蓝色亮度值限定的颜色区域进一步映射到所述颜色平面上,所述控制器计算所述GRRB颜色度量。
优选地,通过进一步执行数学计算以确定所述颜色区域的红色值,所述控制器计算所述GRRB颜色度量。
优选地,通过将所述灯光的所述红色值与阈值进一步比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个,所述控制器计算所述GRRB颜色度量。
优选地,内插为双线性内插,并且在围绕至少一个峰值像素的5x5过滤区域中执行。
根据本实用新型的第三方面,提供了一种场景成像系统,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述场景接收灯光并且用于生成表示所述场景的图像数据;以及
用于接收并分析所述图像数据的控制器。
优选地,所述控制器接收并分析所述数据图像,以检测在所述场景中的物体。
优选地,所述控制器计算GRRB颜色度量,以检测在所述场景中的物体。
根据本实用新型的第四方面,提供了一种用于控制车辆设备的系统,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述车辆的外部场景中接收灯光并且用于生成表示所述场景的图像数据;
经配置接收并分析所述图像数据并且用于生成控制信号的控制器,所述控制信号用于响应所述图像数据的分析控制所述车辆设备。
优选地,所述控制器接收并分析所述图像数据,以检测在所述场景中的物体。
优选地,所述控制器计算GRRB颜色度量,以检测在所述场景中的物体。
根据本实用新型的第五方面,提供了一种外部灯光控制系统,所述外部灯光控制系统是用于控制受控车辆外部灯的外部灯光控制系统,所述外部灯光控制系统包括:
包含GRRB滤光器阵列的成像系统,该成像系统经配置对所述受控车辆的外部及前方场景成像,并且生成对应于所述已获得图像的图像数据;以及
经配置接收并分析所述图像数据并且用于生成外部灯光控制信号的控制器,所述外部灯光控制信号用于响应所述图像数据的分析控制所述外部灯。
优选地,所述控制器接收并分析所述数据图像,以检测在所述场景中的物体。
优选地,所述控制器计算GRRB颜色度量,以检测在所述场景中的物体。
通过参考下列说明书、权利要求及附图,本领域的技术人员将进一步理解并清楚本实用新型的这些和其它特征、优点及目的。
附图说明
在附图中:
图1为根据一个实施例构造的系统的方框图;
图2为合并依照另一个实施例的系统的后视镜组件的部分剖视图;
图3为依照本实用新型一个实施例,在GRRB滤光阵列中检测到的尾灯的图示,该GRRB滤光阵列用来对受控车辆外部及前方的场景成像;
图4为依照本实用新型一个实施例,沿着3-D颜色平面的边缘发生的大部分非红色线段的图示;
图5A为当使用RGGB摄像头时,在头灯与尾灯之间的交叉的图解说明,其中RGGB摄像头具有RGGB滤光阵列并利用RGGB颜色度量;
图5B为依照本实用新型的一个实施例,当使用GRRB摄像头时,在头灯与尾灯之间的交叉(crossover)的图解说明,其中GRRB摄像头具有GRRB滤光阵列并利用GRRB颜色度量;
图6A为当使用RGGB摄像头时,灯光丢失(lightdropout)的图示
图6B为当使用GRRB摄像头时,灯光丢失的图示;以及
图6C为RGGB摄像头和GRRB摄像头的数个丢帧数目的移动平均的图示。
具体实施方式
现在将详细参考该实用新型的当前优选实施例,其实例在附图中示出。在可能的情况下,相同的标识号将贯穿附图使用,以指代相同或相似的部分。在附图中,为强调和理解的目的,所描绘的结构元件未必是按比例的,并且某些组件相对于其它组件被放大。
在此描述的实施例涉及用于对受控车辆外部及前方的场景成像的方法和系统。其实例为,响应从图像传感器取得的图像数据,用于控制受控车辆的外部灯的外部灯光控制系统,其中图像传感器捕捉车辆前方的图像。现有的系统因响应车辆前方的捕捉图像来控制外部车辆灯而众所周知。在这些现有系统中,控制器将分析所捕捉的图像,并且确定任何先前的或即将到来的车辆是否存在于在利用该系统的车辆前面的眩光区域中。“眩光区域”为,如果外部灯处于远光灯状态(或除近光灯之外的一些状态),则外部灯就将在其中引起极度的眩光到驾驶员。如果车辆存在于眩光区域,则控制器将通过改变外部灯的状态来响应,以便对其它驾驶员不引起眩光。此类系统的实例在美国专利Nos.5,837,994、5,990,469、6,008,486、6,049,171、6,130,421、6,130,448、6,166,698、6,379,013、6,403,942、6,587,573、6,611,610、6,631,316、6,774,988、6,861,809、7,321,112、7,417,221、7,565,006、7,567,291、7,653,215、7,683,326、7,881,839、8,045,760和8,120,652,以及JeremyA.Schut等人的于2012年3月28日提交的题目为“用于确定道路宽度的车辆成像系统和方法(VEHICULARIMAGINGSYSTEMANDMETHODFORDETERMININGROADWAYWIDTH)”的美国专利申请No.13/432,250中均有描述,其全部公开通过引用并入本申请。
此类现有系统通常区分头灯与尾灯,以便区分即将到来的和先前的车辆。当检测在远处的尾灯时,尾灯通常不是很亮并且在图像传感器上表现为非常小的光点-经常被成像在仅一个或几个邻近的像素上。如果图像传感器利用被称为拜耳阵列的阵列作为其滤色器,则四个像素的每个块就是RGGB,或者换句话说,四个像素中的其中一个为红色、一个为蓝色且两个为绿色。因此,如果在系统中使用此类常规的拜耳阵列用于检测尾灯,则远处的尾灯的成像点仅可穿过RGGB像素中的其中一个,从而仅提供完全照亮红色像素的25%的机会。如果远处的尾灯的成像点未打到红色像素上,则其颜色就不能像尾灯的颜色一样被容易地识别。尽管当先前车辆相对于受控车辆移动时,在随后捕捉的图像帧中成像点将移动穿过图像传感器的其它像素,但关于使用拜耳滤光阵列的此类图像传感器的改进仍然是可能的,以便提高此类远处的尾灯可在每个图像帧中被检测到的可能性。
图1示出外部灯光控制系统10的第一实施例。外部灯光控制系统10经提供用于控制外部灯80,并且可选地控制受控车辆的其它设备(50,62)。系统10包括新颖的成像系统20和控制器30。成像系统20包括图像传感器(201,图2),其经配置对受控车辆外部及前方的场景成像,并且生成对应于所获取的图像的图像数据。控制器30接收并分析图像数据,且生成用于控制外部灯80的外部灯光控制信号,并且可生成控制任何附加设备(50,62)的控制信号。这些控制信号响应于图像数据的分析而生成。
控制器30可经配置直接连接到受控设备(50),使得生成的控制信号直接控制该设备。可选地,控制器30可经配置连接到设备控制(60和70),反过来,设备控制(60和70)连接到受控的设备(62和80),使得由控制器30生成的控制信号仅间接控制该设备。例如,在设备为外部灯80的情况下,控制器30可分析来自成像系统20的图像数据,以便生成控制信号,当控制外部灯80时,该控制信号更多的为使用外部灯光控制70的建议。控制信号不仅可进一步包括建议,而且包括表示该建议原因的代码,使得设备控制60和70可以确定是否无视(override)建议。
如图1所示,可将被考虑到形成建议或直接控制信号的各种输入(诸如输入21-24)提供给控制器30。在某些情况下,此类输入可改为提供给设备控制(60和70)。例如,来自手动开关的输入可提供给设备控制(60和70),该输入可允许设备控制(60和70)无视来自控制器30的建议。应该清楚,在控制器30与设备控制(60和70)之间可存在各种水平的交互作用和协作。将控制功能分开的一个原因为允许成像系统20位于在车辆中用于获得图像的最佳位置,该位置可以为距要受控的装备的一个距离,并且允许经由车辆总线25进行通信。
根据一个实施例,系统10控制的设备可包括一个或多个外部灯80,并且由控制器30生成的信号可以为外部灯光控制信号。在该实施例中,外部灯80可直接由控制器30或从控制器30接收控制信号的外部灯光控制70控制。如在此所使用,“外部灯”广泛地包括在车辆上的任何外部照明设备。此类外部灯可包括头灯(如果彼此分开,就是近光灯和远光灯两者)、尾灯、诸如雾灯的恶劣天气灯、刹车灯、中央安装停车灯(CHMSL)、转弯指示灯、倒车灯等。外部灯光可使用各种照明设备解决方案,诸如发光二极管(LED)、卤素、氙气、双氙气、LED矩阵束照明设备,以及激光矩阵束照明设备,并且可在包括常规近光灯状态和远光灯状态的若干不同的模式中操作。它们也可作为日间行车灯操作,并且另外在它们被准许的国家中作为超亮远光灯。
外部灯光的亮度也可在低、高和超高状态之间连续变化。分开的灯可被提供用于获得这些外部照明设备状态中的每一个,或者外部灯的实际亮度可变化以提供这些不同的外部照明设备的状态。不论哪种情况,“感知到的亮度”或外部灯的照明矩阵均是变化的。如在此所使用,术语“感知到的亮度”意味着正如由在车辆外部的观察者所感知到的外部灯的亮度。最典型的是,此类观察者将是在先前车辆中或在以相反的方向沿着相同街道行进的车辆中的驾驶员或乘客。理想地,外部灯经控制使得如果观察者相对于该车辆位于在“眩光区域”内的车辆中(即,由于引起极度眩光,所以观察者将在其中感知外部灯亮度的区域),则光束照明阵列就变化,使得观察者不再处于眩光区域。通过改变一个或多个外部灯的照明输出,通过使一个或多个灯转向以改变外部灯中的一个或多个的目标,选择性地阻挡或相反启动或停用外部灯中的一些或全部,更改车辆前方的照明阵列,或以上的组合,外部灯的感知到的亮度和/或眩光区域可变化。
成像系统20包括在以下进一步被描述的图像传感器(或摄像头),以捕捉然后可经显示和/或分析的图像,以便控制除外部灯以外的车辆设备。例如,此类成像系统已经用于车道偏离报警系统、前方碰撞报警系统、自适应巡航控制系统、行人检测系统、夜视系统、地形探测系统、停车辅助系统、交通标志识别系统,和倒车摄像头显示系统。为此类目的使用成像系统的系统实例在美国专利5,837,994、5,990,469、6,008,486、6,049,171、6,130,421、6,130,448、6,166,698、6,379,013、6,403,942、6,587,573、6,611,610、6,631,316、6,774,988、6,861,809、7,321,112、7,417,221、7,565,006、7,567,291、7,653,215、7,683,326、7,881,839、8,045,760,和8,120,652,以及在BrockR.Rycenga等人的于2011年7月27日提交的题目为“凸起车道标记检测系统及其方法”的美国临时申请No.61/512,213,和在BrockR.Rycenga等人的于2011年7月27日提交的题目为“碰撞警报系统及其方法”的美国临时申请No.61/512,158中均有公开,其全部公开通过引用并入本申请。
在图1所示的实例中,成像系统20可由控制器30控制。成像系统参数以及图像数据的通信经由通信总线40发生,通信总线40可以为双向串行总线、平行总线、两者的组合,或其它合适的装置。通过分析来自成像系统20的图像,基于在那些图像内检测到的信息确定设备(或外部灯)状态,并且将所确定的设备(或外部灯)状态通过总线42传至设备50,设备控制60或外部灯光控制70,控制器30用来执行设备控制功能,其中总线42可以为车辆总线25、CAN总线、LIN总线或任何其它合适的通信线路。控制器30可控制成像系统使用不同的曝光时间和不同的读出窗口以若干不同的模式启动。控制器30可用于执行设备或外部灯光控制功能,并且控制成像系统20的参数。
在作出关于外部灯80操作的决定中,控制器30也可利用经由谨慎的连接或通过车辆总线25所传递的信号(诸如车辆速度和偏航)的可用性。具体地,速度输入21将车辆速度信息提供给控制器30,该速度可以为确定外部灯80或其它设备的控制状态的因素。倒车信号22通知控制器30车辆处于倒车,无论从灯光传感器中输出的信号如何,控制器30均可响应于该倒车信号22清除电致变色的镜元件。自动打开/关闭开关输入23连接到具有两个状态的开关,以向控制器30指示车辆外部灯80是否应自动控制还是手动控制。连接到打开/关闭开关输入23的自动打开/关闭开关(未示出)可以与头灯开关合并,头灯开关传统上安装在车辆仪表板上或并入转向盘柱杆中。手动调光开关输入24连接到手动启动开关(未示出),以提供手动优先信号用于外部灯控制状态。输入21、22、23、24和输出42a、42b与42c中的一些或全部,以及任何其它可能的输入或输出,诸如转向盘输入、挡风玻璃刮水器输入、刮水器状态输入、转向信号输入、倒车状态输入,和/或头灯状态输入,均可通过在图1中所示的车辆总线25可选地提供。可选地,这些输入21-24可提供给设备控制60或外部灯光控制70。
控制器30至少可以部分控制在车辆内的其它设备50,该设备50经由车辆总线42连接到控制器30。特别地,以下为可由控制器30控制的一个或多个设备50的一些实例:外部灯80、雨水传感器、指南针、信息显示器、挡风玻璃刮水器、加热器、除霜器、除雾器、空调系统、电话系统、导航系统、安全系统、轮胎压力监测系统、车库门打开发射器、遥控无钥匙进入系统、远程信息处理系统、诸如基于数字信号处理器的语音启动系统的语音识别系统、车辆速度控制、内部灯、后视镜、音频系统、发动机控制系统,以及可定位在整个车辆的各种其它开关和其它显示器件。
另外,控制器30可以至少部分位于车辆的后视镜组件内,或位于在车辆内的别处。控制器30也可使用一个第二控制器(或多个控制器),诸如设备控制器60,其可位于后视镜组件中或在车辆中的别处,以便控制某类设备62。设备控制60可经连接以经由车辆总线42接收由控制器30生成的控制信号。随后,设备控制60经由总线61通信并且控制设备62。例如,设备控制60可以为控制挡风玻璃刮水器设备的挡风玻璃刮水器控制单元,将该设备打开或关闭。设备控制60也可以为电致变色的镜控制单元,其中控制器30经编程与电致变色的控制单元通信,以便电致变色的控制单元响应于从环境光传感器、眩光传感器以及联接到处理器的任何其它设备中获得的信息改变电致变色镜的反射率。特别地,与控制器30通信的设备控制单元60可控制以下设备:外部灯、雨水传感器、指南针、信息显示器、挡风玻璃刮水器、加热器、除霜器、除雾器、空调、电话系统、导航系统、安全系统、轮胎压力监测系统、车库门打开发射器、遥控无钥匙进入系统、远程信息处理系统、诸如基于数字信号处理器的语音启动系统的语音识别系统、车辆速度控制、内部灯、后视镜、音频系统、气候控制、发动机控制,以及可定位在整个车辆的各种其它开关和其它显示器件。
系统10的一些部分可有利地集成到图2所示的后视镜组件200中,其中成像系统20集成到到后视镜组件200的底座203。通过通常由车辆的挡风玻璃刮水器(未示出)清洗的车辆挡风玻璃202的区域,该位置提供无障碍的前方视图。另外,在后视镜组件中安装成像系统20的图像传感器201准许电路系统诸如电源、微控制器和灯光传感器共享。
参考图2,图像传感器201安装在后视镜底座203内,后视镜底座203安装到车辆挡风玻璃202。后视镜底座203为成像传感器提供了不透明的外罩,其中通过其从前方外部场景中接收灯光的孔除外。
图1的控制器30可提供在主电路板上,并且安装在图2所示的后视镜外壳204中。如以上所讨论,控制器30可通过总线40或其它装置连接到成像系统20。主电路板215可通过常规装置安装在后视镜外壳204内。电力和通信线路42加上包括外部灯80(图1)的车辆电气系统,经由车辆线束217(图2)提供。
后视镜组件200可包括显示后方视图的镜元件或显示器。镜元件可以为棱镜元件或光电元件,诸如电致变色的元件。
系统10可集成到到后视镜的反射镜组件200的方式的附加细节在美国专利No.6,611,610中被描述,其全部公开通过引用并入本申请。用于实施外部灯光控制系统的可选的后视镜组件构造在美国专利No.6,587,573中被公开,其全部公开通过引用并入本申请。
图3示出在GRRB滤光器120上的检测到的尾灯的图示,该GRRB滤光器120用来对受控车辆的外部及前方场景成像。如图3所示,为对尾灯成像,由于由绿色像素或蓝色像素检测到的任何灯光均被滤除,所以尾灯110的大部分优选地打(strike)在多个红色像素上。通常,当车辆接近时,车辆以四个方向在由图像传感器捕捉的场景内移动:上、下、左和右,使得它的灯的光峰可在滤光阵列上任意打在不同色素上,从而允许更精确的物体的属性。另外,如果用于车道检测,则GRRB滤光器就可提供在车道标记线与周围物体之间的增加的对比度。相对于RGGB拜耳滤光器,具有GRRB滤光器的成像传感器对场景中存在的红色灯光更敏感,因为尾灯上下左右移动,这就允许尾灯的成像精确度增加,尾灯的峰值将在更多红色像素上成像,其中较少部分的灯光被绿色和蓝色像素滤除。另外,如果尾灯以对角线的方式移动,则它仍然将打到大约四个红色像素上,从而对尾灯可靠地成像。
GRRB颜色度量可经计算允许GRRB滤光器至少与RGGB拜耳滤光器同样好地解决“红色”和“非红色”。GRRB滤光器和GRRB颜色度量可在对受控车辆前方的场景成像的成像系统,以及在对受控车辆后方的场景成像的成像系统中利用,诸如倒车摄像头。如前所述,在任何一个实施例中,GRRB滤光器的使用均使图像传感器对红色灯光更敏感,当来自其它来源的红色灯光遍及场景时,这就使成像系统能够更可靠地成像。例如,当受控车辆倒车时,后方场景就被受控车辆自身的尾灯照亮。通过使用带GRRB滤光器的倒车摄像头并且采用在此描述的GRRB颜色度量,在后方场景中的物体可以被更可靠地成像并显示在相关的显示屏上,因此在执行倒车操纵时,提供给驾驶员更好的成像区域的视图。
GRRB颜色度量基于在其中标准显示器解译并显示颜色信息的方式,从而以与视频显示器相同的方式捕捉关于全部灯光的许多信息。这可通过以下步骤实现:
1)围绕在每个像素(称为“峰值像素”,灯光最大值/峰值落在其上)周围的5x5过滤区域执行双线性内插。
2)对内插5x5区域的颜色通道中的每个求和,以获得灯光的红色亮度值、绿色亮度值和蓝色亮度值。
3)将颜色通道亮度值标准化到灯光的总亮度:红色亮度除以红色亮度、绿色亮度和蓝色亮度的和;绿色亮度除以红色亮度、绿色亮度和蓝色亮度的和;蓝色亮度除以红色亮度、绿色亮度和蓝色亮度的和。
在标准化三个颜色通道中的每一个的能量之后,可执行红色、绿色和蓝色三维比例到非红色对红色的线性比例的转换。一个三维RGB颜色立方体可用于将红色、绿色和蓝色3-D比例转换到非红色对红色的线性比例。例如,显示在LCD屏上的颜色取决于红色、绿色和蓝色像素的位置,并且其中它落在立方体中。除了至少一个之外,类似的概念可应用于本实施例的计算出的颜色度量。在本实用新型中,尽管可已知8位显示器的单个颜色通道的最大值(即,最大值为255),但特定灯光的颜色通道的绝对最大值可以是未知的。可利用相对于红色灯光的预期的灯光颜色的计算,而不是估计灯光的准确颜色。
颜色可通过颜色平面估计,该平面穿过RGB颜色立方体,作为计算相对于红色灯光的预期的灯光颜色的过程的一部分。通过将单个颜色通道标准化到灯光的总亮度值,红色亮度值、绿色亮度值和蓝色亮度值可映射到颜色平面上,以限定颜色区域。一旦这个已经完成,就可限定红色标准化值、绿色标准化值和蓝色标准化值和“红色”灯光的期望值(R=1,B=0,G=0)之间的关系。接下来,可以为指定数目的点计算在“红色”的期望值和标准化的灯光的红色值、绿色值和蓝色值之间的差,该些点处于并包括颜色区域的边界边缘。上述过程通过以下数学方程限定:
(1)COLOR=R+(1-G)+(1-B)
以上限定的数学方程可应用到处于并且包括颜色区域的边界边缘的任何点。从方程(1),可以看到红色值(R)照现在的样子被留下,而绿色值(G)和蓝色值(B)被从一减去,使得对于绿色值和蓝色值中的每一个均可实现关于红色比例的更高的值。然后,这三个值可经求和以产生其中0=“最多非红色”,且3=“最多红色”的比例。因此,在R=1,G=0且B=0的情况下发生“最多红色灯光”,其得出为3的颜色值,并且在R=0,G=1且B=1的情况下发生“最多非红色灯光”,其得出为0的颜色值。然而,由于RGB颜色立方体和颜色平面的交叉形成等边三角形,其中颜色平面的每个角均落在“最多红色”(R=1,G=0,B=0)、“最多绿色”(R=0,G=1,B=0)、“最多蓝色”(R=0,G=0,B=1)的坐标上,所以在“最多红色”角的对面,“最多非红色”的灯光可以落在三角形的边缘上是可能的。因此,沿着这条线段的任何点的颜色值均等于1,所以事实上,红色的范围是从1到3,其中1为“最多非红色”灯光,且3为“最多红色”灯光。图4示出关于本实施例的颜色立方体104,“最多非红色”的线段106发生的实例。无论如何,一旦已经为一个颜色区域的指定数目的点计算颜色值,这些颜色值就可以经求和获得总颜色值,然后,可将该总颜色值与颜色阈值比较,以确定该颜色区域是否为尾灯或头灯的颜色区域。当使用在此描述的GRRB灯光度量时,尾灯的总颜色值通常就大于头灯的总颜色值。照此,可以选择颜色阈值,使得如果总颜色大于颜色阈值,该颜色区域被视为尾灯。相反,如果总颜色小于或等于颜色阈值,则该颜色区域就可被视为头灯。
本实用新型的GRRB颜色滤光器的实施提供对自动车辆设备控制系统的各种改善。图5A和图5B示出当使用GRRB颜色度量时,在头灯与尾灯之间交叉减少的改善。交叉可通过在给定的时间帧内检测到的在头灯与尾灯之间重叠的量来测量。关于图5A和图5B,执行并行测试,其中配备有RGGB图像传感器的摄像头和配备有GRRB图像传感器的摄像头彼此靠近安装,以同时对相同的场景成像。具有RGGB图像传感器的摄像头利用常规的RGGB灯光度量,而具有GRRB图像传感器的摄像头利用先前在此描述的GRRB灯光度量。收集了每个摄像头的交叉数据并分别显示在图5A和图5B中。关于在图5A和图5B中所示的数据,RGGB摄像头的交叉经计算大约为2.101%,而GRRB摄像头的交叉经计算大约为1.370%。因此,考虑来自上述测试的结果,GRRB摄像头遇到的较低的交叉表明那些在此描述的GRRB滤光器阵列和GRRB灯光度量的使用在尾灯和头灯的检测方面可提供更大的精确性。
从上述并行测试中,也可观察到灯光丢失的改善。灯光丢失为,由于颜色中的亮度低或红色不足,或者如果光源处于图像的边缘上,所以未能检测到一个特定光源,由此未检测到的帧的百分比。图6A示出使用RGGB摄像头成像的尾灯的灯光丢失,而图6B示出使用GRRB摄像头成像的相同尾灯的灯光丢失。如图6C所示,使用GRRB滤光阵列的丢帧数目的移动平均通常至少比使用RGGB滤光阵列少两倍。基于来自先前描述的并行测试的结果,GRRB滤光器可使用与RGGB等效的丢失(dropout),但是以RGGB两倍的距离对尾灯成像。
以上说明仅被认为是优选的实施例。本领域的技术人员和作出或使用该实用新型的那些人将想到该实用新型的修改。因此,应该清楚,图中所示的且以上描述的实施例仅为说明的目的,且并非旨在限制该实用新型的范围,该实用新型的范围由根据包括等同原则的专利法原则解释的随附权利要求限定。

Claims (30)

1.一种场景成像系统,其特征在于,所述场景成像系统是用于对受控车辆的外部场景成像的系统,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述场景中接收灯光并且用于生成表示所述场景的图像数据;以及
用于接收并分析所述图像数据以检测其它车辆的灯的控制器。
2.根据权利要求1所述的系统,其特征在于,所述控制器将红色值分配到由所述GRRB滤光器阵列接收的所述灯光,并且将所述红色值与阈值比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个。
3.根据权利要求1所述的系统,其特征在于,所述控制器计算GRRB颜色度量,以确定所述检测到的灯是否为头等和尾灯中的一个。
4.根据权利要求3所述的系统,其特征在于,通过在围绕峰值像素的区域中内插多个颜色通道以获得红色亮度值、绿色亮度值和蓝色亮度值,所述控制器计算GRRB颜色度量。
5.根据权利要求4所述的系统,其特征在于,通过对所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步求和以获得所述灯光的整体亮度内容,所述控制器计算GRRB颜色度量。
6.根据权利要求5所述的系统,其特征在于,通过将所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步标准化到所述灯光的所述整体亮度内容,所述控制器计算所述GRRB颜色度量。
7.根据权利要求6所述的系统,其特征在于,通过进一步提供颜色平面以贯穿颜色立方体,所述控制器计算所述GRRB颜色度量,其中所述颜色平面具有非红色对红色的线性比例。
8.根据权利要求7所述的系统,其特征在于,通过将由所述标准化的红色亮度值、绿色亮度值和蓝色亮度值限定的颜色区域进一步映射到所述颜色平面上,所述控制器计算所述GRRB颜色度量。
9.根据权利要求8所述的系统,其特征在于,通过进一步执行数学计算以确定所述颜色区域的红色值,所述控制器计算所述GRRB颜色度量。
10.根据权利要求9所述的系统,其特征在于,通过将所述灯光的所述红色值与阈值进一步比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个,所述控制器计算所述GRRB颜色度量。
11.根据权利要求4所述的系统,其特征在于,内插为双线性内插,并且在围绕至少一个峰值像素的5x5过滤区域中执行。
12.一种场景成像系统,其特征在于,所述场景成像系统是用于对受控车辆的外部场景成像的系统,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述场景中接收灯光并且用于生成表示所述场景的图像数据;以及
用于接收并分析所述图像数据以检测其它车辆的灯的控制器,其中所述控制器计算GRRB颜色度量,以确定所述检测到的灯是否为头灯和尾灯中的一个。
13.根据权利要求12所述的系统,其特征在于,所述控制器将红色值分配给由GRRB滤光器阵列接收的所述灯光,并且将所述红色值与阈值比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个。
14.根据权利要求12所述的系统,其特征在于,通过在围绕峰值像素的区域中内插多个颜色通道以获得红色亮度值、绿色亮度值和蓝色亮度值,所述控制器计算所述GRRB颜色度量。
15.根据权利要求14所述的系统,其特征在于,通过对所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步求和以获得所述灯光的整体亮度内容,所述控制器计算GRRB颜色度量。
16.根据权利要求15所述的系统,其特征在于,通过将所述红色亮度值、所述绿色亮度值和所述蓝色亮度值进一步标准化到所述灯光的所述整体亮度内容,所述控制器计算所述GRRB颜色度量。
17.根据权利要求16所述的系统,其特征在于,通过进一步提供颜色平面以贯穿颜色立方体,所述控制器计算所述GRRB颜色度量,其中所述颜色平面具有非红色对红色的线性比例。
18.根据权利要求17所述的系统,其特征在于,通过将由所述标准化的红色亮度值、绿色亮度值和蓝色亮度值限定的颜色区域进一步映射到所述颜色平面上,所述控制器计算所述GRRB颜色度量。
19.根据权利要求18所述的系统,其特征在于,通过进一步执行数学计算以确定所述颜色区域的红色值,所述控制器计算所述GRRB颜色度量。
20.根据权利要求19所述的系统,其特征在于,通过将所述灯光的所述红色值与阈值进一步比较,以确定所述灯光是否对应于另一个车辆的头灯和尾灯中的一个,所述控制器计算所述GRRB颜色度量。
21.根据权利要求14所述的系统,其特征在于,内插为双线性内插,并且在围绕至少一个峰值像素的5x5过滤区域中执行。
22.一种场景成像系统,其特征在于,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述场景接收灯光并且用于生成表示所述场景的图像数据;以及
用于接收并分析所述图像数据的控制器。
23.根据权利要求22所述的系统,其特征在于,所述控制器接收并分析所述数据图像,以检测在所述场景中的物体。
24.根据权利要求23所述的系统,其特征在于,所述控制器计算GRRB颜色度量,以检测在所述场景中的物体。
25.一种用于控制车辆设备的系统,其特征在于,所述系统包括:
包含GRRB滤光器阵列的图像传感器,用于从所述车辆的外部场景中接收灯光并且用于生成表示所述场景的图像数据;
经配置接收并分析所述图像数据并且用于生成控制信号的控制器,所述控制信号用于响应所述图像数据的分析控制所述车辆设备。
26.根据权利要求25所述的系统,其特征在于,所述控制器接收并分析所述图像数据,以检测在所述场景中的物体。
27.根据权利要求26所述的系统,其特征在于,所述控制器计算GRRB颜色度量,以检测在所述场景中的物体。
28.一种外部灯光控制系统,其特征在于,所述外部灯光控制系统是用于控制受控车辆外部灯的外部灯光控制系统,所述外部灯光控制系统包括:
包含GRRB滤光器阵列的成像系统,该成像系统经配置对所述受控车辆的外部及前方场景成像,并且生成对应于所述已获得图像的图像数据;以及
经配置接收并分析所述图像数据并且用于生成外部灯光控制信号的控制器,所述外部灯光控制信号用于响应所述图像数据的分析控制所述外部灯。
29.根据权利要求28所述的系统,其特征在于,所述控制器接收并分析所述数据图像,以检测在所述场景中的物体。
30.根据权利要求29所述的系统,其特征在于,所述控制器计算GRRB颜色度量,以检测在所述场景中的物体。
CN201390000703.3U 2012-08-16 2013-08-16 场景成像系统、控制车辆设备的系统及外部灯光控制系统 Expired - Lifetime CN204801615U (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261742680P 2012-08-16 2012-08-16
US61/742,680 2012-08-16
PCT/US2013/055367 WO2014028850A1 (en) 2012-08-16 2013-08-16 Method and system for imaging an external scene by employing a custom image sensor

Publications (1)

Publication Number Publication Date
CN204801615U true CN204801615U (zh) 2015-11-25

Family

ID=50099793

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201390000703.3U Expired - Lifetime CN204801615U (zh) 2012-08-16 2013-08-16 场景成像系统、控制车辆设备的系统及外部灯光控制系统

Country Status (4)

Country Link
US (1) US9511708B2 (zh)
CN (1) CN204801615U (zh)
DE (1) DE212013000187U1 (zh)
WO (1) WO2014028850A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150363916A1 (en) * 2014-06-12 2015-12-17 Samsung Electronics Co., Ltd. Low power demosaic with intergrated chromatic aliasing repair
JP6385768B2 (ja) * 2014-09-17 2018-09-05 安全自動車株式会社 ヘッドライトテスター及びその正対方法
US10079255B1 (en) * 2017-08-04 2018-09-18 GM Global Technology Operations LLC Color filter array apparatus
US11608972B2 (en) 2019-09-11 2023-03-21 Zoox, Inc. Vehicular lighting using passive and/or active optics
US11242972B2 (en) * 2019-09-11 2022-02-08 Zoox, Inc. Vehicular lighting using passive and/or active optics

Family Cites Families (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5251019A (en) 1991-01-25 1993-10-05 Eastman Kodak Company Solid state color image sensor using a field-staggered color filter pattern
GB2267341B (en) 1992-05-27 1996-02-21 Koito Mfg Co Ltd Glare sensor for a vehicle
US5796094A (en) 1993-02-26 1998-08-18 Donnelly Corporation Vehicle headlight control using imaging sensor
US5629734A (en) 1995-03-17 1997-05-13 Eastman Kodak Company Adaptive color plan interpolation in single sensor color electronic camera
US6631316B2 (en) 2001-03-05 2003-10-07 Gentex Corporation Image processing system to control vehicle headlamps or other vehicle equipment
US6774988B2 (en) 2002-07-30 2004-08-10 Gentex Corporation Light source detection and categorization system for automatic vehicle exterior light control and method of manufacturing
US6861809B2 (en) 1998-09-18 2005-03-01 Gentex Corporation Headlamp control to prevent glare
US7653215B2 (en) 1997-04-02 2010-01-26 Gentex Corporation System for controlling exterior vehicle lights
US6587573B1 (en) 2000-03-20 2003-07-01 Gentex Corporation System for controlling exterior vehicle lights
US6130421A (en) 1998-06-09 2000-10-10 Gentex Corporation Imaging system for vehicle headlamp control
US5837994C1 (en) 1997-04-02 2001-10-16 Gentex Corp Control system to automatically dim vehicle head lamps
US5990469A (en) 1997-04-02 1999-11-23 Gentex Corporation Control circuit for image array sensors
US8120652B2 (en) 1997-04-02 2012-02-21 Gentex Corporation System for controlling vehicle equipment
US6049171A (en) 1998-09-18 2000-04-11 Gentex Corporation Continuously variable headlamp control
US6611610B1 (en) 1997-04-02 2003-08-26 Gentex Corporation Vehicle lamp control
WO1999033684A2 (en) 1997-12-31 1999-07-08 Gentex Corporation Vehicle vision system
US6008486A (en) 1997-12-31 1999-12-28 Gentex Corporation Wide dynamic range optical sensor
US6130448A (en) 1998-08-21 2000-10-10 Gentex Corporation Optical sensor package and method of making same
CA2356992C (en) 1999-01-25 2007-09-18 Gentex Corporation Vehicle equipment control with semiconductor light sensors
US6166698A (en) 1999-02-16 2000-12-26 Gentex Corporation Rearview mirror with integrated microwave receiver
US6791609B2 (en) 1999-12-20 2004-09-14 Texas Instruments Incorporated Digital still camera system and method
US6403942B1 (en) 2000-03-20 2002-06-11 Gentex Corporation Automatic headlamp control system utilizing radar and an optical sensor
US7006686B2 (en) 2001-07-18 2006-02-28 Hewlett-Packard Development Company, L.P. Image mosaic data reconstruction
US7683326B2 (en) 2002-07-09 2010-03-23 Gentex Corporation Vehicle vision system with high dynamic range
AU2003298558A1 (en) 2002-08-21 2004-05-04 Gentex Corporation Image acquisition and processing methods for automatic vehicular exterior lighting control
US8045760B2 (en) 2003-02-21 2011-10-25 Gentex Corporation Automatic vehicle exterior light control systems
JP3925431B2 (ja) * 2003-02-28 2007-06-06 セイコーエプソン株式会社 有彩1次色インクと有彩2次色インクとを含む複数のインク成分への分版処理
US7321112B2 (en) 2003-08-18 2008-01-22 Gentex Corporation Optical elements, related manufacturing methods and assemblies incorporating optical elements
JP2007263563A (ja) 2004-06-03 2007-10-11 Matsushita Electric Ind Co Ltd カメラモジュール
US7609302B2 (en) 2004-08-11 2009-10-27 Micron Technology, Inc. Correction of non-uniform sensitivity in an image array
CA2585982C (en) 2004-11-18 2012-07-10 Gentex Corporation Improved image acquisition and processing systems for vehicle equipment control
KR100721338B1 (ko) 2004-12-30 2007-05-28 엘지전자 주식회사 디지털 촬영장치의 색상 보간법
US7417221B2 (en) 2005-09-08 2008-08-26 Gentex Corporation Automotive vehicle image sensor
US8004575B2 (en) 2006-05-03 2011-08-23 Utc Fire & Security Americas Corporation, Inc. Methods and systems for detecting bright objects and/or adaptively modifying video camera exposure
US8452082B2 (en) 2007-09-27 2013-05-28 Eastman Kodak Company Pattern conversion for interpolation
US8254635B2 (en) 2007-12-06 2012-08-28 Gideon Stein Bundling of driver assistance systems
KR101534547B1 (ko) 2008-11-24 2015-07-08 삼성전자주식회사 이미지 센서 및 이를 포함하는 시스템
CN102834309B (zh) * 2010-02-26 2016-12-21 金泰克斯公司 自动车辆设备监控、报警和控制系统
US8350934B2 (en) 2010-10-21 2013-01-08 Taiwan Semiconductor Manufacturing Co., Ltd. Color image sensor array with color crosstalk test patterns

Also Published As

Publication number Publication date
US9511708B2 (en) 2016-12-06
US20140049645A1 (en) 2014-02-20
DE212013000187U1 (de) 2015-05-04
WO2014028850A1 (en) 2014-02-20

Similar Documents

Publication Publication Date Title
CN104487288B (zh) 用于响应多级村庄检测来控制车辆设备的系统以及方法
CA2585982C (en) Improved image acquisition and processing systems for vehicle equipment control
US9317758B2 (en) Vehicle imaging system and method for distinguishing reflective objects from lights of another vehicle
CN104583012B (zh) 用于响应于对小型卡车的检测来控制外部车辆灯的系统和方法
US9185363B2 (en) Vehicle imaging system and method for categorizing objects using relative motion analysis
CN204801615U (zh) 场景成像系统、控制车辆设备的系统及外部灯光控制系统
US20140198213A1 (en) Imaging system and method for detecting fog conditions
KR101738995B1 (ko) 에고 모션 검출을 구비한 촬상 시스템 및 방법
CN104823122A (zh) 用于检测明亮的城市条件的成像系统和方法
KR101848451B1 (ko) 차량 후미등과 점멸 적색 정지등을 구별하기 위한 차량 촬상 시스템 및 방법
CN113246846B (zh) 车辆灯光控制方法、装置及车辆
CN105705353B (zh) 包括对颜色衰减进行动态补偿的成像系统
US20140153782A1 (en) Imaging system and method for detecting a winding road
KR20110128661A (ko) 자동차의 차량 검출방법

Legal Events

Date Code Title Description
C14 Grant of patent or utility model
GR01 Patent grant
CX01 Expiry of patent term
CX01 Expiry of patent term

Granted publication date: 20151125