CN101868967B - 摄像装置以及摄像方法 - Google Patents

摄像装置以及摄像方法 Download PDF

Info

Publication number
CN101868967B
CN101868967B CN2007801015977A CN200780101597A CN101868967B CN 101868967 B CN101868967 B CN 101868967B CN 2007801015977 A CN2007801015977 A CN 2007801015977A CN 200780101597 A CN200780101597 A CN 200780101597A CN 101868967 B CN101868967 B CN 101868967B
Authority
CN
China
Prior art keywords
illumination
brightness
esse
space
exposure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2007801015977A
Other languages
English (en)
Other versions
CN101868967A (zh
Inventor
末延望
瀬川英吾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of CN101868967A publication Critical patent/CN101868967A/zh
Application granted granted Critical
Publication of CN101868967B publication Critical patent/CN101868967B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components

Abstract

在摄像装置(100)中,图像识别装置(130)检测作为监视对象的物体,对检测到的物体执行识别处理,计算对象亮度和对象坐标,控制装置(140)根据对象亮度和对象坐标,计算物体实际存在的空间中的位置和照度,根据计算出的位置和照度以及当前的照相机参数,来计算照相机参数,根据计算出的照相机参数,控制视频摄影装置(120)的照相机参数来调整曝光量。

Description

摄像装置以及摄像方法
技术领域
本发明涉及检测物体并进行摄影的摄像装置以及摄像方法。
背景技术
在现有的图像监视中,检测作为监视对象的物体,进行检测到的物体是什么的识别、以及书写在物体上的文字的读取等(例如参照专利文献1、专利文献2等)。在该图像监视中,为了得到高识别率(成功识别物体的比例),需要以使要识别的物体本身成为适合于识别的亮度的方式来进行摄影。
特别地,在室外的图像监视等中,由于天气的日照状况等,照度环境时刻变化,为了在这种照度环境下也得到高识别率,需要对入射到摄影装置的光量(曝光量)进行调整,以便始终在适合于识别的亮度下对物体进行摄影。
在此前的图像监视中的亮度调整中,即使存在基于时间的照度变动,也存在某个时刻的监视范围内的照度分布均匀这样的隐含的大前提。例如,在专利文献1中,为了准确地读取书写于在道路上通行的车辆的号牌上的文字,对镜头的光圈等照相机参数进行控制,以使检测到的对象(号牌)的亮度为规定值。
这里,由于监视范围内的照度分布均匀这样的前提,不论对象位于画面内的哪个位置、例如车辆通过道路的哪里,在某个环境下摄影的对象的亮度都是恒定的。图15是示出现有的图像监视的例子的图。在图15中,由设置在路上的照相机检测通过监视范围的车辆,但是,在照度均匀的情况下,所拍摄的对象的亮度与检测位置无关,是恒定的。
图16是示出通过现有的图像监视而检测到的对象的例子的图。如果某个时刻的监视范围内的照度分布均匀,则如图16所示,图15的在A点处的图像和图15的在B点处的图像的亮度恒定。
而且,在检测到对象后,控制对象的亮度。图17是示出现有的亮度控制的例子的图。如图17的左侧那样,在对象的亮度偏离规定值(该图的网格部分)的情况下,如图17的右侧那样,调整镜头的光圈等以便以规定的亮度进行摄影。在图17中,以低于规定亮度(比规定的明亮度暗)的亮度对对象进行摄影,所以,例如进行打开光圈的控制。
专利文献1:日本专利2706314号公报
专利文献2:日本特开2006-311031号公报
但是,在上述现有技术中,在某个时刻的监视范围内的照度分布不均匀的情况下,存在无法恰当地调整检测对象的亮度的问题。
例如,在夜间等照射照明光来进行对象识别的情况下,有时监视范围的照度不可能均匀。图18是示出使用搭载于车辆上的照相机对在对向车道上通行的车辆进行识别的例子的图,图19是示出摄影范围和夜间的前灯的照射范围的图。
如图18所示,在不使用图像监视的专用照明、而使用搭载了照相机的本车辆的前灯作为照明的情况下,监视范围的照度不可能均匀。即,如图19所示,考虑以照相机为原点、取本车辆的行进方向为Z轴、与Z轴垂直的水平方向为X轴的全局坐标系时,由于前灯照明的不均,对象的照度根据实际空间位置(对象实际存在的空间的位置)而不同,在各位置拍摄的对象的亮度也不同。
图20是示出图19中的位置A、B的照度的差异的图,图21是示出现有的曝光控制的问题点的图。例如,如图19的位置A那样,考虑对象通过距车辆远(X坐标大)且照度光量少的位置的情况。如图20的左侧那样,在位置A检测到的对象的亮度小于规定亮度的情况下,在现有方式中,进行打开照相机的光圈等的照相机参数的调整(进行与位置B处的亮度有关的照相机参数的调整),以使位置A处的对象的亮度为规定值。
而且,在以位置A处的亮度为基准进行照相机参数的调整时,如图20的右侧那样,在距照明装置近(X坐标小)的位置B等处,调整前的亮度大于位置A,所以,亮度超出了合适范围(参照图21)。即,在位置B检测到下一监视对象的情况下,图像泛白,无法准确地读取文字。相反,在对象通过位置B并调整为与位置B匹配的照相机参数后,在位置A检测到对象的情况下,亮度没有达到合适范围,无法识别。
图22是示出识别对象的亮度和识别率的关系的图。如图22所示,在亮度小、较暗地进行摄影的情况下,无法区分对象和噪声,识别率低下。相反,当亮度过大时,由于亮度饱和,对象泛白,所以无法识别,识别率还是低下。
因此,在图像监视中,需要进行调整以使对象本身(或监视范围)的亮度为适合于识别的规定值。例如,调整亮度以使对象的识别率始终为最大值Rmax(将亮度调整为LO)。或者,需要设定允许的识别率的最低值RO,调整亮度以满足最低值RO(将亮度调整为LL~LH)。
即,在监视范围的照度不均匀的情况下,控制曝光量以使对象亮度为适合于识别的值,这是极其重要的课题。
发明内容
本发明是鉴于上述情况而完成的,其目的在于,提供如下的摄像装置、以及摄像方法:即使在监视范围的照度不均匀的情况下,也能够控制照相机参数以使对象的亮度为适合于识别的值。
为了解决上述课题,达成目的,本发明的摄像装置检测物体并进行摄影,其特征在于,该摄像装置具有:检测单元,其检测所述物体;摄影单元,其拍摄检测到的所述物体的图像;计算单元,其根据由所拍摄的所述物体的图像得到的、所述物体在拍摄的所述图像上的位置和亮度,计算所述物体实际存在的空间中的位置和照度;以及曝光量决定单元,其根据计算出的所述物体实际存在的空间中的所述位置和所述照度,来决定摄影的曝光量。
并且,本发明的特征在于,在上述发明中,该摄像装置具有:存储单元,其预先存储所述物体实际存在的空间的位置和照度;以及存储单元,其预先存储所述物体实际存在的空间的位置和照度以及仅利用照明光测定出的照度;计算单元,其根据由所拍摄的所述物体的图像得到的、所述物体在拍摄的所述图像上的位置和亮度以及所述存储单元中存储的仅利用照明光测定出的照度,计算所述物体实际存在的空间中的位置和照度以及环境光照度;照度分布计算单元,其根据存储在所述存储单元中的所述物体实际存在的空间中的位置的照度、以及由所述计算单元计算出的所述物体实际存在的空间中的位置的照度,计算监视范围整个区域中的照度分布;以及曝光量决定单元,其根据计算出的所述物体实际存在的空间中的所述位置和所述照度和所述环境光照度以及计算出的所述照度分布,来决定摄像的曝光量。
并且,本发明的特征在于,在上述发明中,所述存储单元存储的所述照度是仅利用照明光所测定的照度,所述照度分布计算单元根据存储在所述存储单元中的所述物体实际存在的空间中的位置的仅利用照明光所测定的照度、以及由所述计算单元根据由所述摄影单元拍摄的所述物体的图像的所述位置和所述亮度而计算出的所述物体实际存在的空间中的所述位置的照度,计算环境光照度,计算将所述环境光照度和仅利用所述照明光所测定的照度都包含进去的监视范围整个区域中的照度分布。
并且,本发明的特征在于,在上述发明中,在不能在监视范围整个区域中以合适的明亮度进行摄影的情况下,所述曝光量决定单元根据所述物体实际存在的空间中的监视范围内的各位置处的物体的出现概率、和所述图像中的每个亮度下的物体的识别率的期望值,来决定曝光量,以使所述监视范围内的物体的整体的识别率的期望值最大。
并且,本发明的特征在于,在上述发明中,所述曝光量决定单元决定曝光量,以使在所述物体实际存在的空间的监视范围内的照度最高的位置检测到的画面中的物体的亮度为规定的上限值。
并且,本发明的特征在于,在上述发明中,所述曝光量决定单元决定曝光量,以使在所述物体实际存在的空间的监视范围内的照度最低的位置检测到的物体的亮度为规定的下限值。
并且,本发明的摄像方法检测物体并进行摄影,其特征在于,该摄像方法具有以下步骤:存储步骤,预先存储物体实际存在的空间的位置和照度以及仅利用照明光测定出的照度;检测步骤,检测所述物体;拍摄步骤,拍摄检测到的所述物体的图像;计算步骤,根据由所拍摄的所述物体的图像得到的、所述物体在拍摄的所述图像上的位置和亮度以及所述存储步骤中存储的仅利用照明光测定出的照度,计算所述物体实际存在的空间中的位置和照度以及环境光照度;照度分布计算步骤,根据在存储步骤中存储的所述物体实际存在的空间中的位置的照度、以及通过所述计算步骤计算出的所述物体实际存在的空间中的位置的照度,计算监视范围整个区域中的照度分布;以及决定步骤,根据计算出的所述物体实际存在的空间中的所述位置和所述照度和所述环境光照度以及计算出的所述照度分布,来决定摄像的曝光量。
根据本发明,检测作为监视对象的物体并拍摄图像,针对所拍摄的物体执行识别处理,根据亮度和位置来计算物体实际存在的空间中的位置和照度,根据计算出的位置和照度来决定曝光量,所以,即使在监视范围的照度不均匀的情况下,也能够调整曝光量以使对象的亮度成为适合于识别的值。
并且,根据本发明,预先在存储装置中存储物体实际存在的空间的位置和照度,根据存储在存储装置中的物体实际存在的空间中的规定位置的照度、以及由所拍摄的物体的图像的位置和亮度而计算出的物体实际存在的空间中的规定位置的照度,计算监视范围整个区域中的照度分布,根据照度分布来决定曝光量,所以,能够提高使用照度分布不均匀的照明装置时的图像识别处理的精度。
并且,根据本发明,在存储装置中存储仅利用照明光所测定的照度,根据存储在存储装置中的物体实际存在的空间中的规定位置的仅利用照明光所测定的照度、以及根据所拍摄的物体的图像的位置和亮度而计算出的物体实际存在的空间中的规定位置的照度,计算环境光照度,计算将环境光照度和照明光照度都包含进去的监视范围整个区域中的照度分布,所以,能够调整曝光量以使监视范围全体的亮度为适合于识别的值。
并且,根据本发明,在不能在监视范围整个区域中以合适的明亮度进行摄影的情况下,根据物体实际存在的空间中的监视范围内的各位置处的物体的出现概率、和所述图像中的每个亮度下的物体的识别率的期望值,来决定曝光量,以使监视范围内的物体的全体的识别率的期望值最大,所以,能够将监视范围的物体的识别率的低下抑制为最小限度。
并且,根据本发明,决定曝光量,以使在物体实际存在的空间的监视范围内的照度最高的位置检测到的画面中的物体的亮度为规定的上限值,所以,即使在监视范围的照度不均匀的情况下,也能够调整曝光量以使对象的亮度为适合于识别的值。
并且,根据本发明,决定曝光量,以使在物体实际存在的空间的监视范围内的照度最低的位置检测到的物体的亮度为规定的下限值,所以,即使在监视范围的照度不均匀的情况下,也能够调整曝光量以使对象的亮度为适合于识别的值。
附图说明
图1是示出监视范围的照度分布的一例的图。
图2是示出基于监视范围全体的照度分布的目标值的一例的图。
图3是示出基于图2的目标值的曝光量控制的图。
图4是示出本实施例1的摄像装置的结构的功能框图。
图5是用于说明本实施例1的亮度控制的图。
图6是示出控制装置的结构的功能框图。
图7是示出实际空间上的对象坐标、照相机图像的对象坐标、全局坐标上的对象坐标的关系的图。
图8是用于说明当前时刻的照度分布的图。
图9是示出本实施例1的图像识别装置的处理步骤的流程图。
图10是示出本实施例1的控制装置的处理步骤的流程图。
图11是示出识别率的期望值和各照相机参数的位置P处的对象亮度的图。
图12是用于说明摄像装置的其他应用例的图。
图13是用于说明摄像装置的其他应用例的图。
图14是示出构成实施例1的摄像装置的计算机的硬件结构的图。
图15是示出现有的图像监视的例子的图。
图16是示出通过现有的图像监视而检测到的对象的例子的图。
图17是示出现有的亮度控制的例子的图。
图18是示出使用搭载于车辆上的照相机来识别在对向车道上通行的车辆的例子的图。
图19是示出摄影范围和夜间的前灯的照射范围的图。
图20是示出图19中的位置A、B的照度的差异的图。
图21是示出现有的曝光控制的问题点的图。
图22是示出识别对象的亮度和识别率的关系的图。
标号说明
10:计算机;11、110:照明装置;12、120:视频摄影装置;13:输入装置;14:监视器;15:RAM;15a、20a:各种数据;16:ROM;17:介质读取装置;18:接口;19:CPU;19a:图像识别处理;19b:照相机参数计算处理;20:HDD;21:总线;20b:图像识别程序;20c:照相机参数计算程序;100:摄像装置;130:图像识别装置;140:控制装置;141:坐标转换部;142:亮度/照度转换部;143:照度分布存储部;144:照度检测部;145:照相机参数计算部;146:控制信号输出部。
具体实施方式
下面,根据附图详细说明本发明的摄像装置、摄像方法以及摄像程序的实施例。另外,本发明不受该实施例限定。
实施例1
首先,说明本实施例1的摄像装置的概要和特征。本实施例1的摄像装置根据监视范围全体的照度分布来进行曝光量的调整(照相机参数的调整)。即,考虑实际空间(作为监视对象的物体所存在的空间)上的每个位置的照度的差异,针对检测到物体的每个位置,调整曝光量以使监视范围全体成为能够识别的亮度。
图1是示出监视范围的照度分布的一例的图。如该图所示,监视范围的照度分布由从天空等远方的光源向监视范围照射的环境光的光量和用于照射监视范围的照明光的光量之和来决定,但是,环境光和照明光分别具有下述特征。
即,环境光具有如下特征:由于云的移动等大气状态,存在基于时间的变动,但是,基于监视范围内的位置的照度差异小,监视范围内的照度分布均匀;照明光具有如下特征:根据监视范围内的各位置,所到达的光量不同,监视范围内的照度分布不均匀,但是,能够忽略基于时间的变动。
根据这些特征,如果知道照明光的照度分布和某个时刻的监视范围内的一点的照度,则能够知道该时间点的监视范围全体的照度分布。而且,摄像装置能够根据监视范围全体的照度分布,调整曝光量(照相机参数),以便在监视范围全体内以适合于物体识别的亮度来进行摄影(能够设定各位置的曝光量的目标值)。
图2是示出基于监视范围全体的照度分布的目标值的一例的图。图3是示出基于图2的目标值的曝光量控制的图。如图2所示,根据监视范围的照度分布,将距照明装置远且较暗地进行摄影的A点处(参照图19)的亮度的目标值设定得较低,将距照明装置近且较亮地进行摄影的B点(参照图19)的亮度的目标值设定得较高,由此,能够确保能够识别监视范围全体的亮度。
例如如图3那样,即使调整曝光量以便将与照明光量少的位置A对应的亮度设定为目标值,由于与位置A对应的亮度的目标值被设定得较低,因此,与照明光量多的位置B对应的亮度不会超出合适范围。
接着,说明本实施例1的摄像装置的结构。图4是示出本实施例1的摄像装置的结构的功能框图。如该图所示,该摄像装置100构成为具有:照明装置110、视频摄影装置120、图像识别装置130、控制装置140。
其中,照明装置110是向监视范围照射照明光的装置。视频摄影装置120是根据由控制装置140决定的照相机参数(照相机的光圈等)对监视范围的视频进行摄影的装置,将所拍摄的视频作为视频信号输出到图像识别装置130。并且,在监视范围内检测到作为监视对象的物体的情况下,视频摄影装置120在监视范围内,依据检测到的物体来控制照相机方向,对对象的视频进行摄影。
图像识别装置130是如下的装置:从视频摄影装置120取得视频信号,根据所取得的视频信号检测作为监视对象的物体(对象),对检测到的物体进行详细的识别,计算物体在图像上的亮度(以下表记为对象亮度),并且,检测物体在图像上的坐标(以下表记为对象坐标)。图像识别装置130向控制装置140输出对象亮度和对象坐标的信息。
控制装置140是如下的装置:根据从图像识别装置130输出的对象亮度和对象坐标的信息,计算物体在实际存在的空间中的位置和照度,根据计算出的位置和照度以及当前的照相机参数来决定照相机参数。控制装置140将决定的照相机参数的信息作为控制信号输出到视频摄影装置120。取得该控制信号的视频摄影装置120依据控制信号中包含的照相机参数的信息,调整视频摄影装置120的照相机参数。
另外,本实施例1的摄像装置100在实际空间的监视范围内的中央等处设置基准点(设为O点),根据对象的亮度、检测位置,并基于监视范围的照度分布,来估计O点处的对象的亮度,调整曝光量(照相机参数)以使估计出的亮度为规定值。
图5是用于说明本实施例1的亮度控制的图。如图5的左侧所示,在A点检测到对象的情况下,根据A点的亮度来估计O点的亮度,如图5的右侧所示,调整为使O点的亮度为规定值的曝光量。而且,通过该调整,在监视区域全体中都能够控制为能够识别的亮度,不论接着检测通过监视范围的对象的位置为哪里(例如为B点),都能够识别。
下面,叙述具体的亮度控制方法。这里,为了简便,设利用照相机的光圈来进行亮度控制。当假设摄影图像的亮度I与照度L和光圈量F的倒数成比例时,能够假设存在以下关系。
[数式1]
I = k L F · · · ( 1 )
这里,设位置A的照明光的照度分布为已知。设时刻T的光圈量为F(T),在位置A检测到对象,其亮度为I(T,A)。该情况下,当设环境光的照度为Lg(T)时,根据式(1),
[数式2]
I ( T , A ) = k { L 1 ( O ) + L g ( T ) } F ( T ) · · · ( 2 )
成立。另外,式(1)的k是比例常数。
并且,基准点O的亮度为
[数式3]
I ( T , O ) = k { L 1 ( O ) + L 1 ( A ) } F ( T ) · · · ( 3 )
而且,O点的亮度为规定值IO的光圈量F’(T)满足
[数式4]
I O = k { L 1 ( O ) + L g ( T ) } F ′ ( T ) · · · ( 4 )
若整理式(2)~(4),则
[数式5]
F ′ ( T ) = k { L 1 ( O ) - L 1 ( A ) } + I ( T , A ) F ( T ) I O · · · ( 5 )
根据在时刻T检测到的对象的亮度和位置以及照明光的照度分布,决定作为新的照相机参数的光圈量(曝光量)。
接着,说明决定上述照相机参数的控制装置140的结构。图6是示出控制装置140的结构的功能框图。如该图所示,构成为具有:坐标转换部141、亮度/照度转换部142、照度分布存储部143、照度检测部144、照相机参数计算部145、控制信号输出部146。
坐标转换部141是如下的处理部:从图像识别装置130取得对象坐标(照相机坐标上的对象坐标),针对所取得的对象坐标执行坐标转换,将图像上的对象坐标(x,y)转换为全局坐标(X,Y,Z)。下面,将转换为全局坐标系的对象坐标表记为转换对象坐标。图7是示出实际空间上的对象坐标、照相机图像的对象坐标、全局坐标上的对象坐标的关系的图。坐标转换部141向亮度/照度转换部142、照度检测部144输出转换对象坐标的信息。
另外,坐标转换部141将对象坐标转换为全局坐标系的手法使用下述公知技术即可。例如,在物体的实际大小已知的情况下,根据物体在画面中的大小、视场角和实际的物体大小来计算物体的距离,根据检测坐标来确定物体的方向,由此,能够将对象坐标转换为转换对象坐标。
并且,坐标转换部141能够利用立体处理将对象坐标转换为转换对象坐标。即,能够使用2台以上的视频摄影装置对物体进行摄影,根据图像空间中的物体的坐标的差异,利用公知的立体技术,计算转换对象坐标。或者,坐标转换部141也可以利用激光器、雷达等距离传感器来确定物体的实际位置,由此,可直接确定全局坐标上的对象坐标。
亮度/照度转换部142是如下的处理部:从图像识别装置130取得对象亮度,将所取得的对象亮度转换为照度(以下表记为对象照度)。并且,亮度/照度转换部142从坐标转换部141取得转换对象坐标,从对象照度中检索与所取得的转换对象坐标对应的坐标的亮度,将检索到的对象照度的信息输出到照相机参数计算部145。
这里,亮度/照度转换部142将亮度转换为照度的手法可以使用任意的手法,但是,例如,亮度/照度转换部142预先在自身的存储部中保持当前的照相机参数(光圈量F)的信息,利用式(1)的关系,将对象亮度转换为对象照度。
照度分布存储部143是存储在下述的单一条件下预先观测到的照明装置110的照度分布(各坐标处的照度)的信息的存储部。例如,在把摄像装置100设定于暗室中的状态下,对照明装置110的照度分布进行计测,由此,能够计测各坐标(X,Y,Z)的照度,而不受环境光的影响。
另外,在无法把摄像装置100设置在暗室中的情况下,在环境光稳定的状态下,在照明装置110接通时和断开时,对摄影范围的实际空间中的各坐标处的照度进行计测,取得其差分,由此,能够计测各坐标(X,Y,Z)的照度。
照度检测部144是如下的处理部:从坐标转换部141取得转换对象坐标,从照度分布存储部143中检索与所取得的转换对象坐标(全局坐标上的对象坐标)对应的坐标的照度信息,将检索到的信息作为照明照度输出到照相机参数计算部145。
照相机参数计算部145是如下的处理部:根据当前的照相机参数、对象照度、照明照度和存储在照度分布存储部143中的信息,来计算应该调整的照相机参数。具体而言,照相机参数计算部145依次执行差分计算处理、当前时刻的照度分布计算处理、照相机参数计算处理。
在差分计算处理中,照相机参数计算部145取得对象照度和照明照度的差分,计算当前时刻的环境光的照度(以下称为环境光照度,照度的偏差)。
接着,在当前时刻的照度分布计算处理中,照相机参数计算部145分别从照度分布存储部143中检索与监视范围内所包含的各坐标对应的照度,提取检索到的与各坐标对应的各照度作为照度分布(该照度分布不包含环境光)。然后,在该照度分布所包含的各坐标的照度上加上照度的偏差,由此,能够计算当前时刻的照度分布(环境光的照度分布+照明光的照度分布)。另外,监视范围内所包含的各坐标的信息只要预先存储在照相机参数计算部145中即可。
图8是用于说明当前时刻的照度分布的图。如该图所示,在当前时刻,如果能够确定位置P处的对象照度L(P),则从该L(P)中减去L1(P),由此,能够求出照度的偏差。这里,L1(P)是照明装置的照度分布中的位置P的照度。然后,分别在照度分布L1(X)的各坐标的照度上加上该照度偏差,由此,能够计算当前时刻的照度分布。
接着,在照相机参数计算处理中,照相机参数计算部145利用上述式(5)来求出照相机参数(光圈量F’(T))。另外,式(5)的规定值IO的值可以通过任意的方法来确定。
例如,照相机参数计算部145根据当前时刻的照度分布(参照图8),确定最大照度和与最大照度对应的坐标,计算光圈量(照相机参数)以使该最大照度为规定的上限值。例如,如果设上限值为IC、最大照度的坐标(基准点)为C,则通过
[数式6]
F ′ ( T ) = k { L 1 ( C ) - L 1 ( A ) } + I ( T , A ) F ( T ) I C · · · ( 6 )
求出光圈量。
并且,照相机参数计算部145根据当前时刻的照度分布(参照图8),确定最小照度和与最大照度对应的坐标,计算光圈量(照相机参数)以使该最小照度为规定的下限值。例如,如果设下限值为ID、最小照度的坐标(基准点)为D,则通过
[数式7]
F ′ ( T ) = k { L 1 ( D ) - L 1 ( A ) } + I ( T , A ) F ( T ) I D · · · ( 7 )
求出光圈量。照相机参数计算部145向控制信号输出部146输出所计算出的照相机参数的信息。
控制信号输出部146是如下的处理部:从照相机参数计算部145取得照相机参数的信息,将所取得的照相机参数的信息作为控制信号输出到视频摄影装置120,更新视频摄影装置120的照相机参数。
接着,说明本实施例1的图像识别装置130的处理步骤。图9是示出本实施例1的图像识别装置130的处理步骤的流程图。如该图所示,图像识别装置130从视频摄影装置120取得视频信号(步骤S101),决定要进行验证处理的图像(步骤S102)。
然后,图像识别装置130从图像中识别对象(步骤S103),计算对象亮度和对象坐标(步骤S104),将对象亮度和对象坐标输出到控制装置140(步骤S105)。
接着,说明本实施例1的控制装置140的处理步骤。图10是示出本实施例1的控制装置140的处理步骤的流程图。如该图所示,控制装置140将对象位置的照相机坐标转换为全局坐标(步骤S201),检测与转换后的全局坐标对应的照明的照度(步骤S202)。
接着,控制装置140取得各照度的差分,由此计算环境光照度(照度的偏差)(步骤S203),计算当前时刻的照度分布(步骤S204),计算照相机参数(步骤S205),输出所计算出的照相机参数的信息(步骤S206)。
这样,控制装置140根据物体实际存在的空间中的坐标和照度分布,计算影响摄影的曝光量的照相机参数,所以,即使某个时刻的实际空间上的照度分布不均匀,也能够恰当地调整视频摄影装置120的曝光量。
如上所述,在本实施例1的摄像装置100中,图像识别装置130检测作为监视对象的物体,对检测到的物体执行识别处理,计算对象亮度和对象坐标,控制装置140根据对象亮度和对象坐标,计算物体实际存在的空间中的位置和照度,根据计算出的位置和照度以及当前的照相机参数,来计算照相机参数,根据计算出的照相机参数,控制视频摄影装置120的照相机参数来调整曝光量,所以,即使在监视范围的照度不均匀的情况下,也能够调整曝光量以使对象亮度成为适合于识别的值。
实施例2
此前说明了本发明的实施例,但是,除了上述实施例1以外,本发明也可以以各种不同的形式来实施。因此,下面,作为实施例2,说明本发明所包含的其他实施例。
(1)在监视范围全体中难以以适合于识别的亮度进行摄影的情况
在上述实施例1中,确定照相机参数,以使物体在某个基准位置的亮度为最适合于识别的值,但是,有时监视范围广,难以在监视范围全体中以适合于识别的明亮度进行摄影。
该情况下,对于无法以适合于识别的亮度进行摄影的区域,可预想识别率低下,但是,一般地,识别率低下的程度在亮度饱和侧和暗(亮度为规定值以下)侧不同。因此,为了将识别率低下抑制为最小限度,如下所述设定亮度的目标值。
图11是示出识别率的期望值和各照相机参数的位置P处的对象亮度的图。图11的深浅表示在位置P为亮度L时的识别率的期望值R(P,L)。并且,图11的实线表示将照相机参数(光圈量等)设定为CA~CC时的位置P处的对象亮度L(P:C)。
由此,位置P处的识别率的期望值能够表示为R(P,L(P:C))。使用在位置P检测到对象的概率T(P),则全体中的识别率RE
[数式8]
RE=∫RC(P,L)T(P)dp              ···(8)
这里,预先观测在位置P处亮度为L时的识别率R(P,L)和概率T(P),存储在摄像装置100的存储装置(省略图示)中。然后,根据由识别结果估计出的照度条件,求出针对照相机参数C的位置P和亮度L之间的关系L(P:C),能够决定结果RC(P,L)。
通过决定RC(P,L),由此,全体的识别率为照相机参数C的函数RE(C),所以,控制装置140计算识别率RE最大的照相机参数C。控制装置140向视频摄影装置120输出控制信号,以使照相机的参数成为计算出的照相机参数。另外,在能够忽略基于位置的对象的看清程度的差异的情况下,在监视范围全体中,即使不观测位置P和亮度L的关系,只要利用某一点P0来观测针对亮度L的识别率即可。
(2)其他应用例
在上述实施例1中,例如如图18那样,以在行驶的车辆中设置摄像装置来进行对向车辆的识别的情况为例进行了说明,但是不限于此。图12、图13是用于说明摄像装置的其他应用例的图。
如图12所示,在道路监视等中,将路灯作为照明,使用本实施例的摄像装置来识别在道路上行驶的车辆,并且,使用上述手法来调整照相机参数,能够提高识别率。该情况下,摄像装置预先观测路灯的照度分布并将其存储在存储装置中,使用存储在存储装置中的照度分布的信息来计算照相机参数。
并且,如图13所示,能够使用本实施例的摄像装置来识别在道路上移动的人物。即使在从照明装置到各人物的距离大大不同、某个时刻的照度分布根据位置而不同的情况下,通过利用本实施例的摄像装置,能够恰当地调整监视范围内的亮度,能够提高针对各人物的验证率。
(3)用于调整摄像装置的曝光量的其他例子
在上述实施例1中,为了调整摄像装置(视频摄影装置120)的曝光量,叙述了控制镜头的光圈的方法,但是不限于此,通过变更照相机的快门速度,或者变更在镜头上安装的光量调整滤镜(ND滤镜等)的透射率,也能够调整摄像装置的曝光量。
(4)关于式(1)的比例常数k
在上述实施例中,作为一例,以各坐标中的亮度和照度为比例关系为前提进行了说明,但是不限于此。即,预先针对各个坐标求出对对象物体进行摄影时的亮度和与该亮度对应的照度,存储计算出各坐标处的亮度和照度之间的比例常数k的表,由此,即使在亮度和照度不存在比例关系的情况下,也能够应用上述本方式。
(5)系统的结构等
但是,也可以手动进行在本实施例中说明的各处理中作为自动进行的处理而说明的处理的全部或一部分,或者,也可以利用公知的方法自动进行作为手动进行的处理而说明的处理的全部或一部分。除此之外,除了特别说明的情况以外,能够任意变更在上述记载中和附图中示出的处理步骤、控制步骤、具体名称、包含各种数据和参数的信息。
并且,图4所示的摄像装置100的各结构要素是功能概念上的要素,在物理上不一定如图所示那样构成。即,各装置的分散/集中的具体形式不限于图示的形式,能够根据各种负荷和使用状况等,以任意单位在功能上或物理上以分散/集中的方式来构成其全部或一部分。进而,利用各装置进行的各处理功能的全部或任意一部分可以由CPU和由该CPU解析执行的程序来实现,或者,能够作为基于布线逻辑的硬件来实现。
图14是示出构成实施例1的摄像装置的计算机的硬件结构的图。如图14所示,该计算机(摄像装置)10构成为,利用总线21来连接照明装置11、视频摄影装置12、输入装置13、监视器14、RAM(Random AccessMemory)15、ROM(Read Only Memory)16、从存储介质中读取数据的介质读取装置17、与其他装置之间进行数据收发的接口18、CPU(CentralProcessing Unit)19、HDD(Hard Disk Drive)20。这里,照明装置11、视频摄影装置12对应于图14所示的照明装置110、视频摄影装置120。
而且,在HDD20中存储有发挥与上述摄像装置100的功能相同的功能的图像识别程序20b、照相机参数计算程序20c。CPU19读出图像识别程序20b、照相机参数计算程序20c并执行,由此起动图像识别处理19a、照相机参数计算处理19b。该图像识别处理19a对应于上述图像识别装置130执行的处理,照相机参数计算处理19b对应于控制装置140执行的处理。
并且,HDD20存储包含由输入装置13等取得的照明装置11的照度分布、环境光的照度分布、对象亮度、对象坐标的信息等在内的各种数据20a。CPU19读出存储在HDD20中的各种数据20a并将其存储在RAM15中,使用存储在RAM15中的各种数据15a来计算照相机参数,在视频摄影装置12中设定所计算出的照相机参数。
但是,图14所示的图像识别程序20b、照相机参数计算程序20c不一定最初就存储在HDD20中。例如,也可以在插入计算机中的软盘(FD)、CD-ROM、DVD盘、光磁盘、IC卡等“移动用的物理介质”、或者在计算机内外所具有的硬盘驱动器(HDD)等“固定用的物理介质”、以及经由公共线路、因特网、LAN、WAN等与计算机连接的“其他计算机(或服务器)”等中存储图像识别程序20b、照相机参数计算程序20c,计算机从中读出图像识别程序20b、照相机参数计算程序20c并执行。
产业上的可利用性
如上所述,本发明的摄像装置、摄像方法以及摄像方法在调整照相机参数来进行监视范围的对象物的识别的系统等中是有用的,特别适用于如下情况:在某个时刻的照度不均匀的情况下,与监视范围内所包含的对象物的位置无关,需要提高识别率。

Claims (9)

1.一种摄像装置,该摄像装置检测物体并进行摄影,其特征在于,该摄像装置具有:
检测单元,其检测所述物体;
摄影单元,其拍摄检测到的所述物体的图像;
存储单元,其预先存储所述物体实际存在的空间的位置和照度以及仅利用照明光测定出的照度;
计算单元,其根据由所拍摄的所述物体的图像得到的、所述物体在拍摄的所述图像上的位置和亮度以及所述存储单元中存储的仅利用照明光测定出的照度,计算所述物体实际存在的空间中的位置和照度以及环境光照度;
照度分布计算单元,其根据存储在所述存储单元中的所述物体实际存在的空间中的位置的照度、以及由所述计算单元计算出的所述物体实际存在的空间中的位置的照度,计算监视范围整个区域中的照度分布;以及
曝光量决定单元,其根据计算出的所述物体实际存在的空间中的所述位置和所述照度和所述环境光照度以及计算出的所述照度分布,来决定摄像的曝光量。
2.根据权利要求1所述的摄像装置,其特征在于,
所述照度分布计算单元根据由所述计算单元计算出的所述物体实际存在的空间中的所述位置的环境光照度,计算将所述环境光照度和仅利用所述照明光所测定的照度都包含进去的监视范围整个区域中的照度分布。
3.根据权利要求2所述的摄像装置,其特征在于,
在不能在监视范围整个区域中以合适的明亮度进行摄影的情况下,所述曝光量决定单元根据所述物体实际存在的空间中的监视范围内的各位置处的物体的出现概率、和所述图像中的每个亮度下的物体的识别率的期望值,来决定曝光量,以使所述监视范围内的物体的整体的识别率的期望值最大。
4.根据权利要求2所述的摄像装置,其特征在于,
所述曝光量决定单元决定曝光量,以使在所述物体实际存在的空间的监视范围内的照度最高的位置检测到的画面中的物体的亮度为规定的上限值。
5.根据权利要求2所述的摄像装置,其特征在于,
所述曝光量决定单元决定曝光量,以使在所述物体实际存在的空间的监视范围内的照度最低的位置检测到的物体的亮度为规定的下限值。
6.根据权利要求2~5中的任一项所述的摄像装置,其特征在于,
所述曝光量决定单元利用镜头的光圈来决定曝光量。
7.根据权利要求2~5中的任一项所述的摄像装置,其特征在于,
所述曝光量决定单元通过快门速度来决定曝光量。
8.根据权利要求2~5中的任一项所述的摄像装置,其特征在于,
所述曝光量决定单元通过调光滤镜来决定曝光量。
9.一种摄像方法,该摄像方法检测物体并进行摄影,其特征在于,该摄像方法具有以下步骤:
存储步骤,预先存储物体实际存在的空间的位置和照度以及仅利用照明光测定出的照度;
检测步骤,检测所述物体;
拍摄步骤,拍摄检测到的所述物体的图像;
计算步骤,根据由所拍摄的所述物体的图像得到的、所述物体在拍摄的所述图像上的位置和亮度以及所述存储步骤中存储的仅利用照明光测定出的照度,计算所述物体实际存在的空间中的位置和照度以及环境光照度;
照度分布计算步骤,根据在存储步骤中存储的所述物体实际存在的空间中的位置的照度、以及通过所述计算步骤计算出的所述物体实际存在的空间中的位置的照度,计算监视范围整个区域中的照度分布;以及
决定步骤,根据计算出的所述物体实际存在的空间中的所述位置和所述照度和所述环境光照度以及计算出的所述照度分布,来决定摄像的曝光量。
CN2007801015977A 2007-11-19 2007-11-19 摄像装置以及摄像方法 Expired - Fee Related CN101868967B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2007/072384 WO2009066364A1 (ja) 2007-11-19 2007-11-19 撮像装置、撮像方法および撮像プログラム

Publications (2)

Publication Number Publication Date
CN101868967A CN101868967A (zh) 2010-10-20
CN101868967B true CN101868967B (zh) 2013-06-26

Family

ID=40667202

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2007801015977A Expired - Fee Related CN101868967B (zh) 2007-11-19 2007-11-19 摄像装置以及摄像方法

Country Status (6)

Country Link
US (1) US20100231712A1 (zh)
EP (1) EP2211534A4 (zh)
JP (1) JP5177147B2 (zh)
KR (1) KR101097017B1 (zh)
CN (1) CN101868967B (zh)
WO (1) WO2009066364A1 (zh)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5294995B2 (ja) * 2009-06-03 2013-09-18 パナソニック株式会社 距離計測装置及び距離計測方法
WO2013043014A2 (ko) * 2011-09-23 2013-03-28 주식회사 크리에이츠 스타트 센서를 이용하는 가상 스포츠 시스템
JP5726792B2 (ja) * 2012-03-12 2015-06-03 株式会社東芝 情報処理装置、画像センサ装置及びプログラム
CN103516972B (zh) * 2012-06-19 2017-03-29 联想(北京)有限公司 摄像头控制方法及电子设备
JP5800288B2 (ja) * 2012-10-30 2015-10-28 株式会社デンソー 車両用画像処理装置
KR101355076B1 (ko) * 2013-02-18 2014-01-27 주식회사 만도 차량 조도 환경 인식 장치 및 그 방법
US10937187B2 (en) 2013-10-07 2021-03-02 Apple Inc. Method and system for providing position or movement information for controlling at least one function of an environment
KR101953960B1 (ko) 2013-10-07 2019-03-04 애플 인크. 차량의 적어도 하나의 기능을 제어하기 위해 위치 또는 이동 정보를 제공하기 위한 방법 및 시스템
KR101520841B1 (ko) * 2014-12-03 2015-05-18 김진영 Cctv용 감시 카메라 및 그 감시 방법
JP6537385B2 (ja) * 2015-07-17 2019-07-03 日立オートモティブシステムズ株式会社 車載環境認識装置
CN106210553B (zh) * 2016-07-11 2020-01-14 浙江宇视科技有限公司 一种阴影遮挡下的抓拍优化方法及装置
CN108664847B (zh) * 2017-03-29 2021-10-22 华为技术有限公司 一种对象识别方法、设备和系统
US10453208B2 (en) * 2017-05-19 2019-10-22 Waymo Llc Camera systems using filters and exposure times to detect flickering illuminated objects
WO2019075758A1 (zh) * 2017-10-20 2019-04-25 深圳市大疆创新科技有限公司 成像控制方法、成像装置和无人机
CN108601154B (zh) * 2018-06-12 2019-09-10 横店集团得邦照明股份有限公司 基于摄像头和深度相机的恒照度室内照明控制器
CN109283931A (zh) * 2018-08-10 2019-01-29 中北大学 医疗病床运输车的线性ccd巡线系统及巡线方法
CN109218627B (zh) * 2018-09-18 2021-04-09 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质
JP7401211B2 (ja) 2019-06-25 2023-12-19 ファナック株式会社 外光照度測定機能を備えた測距装置及び外光照度測定方法
CN110718069B (zh) * 2019-10-10 2021-05-11 浙江大华技术股份有限公司 图像亮度调节方法、装置和存储介质
JP7298709B2 (ja) * 2019-11-21 2023-06-27 日本電気株式会社 パラメータ決定装置、パラメータ決定方法及び記録媒体
CN112087605B (zh) * 2020-09-21 2021-06-25 中国矿业大学(北京) 一种井下环境的照度监控方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040042683A1 (en) * 2002-08-30 2004-03-04 Toyota Jidosha Kabushiki Kaisha Imaging device and visual recognition support system employing imaging device
CN1547075A (zh) * 2003-12-05 2004-11-17 一种低照度条件下改进自动曝光的方法
CN1734343A (zh) * 2004-07-06 2006-02-15 Lg电子株式会社 用于对照相机进行曝光调节的方法和设备

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS557569B2 (zh) * 1972-02-16 1980-02-26
US6124891A (en) * 1987-11-04 2000-09-26 Canon Kabushiki Kaisha Exposure control device
JPH05183801A (ja) * 1992-01-07 1993-07-23 Sharp Corp 自動露光制御回路
JP3412174B2 (ja) * 1992-05-21 2003-06-03 松下電器産業株式会社 自動露光制御装置
JPH08136968A (ja) * 1994-11-04 1996-05-31 Nisca Corp オート露出カメラ及びこれの制御方法
JPH08214208A (ja) * 1995-02-08 1996-08-20 Fujitsu General Ltd 監視カメラの露出補正方法
JPH10224686A (ja) * 1997-01-31 1998-08-21 Mitsubishi Denki Eng Kk 撮像装置
JPH11175882A (ja) * 1997-12-16 1999-07-02 Furuno Electric Co Ltd 車番読取装置
JP3968872B2 (ja) * 1998-06-15 2007-08-29 ソニー株式会社 固体撮像素子の信号処理回路およびカメラシステム
JP3849333B2 (ja) * 1998-12-17 2006-11-22 コニカミノルタホールディングス株式会社 デジタルスチルカメラ
JP2001304832A (ja) * 2000-04-24 2001-10-31 Keyence Corp 光学式角度測定装置
JP4511750B2 (ja) * 2001-02-27 2010-07-28 三菱重工業株式会社 車両監視システム
JP2002274257A (ja) * 2001-03-19 2002-09-25 Nissan Motor Co Ltd 車両用監視装置
US6853806B2 (en) * 2002-09-13 2005-02-08 Olympus Optical Co., Ltd. Camera with an exposure control function
JP4304610B2 (ja) * 2004-05-18 2009-07-29 住友電気工業株式会社 カメラ式車両感知器における画面の輝度調整方法及び装置
US7095892B2 (en) * 2005-01-26 2006-08-22 Motorola, Inc. Object-of-interest image capture
JP4218670B2 (ja) * 2005-09-27 2009-02-04 オムロン株式会社 前方撮影装置
US7821570B2 (en) * 2005-11-30 2010-10-26 Eastman Kodak Company Adjusting digital image exposure and tone scale
JP4867365B2 (ja) * 2006-01-30 2012-02-01 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法
JP4760496B2 (ja) * 2006-04-03 2011-08-31 セイコーエプソン株式会社 画像データ生成装置、画像データ生成方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040042683A1 (en) * 2002-08-30 2004-03-04 Toyota Jidosha Kabushiki Kaisha Imaging device and visual recognition support system employing imaging device
CN1547075A (zh) * 2003-12-05 2004-11-17 一种低照度条件下改进自动曝光的方法
CN1734343A (zh) * 2004-07-06 2006-02-15 Lg电子株式会社 用于对照相机进行曝光调节的方法和设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JP平5-183801A 1993.07.23
JP平8-214208A 1996.08.20

Also Published As

Publication number Publication date
EP2211534A4 (en) 2014-11-12
KR20100064388A (ko) 2010-06-14
CN101868967A (zh) 2010-10-20
WO2009066364A1 (ja) 2009-05-28
JPWO2009066364A1 (ja) 2011-03-31
US20100231712A1 (en) 2010-09-16
EP2211534A1 (en) 2010-07-28
JP5177147B2 (ja) 2013-04-03
KR101097017B1 (ko) 2011-12-20

Similar Documents

Publication Publication Date Title
CN101868967B (zh) 摄像装置以及摄像方法
CN107797549A (zh) 用于控制自主车辆的视觉传感器的方法和设备
CN108401457A (zh) 一种曝光的控制方法、装置以及无人机
CN106524922A (zh) 测距校准方法、装置和电子设备
US7590263B2 (en) Vehicle vicinity monitoring apparatus
CN110231018B (zh) 一种结构光测距方法、装置及计算机可读存储介质
JP2768042B2 (ja) 距離測定装置
CN109916415B (zh) 道路类型确定方法、装置、设备及存储介质
WO2022183685A1 (zh) 目标检测方法、电子介质和计算机存储介质
WO2020014832A1 (zh) 一种地图加载的方法、装置、电子设备和可读存储介质
CN110378246A (zh) 地面检测方法、装置、计算机可读存储介质及电子设备
WO2022126522A1 (zh) 物体识别方法、装置、可移动平台以及存储介质
CN113850137A (zh) 一种输电线路图像在线监测方法、系统及设备
CN111582255A (zh) 车辆超限检测方法、装置、计算机设备和存储介质
CN103363898B (zh) 集装箱对箱检测装置
CN112580600A (zh) 粉尘浓度检测方法、装置、计算机设备和存储介质
CN111967396A (zh) 障碍物检测的处理方法、装置、设备及存储介质
CN114051093B (zh) 一种基于图像处理技术的便携式航标灯现场检测系统
US9898676B2 (en) Method for determining the level of degradation of a road marking
JPH1144533A (ja) 先行車両検出装置
CN105572133A (zh) 瑕疵检测方法及其装置
JP3612565B2 (ja) 路面状況判定方法
CN115755072A (zh) 一种基于双目结构光相机的特殊场景定位的方法及系统
CN108881860B (zh) 一种人工智能终端防御系统及方法
CN113655066A (zh) 一种网箱破损检测装置、系统及方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130626

Termination date: 20141119

EXPY Termination of patent right or utility model