CN1645943B - 生成立体图像的电子照相机和图像生成装置 - Google Patents
生成立体图像的电子照相机和图像生成装置 Download PDFInfo
- Publication number
- CN1645943B CN1645943B CN200510002596XA CN200510002596A CN1645943B CN 1645943 B CN1645943 B CN 1645943B CN 200510002596X A CN200510002596X A CN 200510002596XA CN 200510002596 A CN200510002596 A CN 200510002596A CN 1645943 B CN1645943 B CN 1645943B
- Authority
- CN
- China
- Prior art keywords
- mentioned
- cut zone
- picture
- stereo
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/218—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
Abstract
本发明提供一种可生成立体图像的电子照相机和图像生成装置,即使在使用具有曝光校正功能的打印装置进行打印输出时,也能进行合适的亮度水平(印相深度)控制。在本发明中,使用CCD彩色摄像元件(34)成像左右并列被摄物体像,进行光电转换来获得被摄物体图像信号。此时,在曝光控制部(50d)对上述被摄物体图像信号进行分析,算出与规定测光区域有关的曝光信息。然后,在根据上述被摄物体图像信号在SPM合成部(50b)生成立体图像时,在分割区域设定部(50a),根据上述并列被摄物体像的曝光信息,设定将该并列被摄物体像的各单眼图像进行分离配置的作为分离带的分割区域的亮度水平。
Description
技术领域
本发明涉及适用于拍摄立体图像的电子照相机和图像生成装置,更详细地说,涉及即使在拍摄或生成了多眼式立体图像的情况下,也能获得合适的打印照片的电子照相机和图像生成装置。
背景技术
专利文献1特开2002-218506号公报
使图像包含立体信息进行摄影记录并再现观察该图像的方式有多种多样的提案。其中,一种所谓2眼式立体方式由于结构最简单、价格低廉且效果好,因而从以往至今一直在利用,该2眼式立体方式记录与左右两眼的视点对应的具有视差的2个图像,并将该2个图像分别显示给左右两眼。
在该2眼式立体方式中,对于所谓的个人使用来说,一种使用立体像对(stereo pair)图像的方式,作为可极其廉价地观察鲜明图像的方式,今天仍在广泛使用,该方式虽然存在只能同时由1人观察的制约,但却是最基本和传统的方法。
而且,作为使用立体附加器(stereo adapter)的立体摄像装置,公知有一种技术(例如,参照专利文献1),该技术在系统控制器内设有:立体附加器检测部,检测立体附加器的安装;自动曝光(AE)控制部,用于对与测光区域有关的被摄物体图像信号进行分析,算出曝光控制所需要的测光信息;以及测光区域设定部,进行上述测光区域的设定,测光区域设定部具有在普通摄影模式时和立体摄影模式时设定各自不同的测光区域的功能,从而设定对普通摄影模式和立体摄影模式各自最佳的测光区域。
另外,在使用上述专利文献1所述的装置拍摄了立体图像的情况下,希望要记录的立体图像的曝光是合适的,然而在考虑打印该图像的情况下,特别是在市场上普及的打印服务中心(プリントサ一ビスラボ)的打印中,产生以下问题。
即,在把记录有图像的记录介质带到一般的服务中心进行打印的情况下,一般,在对每个所记录的图像(张)自动进行了适合于各自图像状态的各种图像处理之后进行打印输出。其代表例是曝光校正,即使是摄影时稍微发生曝光过度或不足的图像,打印机的图像处理系统也通过进行该图像信号的水平分析,对打印时的亮度水平(反射率或深度)施加校正,从而获得合适的亮度水平的图像。
该打印时的曝光校正,在普通图像的情况下,大多是在进行图像信号水平的分析时,采用对图像的中央部进行加权的平均处理。即,在打印机侧,类似照相机的曝光控制,进行与中央重点平均测光(用于在重视主要被摄物体的同时,使整体不产生破坏)相当的信号水平分析,根据该分析结果对要输出的亮度水平(打印的印相深度)施加校正,从而打印输出合适的所需图像。
然而,在打印上述的立体像对图像时,与普通图像不同,有时发生问题。原因是,由于立体像对图像是将与左右视点对应的2个单眼图像并排配置的图像,因而被摄物体的中央部位于左右两个部位,单眼图像的边界部分位于立体图像整体的中央部,因此,当采用上述普通图像用的曝光校正时,很可能发生违反意图的曝光校正(误校正)。即,由于该边界部分是在装有立体附加器时容易产生暗影(eclipse shading)的部分,因而与本来的两单眼图像的水平无关,容易成为低水平。因此,由于主要被摄物体被误解为是暗的,因而产生由于曝光校正而使本来图像的亮度水平异常增高的过曝光状态。
而且,在成为对象的图像不是以往的胶卷图像而是数字图像的情况下,除了上述装有立体附加器时的暗影以外,还会由立体图像的结构自身产生该打印时的曝光误校正问题。其背景有以下情况。
即,以往使用的一般立体像对图像难以辨认左右2个单眼图像的边界。即,仅在显示画面上观看,难以区别是构成立体图像的左右2个单眼图像,还是普通图像即具有左右类似的图形的图像。
仅从这点而言,在显著地发生了由上述立体附加器引起的暗影时,成为判别是立体照片的标记,反倒具有有利的一面。当然,由该附加器引起的暗影本质上是妨碍图像的,另外,由于其随着主摄像光学系统的特性、例如光圈值而多样地变化,因而不总是有用的。
因此,为了确实保持这种视认判别性,如果利用在数字图像中,图像加工(图像处理)极其容易这一情况,在要生成的1个立体图像中将左右两个单眼图像进行分离配置,用例如黑(亮度水平0)填充其间的区域,则该区域成为所谓的2图像的分离带,可直接视认判别立体图像是立体图像。该区域不限于仅在2图像之间的区域,还可以设置成围绕2图像的画框(例如可以是呈眼镜框架状),当然可实现同样功能。
因此,作为立体图像的记录格式,采用具有上述分离带或画框的立体图像的记录格式是适合的,然而在此情况下,由于黑的分离带存在于与上述立体附加器的暗影相同的位置,因而会发生相同的曝光误校正。
而且,在上述中为了容易理解,说明了立体方式是与左右两眼对应的2眼式,而打印系统是市场上普及的打印服务中心的情况,然而,当然,在使用具有曝光校正(自动亮度水平调节)功能的打印装置打印采用3眼或3眼以上的一般的多眼式立体方式所记录的图像的情况下,也同样存在上述问题。
发明内容
因此,本发明是鉴于上述实际状况而提出的,本发明的目的是提供一种可生成立体图像的电子照相机和图像生成装置,即使在使用具有曝光校正功能的打印装置进行打印输出时,也能进行合适的亮度水平(印相深度)控制。
即,发明1的生成立体图像的电子照相机,其特征在于,具有:立体摄像光学系统,具有规定视差,把被摄物体像分离成像成多个并列被摄物体像;摄像部,把由上述立体摄像光学系统所成像的被摄物体像进行光电转换,获得被摄物体图像信号;分割区域设定部,在根据由上述立体摄像光学系统分离成像的并列被摄物体像的图像数据所生成的立体图像中,设定分割区域,该分割区域是为了将该并列被摄物体像的各单眼图像进行分离配置而插入的区域;以及信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,上述信号水平控制部把上述分割区域的平均信号水平控制成与上述并列被摄物体像的平均曝光水平大致一致的水平。
发明2的生成立体图像的电子照相机,其特征在于,具有:立体摄像光学系统,具有规定视差,把被摄物体像分离成像成多个并列被摄物体像;摄像部,把由上述立体摄像光学系统所成像的被摄物体像进行光电转换,获得被摄物体图像信号;分割区域设定部,在根据由上述立体摄像光学系统分离成像的并列被摄物体像的图像数据所生成的立体图像中,设定分割区域,该分割区域是为了将该并列被摄物体像的各单眼图像进行分离配置而插入的区域;以及信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,上述信号水平控制部把上述分割区域的平均信号水平控制成与上述并列被摄物体像的各单眼图像的中央部的曝光水平大致一致的水平。
发明3的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域设定成亮度分布均匀的图形。
发明4的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域内部的至少大部分设定成色度高的单色。
发明5的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域设定成亮度分布不均匀的图形,并且包含明部和暗部。
发明6的特征在于,在发明5所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域的与上述并列被摄物体像的各单眼图像接触的部分设定成明部。
发明7的特征在于,在发明5所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域的与上述并列被摄物体像的各单眼图像接触的部分设定成暗部。
发明8的特征在于,在发明5所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域设定成多个条纹,该多个条纹是上述明部和暗部的重复图形。
发明9的特征在于,在发明5所述的生成立体图像的电子照相机中,上述分割区域设定部把上述分割区域内部的至少大部分设定成棋盘图形,该棋盘图形是上述明部和暗部纵横交替重复的图形。
发明10的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,上述分割区域设定部,作为连续地构成包围上述并列被摄物体像整体的立体框图形的该立体框图形的部分区域,形成上述分割区域。
发明11的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,由上述立体摄像光学系统所成像的多个并列被摄物体像的数量是与左右两眼对应的2个。
发明12的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,上述立体摄像光学系统在单眼光学系统上装有可拆装的立体附加器。
发明13的特征在于,在发明1~2中的任何一项所述的生成立体图像的电子照相机中,还具有:曝光水平检测部,算出与上述被摄物体像的拍摄所涉及的规定测光区域有关的曝光信息;上述信号水平控制部根据由上述曝光水平检测部所检测的曝光信息,控制上述分割区域的图像信号水平。
发明14的图像生成装置,通过以规定条件配置具有规定视差的所记录的多个单眼图像来生成立体图像,其特征在于,该图像生成装置具有:分割区域设定部,在上述立体图像中设定分割区域,该分割区域是为了将各单眼图像进行分离配置而插入的区域;以及信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,上述信号水平控制部把上述分割区域的平均信号水平控制成与上述多个单眼图像的平均亮度水平大致一致的水平。
发明15的图像生成装置,通过以规定条件配置具有规定视差的所记录的多个单眼图像来生成立体图像,其特征在于,该图像生成装置具有:分割区域设定部,在上述立体图像中设定分割区域,该分割区域是为了将各单眼图像进行分离配置而插入的区域;以及信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,上述信号水平控制部把上述分割区域的平均信号水平控制成与上述多个单眼图像的各图像的中央部的亮度水平大致一致的水平。
发明16的特征在于,在发明14~15中的任何一项所述的图像生成装置中,上述分割区域设定部把上述分割区域设定成亮度分布均匀的图形。
发明17的特征在于,在发明14~15中的任何一项所述的图像生成装置中,上述分割区域设定部把上述分割区域内部的至少大部分设定成色度高的单色。
发明18的特征在于,在发明14~15中的任何一项所述的图像生成装置中,上述分割区域设定部把上述分割区域设定成亮度分布不均匀的图形,并且包含明部和暗部。
发明19的特征在于,在发明18所述的图像生成装置中,上述分割区域设定部把上述分割区域的与上述多个单眼图像的各单眼图像接触的部分设定成明部。
发明20的特征在于,在发明18所述的图像生成装置中,上述分割区域设定部把上述分割区域的与上述多个单眼图像的各单眼图像接触的部分设定成暗部。
发明21的特征在于,在发明18所述的图像生成装置中,上述分割区域设定部把上述分割区域设定成多个条纹,该多个条纹是上述明部和暗部的重复图形。
发明22的特征在于,在发明18所述的图像生成装置中,上述分割区域设定部把上述分割区域内部的至少大部分设定成棋盘图形,该棋盘图形是上述明部和暗部纵横交替重复的图形。
发明23的特征在于,在发明14~15中的任何一项所述的图像生成装置中,上述分割区域设定部,作为连续地构成包围上述多个单眼图像整体的立体框图形的该立体框图形的部分区域,形成上述分割区域。
发明24的特征在于,在发明14~15中的任何一项所述的图像生成装置中,由上述立体摄像光学系统所成像的多个单眼图像的数量是与左右两眼对应的2个。
发明25的特征在于,在发明14~15中的任何一项所述的图像生成装置中,还具有算出与上述多个单眼图像有关的亮度信息的亮度水平检测部;上述信号水平控制部根据由上述亮度水平检测部所检测的亮度信息来控制上述分割区域的图像信号水平。
根据本发明,可提供即使在使用具有曝光校正功能的打印装置进行打印输出时,也能进行合适的亮度水平(印相深度)控制的可生成立体图像的电子照相机和图像生成装置。
附图说明
图1是示出根据本发明的第1实施方式的电子照相机的结构的方框图。
图2是示出安装在本实施方式的电子照相机内的反射镜式立体附加器的结构的图。
图3是对根据本发明的第1实施方式的电子照相机的分割区域设定动作进行说明的流程图。
图4是示出根据图3的分割区域设定动作所生成的左右图像和分割区域的例子的图。
图5是对根据本发明的第2实施方式的电子照相机的分割区域设定动作进行说明的流程图。
图6是示出根据图5的分割区域设定动作所生成的左右图像和分割区域的例子的图。
图7是对根据本发明的第3实施方式的电子照相机的分割区域设定动作进行说明的流程图。
图8是示出根据图7的分割区域设定动作所生成的左右图像和分割区域的例子的图。
图9是示出根据本发明的第4实施方式的电子照相机的分割区域设定动作所生成的左右图像和分割区域的例子的图。
符号说明
1…照相机主体;5…透镜单元;10…立体附加器;11、12、13、14…反射镜;21…摄影透镜组;22…曝光控制机构;25…曝光控制驱动器;31…半反射镜;32…滤波器;34…CCD彩色摄像元件;35…CCD驱动器;36…预处理电路;39…数字处理电路;40…LCD显示部;41…卡接口(IF);42…存储卡;45…AF传感器模块;46…分离透镜;47…AF传感器;50…系统控制器(CPU),50a…分割区域设定部;50b…SPM合成部;50c…SGM生成部;50d…曝光控制部;50e…测光区域设定部;51…非易失性存储器(EEPROM),52…操作开关(SW);53…操作显示部;54…立体切换开关;60…个人计算机。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。
(第1实施方式)
图1是示出根据本发明的第1实施方式的电子照相机的结构的方框图。
该电子照相机由以下部分构成:照相机主体1;具有透镜镜筒的透镜单元5;以及作为立体图像摄影用的立体附加单元的立体附加器10。
在本实施方式的电子照相机中,反射镜式的立体附加器10可拆装于透镜单元5上。该立体附加器10采用以下结构:在以视差程度分离的位置分别配置有反射镜11、12,还配置有反射镜13、14,该反射镜13、14用于把由该反射镜11、12所反射的光引导到照相机侧。
通过了立体附加器10内的反射镜11、13以及反射镜12、14的光分别通过透镜单元5内的摄影透镜组21被引导到曝光控制机构22,并进一步被引导到照相机主体1内的半反射镜31。
上述透镜单元5具有摄影透镜组21、曝光控制机构22、透镜驱动机构23、透镜驱动器24、以及曝光控制驱动器25。
上述摄影透镜组21是在未安装立体附加器10的状态下可进行普通(单眼)摄像的主摄像光学系统(非立体光学系统),其聚焦、变焦的调节由透镜驱动机构23驱动。即,立体摄像光学系统由立体附加器10和主摄像光学系统构成。透镜驱动机构23由透镜驱动器24控制。并且,上述曝光控制机构22是用于对摄影透镜组21的光圈和快门装置(未作图示)进行控制的机构。该曝光控制机构22由曝光控制驱动器25控制。
从上述透镜单元5被引导到照相机主体1的光通过半反射镜31,并通过低通和红外线截止用的滤波器32而成像在作为摄像部的CCD彩色摄像元件34上。该CCD彩色摄像元件34是由CCD驱动器35控制的摄像单元,此处,被摄物体像被光电转换成电信号。而且,CCD彩色摄像元件34使用例如纵型溢漏(overflow drain)结构的行间型、顺序(顺次)扫描型的摄像元件。
由上述CCD彩色摄像元件34光电转换后的信号通过包含A/D转换器等的预处理电路36被输出到数字处理电路39,该数字处理电路39用于进行颜色信号生成处理、矩阵转换处理及其他各种数字处理。在该数字处理电路39中,通过对上述被数字化后的图像信号进行处理,生成彩色图像数据。
并且,该数字处理电路39与LCD显示部40连接,并通过卡接口(IF)41与CF(Compact Flash Memory Card:小型快闪存储卡)和智能介质等的存储卡42连接。上述LCD显示部40显示彩色图像数据,存储卡42存储彩色图像数据。
而且,上述存储卡42可装入外部个人计算机60内。因此,记录在存储卡42内的图像可在个人计算机60上进行显示、图像处理等。并且,可使用未作图示的打印机进行打印输出。
上述半反射镜31反射入射的被摄物体像的一部分,因此,该被反射的光被引导到AF传感器模块45。AF传感器模块45用于根据通过摄影透镜组21所入射的光线进行焦点检测。上述AF传感器模块45构成为具有:光瞳分割用的分离透镜46;以及由行传感器构成的AF传感器47。
系统控制器(CPU)50用于对照相机主体1和透镜单元5内的各部分进行统一控制。该系统控制器50除了与上述透镜驱动器24、曝光控制驱动器25、CCD驱动器35、预处理电路36、数字处理电路39、以及AF传感器模块45连接以外,还与操作开关部52、操作显示部53、非易失性存储器(EEPROM)51、以及立体切换开关(SW)54连接。
上述操作开关部52由释放开关、摄影模式设定等的各种开关构成。上述操作显示部53是用于显示照相机的操作状态和模式状态等的显示部。
上述EEPROM51是用于存储各种设定信息等的存储器。而且,立体切换开关54是用于在将立体附加器10安装在透镜单元5内时切换模式的切换开关。而且,此处,摄影模式切换是通过操作立体切换开关54来进行,然而不限于此。例如,可以在立体附加器10内设置检测功能来自动进行摄影模式切换。
上述系统控制器50控制曝光控制机构22和CCD驱动器35对CCD彩色摄像元件34的驱动,进行曝光(电荷蓄积)和信号读出。然后,将该信号通过预处理电路36取入到数字处理电路39内,在此施加了各种信号处理后,通过卡接口41记录到存储卡42内。
而且,闪光装置57作为发光单元发出闪光,其通过透镜单元5内的曝光控制驱动器25,由系统控制器50控制。
上述系统控制器50构成为还具有:作为分割区域设定单元的分割区域设定部50a,立体像对图像(SPM;Stereo Pair in Multimedia)合成部50b,规定格式的电子图像文件SGM(Stereo Gram in Multimedia)生成部50c,作为测光和曝光控制单元的曝光控制部50d,以及作为测光区域设定单元的测光区域设定部50e。而且,关于上述SPM和SGM,可参照本申请人以前申请的特开2002-77942号公报。
上述分割区域设定部50a用于设定拍摄了立体图像时的构成该立体图像的单眼图像的边界部分,换言之,设定作为分离带的区域(以下记为分割区域)的具体数据(图像图形),在功能方面,可以说是下述SPM合成部50b的一部分,然而在本发明中,由于起到中心的作用,因而特别将分出该部分进行图示。
并且,SPM合成部50b用于从单眼图像合成得到SPM图像,然而也起到信号水平控制单元的作用,该信号水平控制单元对分割区域设定部50a所设定的分割区域的图像信号水平进行控制。并且,SGM生成部50c是为了根据SPM图像来生成SGM图像数据而设置的。
曝光控制部50d是用于对与测光区域有关的被摄物体图像信号进行分析,算出曝光控制所需要的曝光信息,或者用于算出与多个单眼图像有关的亮度信息的控制单元,也起到曝光(亮度)水平检测部的作用。并且,测光区域设定部50e用于进行上述测光区域的设定。
该测光区域设定部50e具有在普通摄影模式时和立体摄影模式时设定各自不同的测光区域的功能,从而设定对普通摄影模式和立体摄影模式各自最佳的测光区域。此处,在普通模式时,对摄像元件上的摄影范围(摄影画框)整体适用平均测光,而在立体摄影模式时,对设置在摄像元件上的左右各画框(各单眼图像用的画框)整体适用平均测光。因此,在各摄影模式中,对被摄物体整体进行大致合适的曝光控制。当然,此时可以不采用简单的平均测光,而是可以对各画框采用以往公知的各种测光方式(使中央部具有加权的中央部重点平均测光,以及例如纵横都为画框的70%的同心矩形(面积约50%)等合适区域的部分测光等)。
图2是示出安装在本实施方式的电子照相机内的反射镜式立体附加器的结构的图。
在图2中,反射镜式立体附加器10可拆装于透镜单元5上,透镜单元5具有安装在照相机主体1上的透镜镜筒。该立体附加器10构成为,在以视差程度分离的位置分别配置有反射镜11、12,还配置有反射镜13、14,该反射镜13、14用于把在该反射镜11、12所反射的光引导到照相机侧。
入射到立体附加器10的左眼视用反射镜12上的光通过反射镜14和摄影透镜组21在摄像元件34的区域L内成像。同样,入射到右眼视用反射镜11上的光通过反射镜13和摄影透镜组21在摄像元件34的区域R内成像。
在该LR各区域内成像的被摄物体图像中,实际上,由于如上所述在边界部发生暗影,或者成像位置发生偏移,因而为了避免该暗影或者校正位置偏移,以对各区域中的规定部分进行修整的形式设定有左右2个画框,从摄像元件34中读出的该左右2个画框内的图像信号形成要记录的2个单眼图像。然后如上所述,在摄影(曝光)时,进行曝光控制,使得该2个单眼图像的曝光合适,并生成将该2个图像配置在规定位置的1个立体图像(SPM),最终作为在根据需要进行了压缩处理后附加了附属数据(元数据)的规定格式的数字图像文件(SGM)而记录在存储卡42内,该过程与原先引用的各专利文献相同,省略详述。然而,关于在上述SPM生成时进行分割区域的数据(图像图形)设定这一点,由于是本发明的要点,因而以下进行详述。
下面,参照图3的流程图对根据本发明的第1实施方式的电子照相机的分割区域的数据设定动作进行说明。该动作由系统控制器50控制。而且,由于分割区域的数据设定仅在立体摄像时才涉及,因而当然在设置于照相机主体1上的模式切换开关54被设定成普通模式时,即普通摄影时不进行该设定。
然后,在步骤S1,对左右2个单眼图像整体,算出该图像的平均亮度信号水平作为平均曝光水平。
补充说明的是,在曝光控制系统的控制目标值是该图像的亮度信号水平的这种意义上,“曝光水平”和“亮度信号水平”是等效对应的。即,由上述曝光控制部50d所控制的曝光水平与结果所记录的图像的亮度信号水平对应,特别是象本实施方式的电子照相机那样,在对摄像影像信号的亮度信号水平进行分析来获得曝光信息的方式的情况下,该对应是直接的。因此,如果正确考虑在许多情况下施加给图像的伽玛特性(非线性处理),可以完全同样适用于不具有摄像功能的、根据与例如左右2视点对应的2个(一般是多个)已经记录的单眼图像生成1个SPM那样的一般的立体图像生成装置。
并且,在除了作为摄像元件的CCD34以外,还使用测光专用的例如光电二极管传感器的情况下,不一定对视频信号的亮度信号水平进行分析,可依据上述等效关系,根据来自该测光专用传感器的信息来算出曝光水平。
使用摄像图像信号例如如下进行此处的平均亮度信号水平的算出。即,省略坐标表示,把各像素的RGB值(信号水平)设定为R、G、B,把平均亮度水平设定为L,则可使用下式求出:
L=1/N·∑Y
式中,Y=C1 R+C2 G+C3 B
此处,∑表示与对象像素区域有关的总和,N表示该区域的像素数,C1~C3是亮度矩阵系数,例如在NTSC方式的情况下,C1=0.3,C2=0.59,C3=0.11。
为了在打印时不发生因分割区域引起的曝光误校正,最简单的是,可以使用与所求出的平均亮度信号水平相同的亮度信号水平、即亮度为L的均匀图形填充分割区域。在本实施方式中,从进一步提高视认判别性的观点看,使用作为高色度的颜色的单色的蓝((R,G,B)=(0,0,B))。
因此,在步骤S2,算出填充分割区域的B的值。根据亮度矩阵系数,B=L/C3。即,对分割区域的全部像素,(R,G,B)=(0,0,L/C3),仅为色度高的蓝成分的单色。
之后,在步骤S3,根据按上述所算出的B的值,生成分割区域。
图4是示出这样生成的由左右各单眼图像和分割区域构成的SPM的例子的图。在该图中,在左图像34L和右图像34R之间形成有由图中斜线所示的分割区域34Sa。在第1实施方式的情况下,如上所述,分割区域34Sa为不包含R(红)、G(绿)成分的仅B(蓝)成分的单色。
由这种色成分形成的图形被判断为是与普通被摄物体明显不同的图形。因此,可容易地判断图4所示的图像不是将左右类似的被摄物体排列的普通(单眼)图像,而是包含分割区域34Sa的立体图像,同时如上所述,由于对分割区域的亮度水平进行控制,因而可防止在打印时对曝光进行误校正。
而且,在上述实施方式中,仅使用把分割区域34Sa作为均匀图形的B(蓝)成分的单色作了说明,然而不限于此,当然也可以仅是R(红)成分,或者仅是G(绿)成分。并且,可以不使用R、G、B成分中的单色,而是可以使用任意的相同色(例如中灰)来构成分割区域。并且,可以不使用色度高的单色来填充分割区域,而是可以使分割区域的内部的大部分成为色度高的单色。
并且,在上述第1实施方式中,使用由作为曝光水平检测部的曝光控制部50d所检测的平均曝光水平(平均亮度水平)来生成分割区域,然而不限于此,可以通过检测各单眼画框的中央部的曝光水平(亮度水平)来生成分割区域。并且,由于立体图像中的各单眼图像是大致类似的图形,因而可以不使用全部图像,而使用一个图像为代表来检测曝光水平(亮度水平)。
(第2实施方式)
在上述第1实施方式中,对使用仅相同成分的单色形成分割区域的例子作了说明。然而,除此以外,还可使用与被摄物体明显不同的图形来形成,并将该图形作为分割区域。因此,在该第2实施方式中,对使用2色条纹的重复图形来形成的例子进行说明。此处,使用白(明部)、黑(暗部)2色,特别是使用饱和水平(最大值,最小值)即RGB值为(255,255,255)、(0,0,0)。
而且,由于本第2实施方式中的电子照相机的结构基本上与图1所示的结构相同,因而对相同部分赋予相同参照编号,省略其图示和说明。
图5是对根据本发明的第2实施方式的电子照相机的立体摄影时的SPM生成中的分割区域设定动作进行说明的流程图。而且,该动作由系统控制器50控制。
首先,在步骤S11,与第1实施方式相同,算出左右图像的平均亮度水平L。
接着,在步骤S12,算出分割区域的条纹。具体地说,例如,在形成有图6所示那样的分割区域34Sb的情况下,形成有把与各单眼图像接触的外侧部分配置成黑的黑白条纹图形。然后,在此情况下,黑与黑之间和白与白之间各自的条纹宽度相等,但在可任意设定黑和白的宽度的条件下,把黑的条纹图形的宽度合计设定为WB,把白的条纹图形的合计设定为WW,把分割区域34Sb的宽度设定为WP,按下述算出WB和WW。
即,该分割区域的平均亮度水平为:
255×WW/(WB+WW)=255×WW/WP
而为了使该平均亮度水平与在上述步骤S11所求出的平均亮度水平L相等,则:
255×WW/WP=L
因此,只要
WW=WP×L/255,
WB=WP×(255-L)/255
即可。在图6例示那样的6根白条纹、7根黑条纹的情况下,每1根条纹的宽度分别为WW/6和WB/7。
然后,在步骤S13,作为图像实际生成这样算出的分割区域34Sb。
这种分割区域34Sb被判断为与普通被摄物体明显不同。因此,可容易地判断图6所示的图像不是将左右类似的被摄物体排列的普通(单眼)图像,而是包含分割区域34Sb的1个立体图像,同时如上所述,由于对分割区域的亮度水平进行控制,因而可防止在打印时对曝光进行误校正。
而且,在上述第2实施方式中,分割区域34Sb中的外侧条纹为暗部,内侧条纹为明部,然而不限于此,当然可以采用相反的排列。
(第3实施方式)
图7是对根据本发明的第3实施方式的电子照相机的分割区域设定动作进行说明的流程图。而且,该动作由系统控制器50控制。
上述第2实施方式通过重复条纹图形来构成分割区域,而该第3实施方式由棋盘图形构成。
根据该第3实施方式的分割区域的结构,除了步骤S22以外,与上述根据第2实施方式的图5的流程图的步骤S11~S13相同。
棋盘图形的情况与条纹的情况不同,即使改变图形间隔(相当于条纹宽度),黑白面积比率(除了边缘以外)也不变而保持50%,因而在此情况下,通过进行水平调节而不使黑白成为饱和水平,可使图形整体的平均亮度水平与在步骤S21所求出的平均亮度水平L相等。
因此,在步骤S22,算出分配给预先决定的棋盘图形的黑白各像素的信号水平(RGB值)。具体的算出式,作为一例,可以为:
在L<128的情况下:白(2L,2L,2L)黑(0,0,0)
在L>127的情况下:白(255,255,255)黑(2L-255,2L-255,2L-255)。
图8是示出这样生成的左右图像和分割区域的例子的图。在该图中,在左右图像34L和34R之间形成有使用黑白2色形成的棋盘图形的分割区域34Sc。而且,由于分割区域34Sc被判断为是与普通被摄物体明显不同,因而,可容易地判断图8所示的图像不是将左右类似的被摄物体排列的普通(单眼)图像,而是包含分割区域34Sc的1个立体图像,同时,由于如上所述对分割区域的亮度水平进行控制,因而可防止在打印时对曝光进行误校正。
(第4实施方式)
并且,在上述第1至第3实施方式中,对把分割区域配置在左右图像的中央的例子作了说明,然而不限于此。即,由于设置分割区域是为了区别普通图像和立体图像,因而例如,如图9所示,可以覆盖左图像35L、右图像35R的周围(整体呈眼镜框架状)形成分割区域35S。并且,也可以仅把该分割区域35S的一部分区域设置为分割区域。
当然,这种情况下的分割区域的图形可以是单色、重复条纹、棋盘图形或者花纹等、确实可与被摄物体图像相区别的图形。
而且,在上述实施方式中,为使说明简单,使用8位表现数字值的位数,并暗示假定为线性而不特别触及γ校正作了说明。然而,为了更严密地设定分割区域的平均亮度水平,假定分割区域也具有与主图像(2个单眼图像)的γ特性相同的γ特性,在平均亮度水平的算出受到伽玛影响的情况下,最好进行去γ(de-γ)校正,返回到线性之后来算出。
并且,上述实施方式是电子照相机即摄像记录装置,然而本发明不限于此。作为一例,此处列举出一种立体图像生成装置作为本发明的另一方面的一个实施方式,该立体图像生成装置采用图像编辑装置的形式,该图像编辑装置具有可拆装连接存储介质的槽,或者通过网络连接来输入输出图像,其自身不具有摄像功能,该立体图像生成装置具有以下功能:根据由单独摄像装置所拍摄的与左右2视点对应的2个已经记录的单眼图像来生成1个SPM(SGM)。当然,关于该实施方式,除了与摄像有关系的部分以外,可直接应用上述全部实施方式。
并且,在上述中,说明了立体方式是与左右两眼对应的2眼式的情况,然而,当然,也同样可以应用于3眼或3眼以上的一般的多眼式立体方式。
Claims (25)
1.一种生成立体图像的电子照相机,包含:
立体摄像光学系统,具有规定视差,把被摄物体像分离成像为多个并列被摄物体像;
摄像部,将由上述立体摄像光学系统成像的被摄物体像进行光电转换,获得被摄物体图像信号;
分割区域设定部,在根据由上述立体摄像光学系统分离成像的并列被摄物体像的图像数据所生成的立体图像中,设定分割区域,该分割区域是为了将该并列被摄物体像的各单眼图像进行分离配置而插入的区域;以及
信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,
上述信号水平控制部把上述分割区域的平均信号水平控制成与上述并列被摄物体像的平均曝光水平大致一致的水平。
2.一种生成立体图像的电子照相机,包含:
立体摄像光学系统,具有规定视差,把被摄物体像分离成像为多个并列被摄物体像;
摄像部,将由上述立体摄像光学系统成像的被摄物体像进行光电转换,获得被摄物体图像信号;
分割区域设定部,在根据由上述立体摄像光学系统分离成像的并列被摄物体像的图像数据所生成的立体图像中,设定分割区域,该分割区域是为了将该并列被摄物体像的各单眼图像进行分离配置而插入的区域;以及
信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,上述信号水平控制部把上述分割区域的平均信号水平控制成与上述并列被摄物体像的各单眼图像的中央部的曝光水平大致一致的水平。
3.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域设定成亮度分布均匀的图形。
4.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域内部的至少大部分设定成色度高的单色。
5.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域设定成亮度分布不均匀的图形,并且包含明部和暗部。
6.根据权利要求5所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域的与上述并列被摄物体像的各单眼图像接触的部分设定成明部。
7.根据权利要求5所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域的与上述并列被摄物体像的各单眼图像接触的部分设定成暗部。
8.根据权利要求5所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域设定成多个条纹,该多个条纹是上述明部和暗部的重复图形。
9.根据权利要求5所述的生成立体图像的电子照相机,
上述分割区域设定部把上述分割区域内部的至少大部分设定成棋盘图形,该棋盘图形是上述明部和暗部纵横交替重复的图形。
10.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
上述分割区域设定部,作为连续地构成包围上述并列被摄物体像整体的立体框图形的该立体框图形的部分区域,形成上述分割区域。
11.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
由上述立体摄像光学系统所成像的多个并列被摄物体像的数量是与左右两眼对应的2个。
12.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
上述立体摄像光学系统在单眼光学系统上装有可拆装的立体附加器。
13.根据权利要求1~2中的任何一项所述的生成立体图像的电子照相机,
还具有:曝光水平检测部,算出与上述被摄物体像的拍摄所涉及的规定测光区域有关的曝光信息;
上述信号水平控制部根据由上述曝光水平检测部所检测的曝光信息,控制上述分割区域的图像信号水平。
14.一种图像生成装置,通过以规定条件配置具有规定视差的所记录的多个单眼图像来生成立体图像,该图像生成装置包含:
分割区域设定部,在上述立体图像中设定分割区域,该分割区域是为了将各单眼图像进行分离配置而插入的区域;以及
信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,
上述信号水平控制部把上述分割区域的平均信号水平控制成与上述多个单眼图像的平均亮度水平大致一致的水平。
15.一种图像生成装置,通过以规定条件配置具有规定视差的所记录的多个单眼图像来生成立体图像,该图像生成装置包含:
分割区域设定部,在上述立体图像中设定分割区域,该分割区域是为了将各单眼图像进行分离配置而插入的区域;以及
信号水平控制部,进行改变上述分割区域设定部设定的分割区域的图像信号水平的控制,
上述信号水平控制部把上述分割区域的平均信号水平控制成与上述多个单眼图像的各图像的中央部的亮度水平大致一致的水平。
16.根据权利要求14~15中的任何一项所述的图像生成装置,
上述分割区域设定部把上述分割区域设定成亮度分布均匀的图形。
17.根据权利要求14~15中的任何一项所述的图像生成装置,
上述分割区域设定部把上述分割区域内部的至少大部分设定成色度高的单色。
18.根据权利要求14~15中的任何一项所述的图像生成装置,
上述分割区域设定部把上述分割区域设定成亮度分布不均匀的图形,并且包含明部和暗部。
19.根据权利要求18所述的图像生成装置,
上述分割区域设定部把上述分割区域的与上述多个单眼图像的各单眼图像接触的部分设定成明部。
20.根据权利要求18所述的图像生成装置,
上述分割区域设定部把上述分割区域的与上述多个单眼图像的各单眼图像接触的部分设定成暗部。
21.根据权利要求18所述的图像生成装置,
上述分割区域设定部把上述分割区域设定成多个条纹,该多个条纹是上述明部和暗部的重复图形。
22.根据权利要求18所述的图像生成装置,
上述分割区域设定部把上述分割区域内部的至少大部分设定成棋盘图形,该棋盘图形是上述明部和暗部纵横交替重复的图形。
23.根据权利要求14~15中的任何一项所述的图像生成装置,
上述分割区域设定部,作为连续地构成包围上述多个单眼图像整体的立体框图形的该立体框图形的部分区域,形成上述分割区域。
24.根据权利要求14~15中的任何一项所述的图像生成装置,
由上述立体摄像光学系统所成像的多个单眼图像的数量是与左右两眼对应的2个。
25.根据权利要求14~15中的任何一项所述的图像生成装置,
还具有算出与上述多个单眼图像有关的亮度信息的亮度水平检测部;
上述信号水平控制部根据由上述亮度水平检测部所检测的亮度信息来控制上述分割区域的图像信号水平。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004015668 | 2004-01-23 | ||
JP2004-015668 | 2004-01-23 | ||
JP2004015668 | 2004-01-23 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1645943A CN1645943A (zh) | 2005-07-27 |
CN1645943B true CN1645943B (zh) | 2011-07-20 |
Family
ID=34823687
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200510002596XA Expired - Fee Related CN1645943B (zh) | 2004-01-23 | 2005-01-21 | 生成立体图像的电子照相机和图像生成装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US7791640B2 (zh) |
CN (1) | CN1645943B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4665166B2 (ja) * | 2005-06-29 | 2011-04-06 | ソニー株式会社 | ステレオ画像処理装置、ステレオ画像処理方法およびステレオ画像処理用プログラム |
JP4665167B2 (ja) * | 2005-06-29 | 2011-04-06 | ソニー株式会社 | ステレオ画像処理装置、ステレオ画像処理方法およびステレオ画像処理用プログラム |
JP4687279B2 (ja) * | 2005-06-29 | 2011-05-25 | ソニー株式会社 | 画像再生装置、画像再生方法、および画像再生用プログラム |
CN101001391B (zh) * | 2007-01-09 | 2010-05-19 | 四川大学 | 一种立体图像编码方法 |
JP4993578B2 (ja) * | 2007-01-15 | 2012-08-08 | オリンパスイメージング株式会社 | 画像ファイル再生装置,画像ファイル加工編集装置 |
WO2010010331A1 (en) * | 2008-07-23 | 2010-01-28 | Atelier Vision Limited | The compositional structure, mechanisms and processes for the inclusion of binocular stereo information into representational media |
KR20110105830A (ko) * | 2008-12-18 | 2011-09-27 | 인라이프-핸드넷 컴퍼니 리미티드 | 단일 센서 병렬식 입체영상 촬영방법 |
JP5621303B2 (ja) * | 2009-04-17 | 2014-11-12 | ソニー株式会社 | 撮像装置 |
CN201662682U (zh) * | 2010-04-27 | 2010-12-01 | 中兴通讯股份有限公司 | 一种立体摄像装置 |
JP5625887B2 (ja) * | 2010-12-22 | 2014-11-19 | ソニー株式会社 | 撮像装置、その制御方法およびプログラム |
JP5857712B2 (ja) * | 2011-12-15 | 2016-02-10 | 富士通株式会社 | ステレオ画像生成装置、ステレオ画像生成方法及びステレオ画像生成用コンピュータプログラム |
CN102802006B (zh) | 2012-08-03 | 2014-08-06 | 梁智伟 | 数码照相机、层叠式相片印刷器和立体彩色图像制作系统 |
KR101207343B1 (ko) * | 2012-08-30 | 2012-12-04 | 재단법인대구경북과학기술원 | 영상 밝기 조절 방법 및 그 장치와, 스테레오 카메라 |
CN103596001B (zh) * | 2013-11-27 | 2015-07-15 | 天津大学 | 一种立体相机微距平行拍摄质量客观评价方法 |
CN106455948B (zh) * | 2014-12-15 | 2018-06-12 | 奥林巴斯株式会社 | 摄像系统 |
CN107369172B (zh) * | 2017-07-14 | 2021-07-09 | 上海肇观电子科技有限公司 | 一种智能设备和输出深度图像的方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003284096A (ja) * | 2002-01-16 | 2003-10-03 | Olympus Optical Co Ltd | ステレオ撮影装置、ファインダ、目印提示部材、及び、ステレオ撮影装置の撮影方法 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07101259B2 (ja) * | 1988-05-10 | 1995-11-01 | シャープ株式会社 | 立体映像表示装置 |
US5223892A (en) * | 1991-04-19 | 1993-06-29 | Fuji Photo Film Co., Ltd. | Photographic printing method |
JP3298905B2 (ja) | 1991-06-26 | 2002-07-08 | ソニー株式会社 | 立体撮像装置 |
US5510831A (en) * | 1994-02-10 | 1996-04-23 | Vision Iii Imaging, Inc. | Autostereoscopic imaging apparatus and method using suit scanning of parallax images |
US5767983A (en) * | 1995-03-24 | 1998-06-16 | Fuji Photo Film Co., Ltd. | Color copying apparatus for determining exposure amount from image data of an original image and a reference image |
JP2000206631A (ja) * | 1999-01-18 | 2000-07-28 | Olympus Optical Co Ltd | 撮影装置 |
JP2001061165A (ja) * | 1999-08-20 | 2001-03-06 | Sony Corp | レンズ装置及びカメラ |
JP2002023272A (ja) * | 2000-07-07 | 2002-01-23 | Sony Corp | フィルム密着状態検査装置、フィルム密着状態検査方法及び検査用フィルム |
JP3841630B2 (ja) * | 2000-08-29 | 2006-11-01 | オリンパス株式会社 | 画像取り扱い装置 |
JP2002218506A (ja) | 2001-01-18 | 2002-08-02 | Olympus Optical Co Ltd | 撮像装置 |
JP2002251608A (ja) * | 2001-02-23 | 2002-09-06 | Mixed Reality Systems Laboratory Inc | 撮像装置の制御装置及びその制御方法、画像処理装置及びその方法、並びにプログラムコード、記憶媒体 |
US20030043292A1 (en) * | 2001-08-31 | 2003-03-06 | Pyle Norman C. | System and method for automatic capture of light producing scenes |
US7193626B2 (en) * | 2002-03-08 | 2007-03-20 | Topcon Corporation | Device and method for displaying stereo image |
JP4043258B2 (ja) * | 2002-03-13 | 2008-02-06 | オリンパス株式会社 | 3次元画像撮影装置 |
US7518793B2 (en) * | 2002-03-29 | 2009-04-14 | Sanyo Electric Co., Ltd. | Stereoscopic image display device using image splitter, adjustment method thereof, and stereoscopic image display system |
JP2004234423A (ja) * | 2003-01-31 | 2004-08-19 | Seiko Epson Corp | ステレオ画像処理方法およびステレオ画像処理装置、並びにステレオ画像処理プログラム |
US7162153B2 (en) * | 2003-06-25 | 2007-01-09 | Delphi Technologies, Inc. | Apparatus for generating a combined image |
US7643025B2 (en) * | 2003-09-30 | 2010-01-05 | Eric Belk Lange | Method and apparatus for applying stereoscopic imagery to three-dimensionally defined substrates |
US8736672B2 (en) * | 2006-08-24 | 2014-05-27 | Reald Inc. | Algorithmic interaxial reduction |
-
2005
- 2005-01-20 US US11/039,640 patent/US7791640B2/en not_active Expired - Fee Related
- 2005-01-21 CN CN200510002596XA patent/CN1645943B/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003284096A (ja) * | 2002-01-16 | 2003-10-03 | Olympus Optical Co Ltd | ステレオ撮影装置、ファインダ、目印提示部材、及び、ステレオ撮影装置の撮影方法 |
Also Published As
Publication number | Publication date |
---|---|
US20050174427A1 (en) | 2005-08-11 |
US7791640B2 (en) | 2010-09-07 |
CN1645943A (zh) | 2005-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1645943B (zh) | 生成立体图像的电子照相机和图像生成装置 | |
US6806903B1 (en) | Image capturing apparatus having a γ-characteristic corrector and/or image geometric distortion correction | |
CN104168416B (zh) | 摄像设备及其控制方法 | |
US6999126B2 (en) | Method of eliminating hot spot in digital photograph | |
CN103828345B (zh) | 用于图像处理的设备、方法以及图像拾取设备 | |
CN105659159A (zh) | 相机系统、相机机身及通信方法 | |
CN104010128A (zh) | 摄像设备及其控制方法 | |
CN104221365A (zh) | 拍摄元件、摄影方法及拍摄装置 | |
CN102422630A (zh) | 摄像设备 | |
JP2002010276A (ja) | 撮像装置 | |
US8520095B2 (en) | Imaging apparatus and imaging method | |
CN101115139A (zh) | 拍摄装置和曝光控制方法 | |
JP2000050152A (ja) | デジタルカメラの露光量制御システム | |
US7379620B2 (en) | Image taking apparatus | |
JPH07288826A (ja) | フィルム画像再生装置 | |
JP3643203B2 (ja) | デジタルカメラ | |
CN102948152A (zh) | 成像设备和成像方法 | |
JP4143140B2 (ja) | 画像処理装置及びプリンタ並びに撮影システム | |
JP4536527B2 (ja) | ステレオ画像を生成する電子カメラ及び画像生成装置 | |
US11240451B2 (en) | Electronic imaging enhancement system | |
JPH10210360A (ja) | デジタルカメラ | |
JP3643201B2 (ja) | デジタルカメラ | |
JP2000050138A (ja) | デジタルカメラ | |
JP3631575B2 (ja) | デジタルカメラ | |
JP3631576B2 (ja) | デジタルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110720 Termination date: 20200121 |