具体实施方式
-第1实施方式-
图1是示出第1实施方式的摄像装置即数字静止照相机的结构的框图。图1所示的数字静止照相机由照相机主体1和更换式镜头2构成。
更换式镜头2具有镜头1010、闪存1011、微计算机1012、驱动器1013、光圈1014。更换式镜头2经由I/F 999以能够进行通信的方式与照相机主体1连接。
照相机主体1具有:机械快门101、摄像元件102、模拟处理部103、模拟/数字转换部104(以下为A/D转换部104)、总线105、SDRAM(Synchronous DynamicRandom Access Memory)106、图像处理部107、AE处理部108、AF处理部109、图像压缩解压缩部110、存储器接口111(以下为存储器I/F 111)、记录介质112、LCD驱动器113、LCD 114、微计算机115、操作部116、闪存117、AWB(Auto White Balance)处理部118。
镜头1010使被摄体的光学像会聚于摄像元件102。镜头1010可以是单焦镜头,也可以是变焦镜头。
微计算机1012与I/F 999、闪存1011以及驱动器1013连接,进行存储在闪存1011中的信息的读出/写入,并且控制驱动器1013。微计算机1012还能够经由I/F 999与微计算机115进行通信,向微计算机115发送镜头的焦距信息等,并且从微计算机115接收光圈值等的信息。
驱动器1013接受微计算机1012的指示,驱动镜头1010,进行焦距或对焦位置的变更,并且驱动光圈1014。光圈1014设置在镜头1010附近,对被摄体的光量进行调节。
机械快门101接受微计算机115的指示并进行驱动,控制摄像元件102的曝光时间。
摄像元件102是在构成各像素的光电二极管的前表面配置有拜耳排列的滤色器的摄像元件。拜耳排列构成为,在水平方向上具有交替配置有R(红色)像素和G(Gr:绿色)像素的线和交替配置有G(Gb:绿色)像素和B(蓝色)像素的线,进而,在垂直方向上也交替配置这两条线。该摄像元件102利用构成像素的光电二极管对由镜头1010会聚的光进行受光并对其进行光电转换,将光量作为电荷量输出到模拟处理部103。另外,摄像元件102可以是CMOS方式,也可以是CCD方式。并且,也可以使用拜耳排列以外的彩色摄像元件。
模拟处理部103针对从摄像元件102读出的电信号(模拟图像信号)降低复位噪声等,然后进行波形整形,进而进行增益放大以使其成为目标明亮度。A/D转换部104将从模拟处理部103输出的模拟图像信号转换成数字图像信号(以后称为图像数据)。
另外,可以将摄像元件102、模拟处理部103和A/D转换部104统称为摄像部。
总线105是用于将在数字照相机内部产生的各种数据转送到数字照相机内的各部的转送路径。总线105与A/D转换部104、SDRAM 106、图像处理部107、AE处理部108、AF处理部109、图像压缩解压缩部110、存储器I/F 111、LCD驱动器113、微计算机115、AWB处理部118连接。
从A/D转换部104输出的图像数据经由总线105临时存储在SDRAM 106中。SDRAM 106是临时存储在A/D转换部104中得到的图像数据、在图像处理部107和图像压缩解压缩部110中进行处理后的图像数据等的各种数据的存储部。
图像处理部107包含白平衡校正部1071(以下为WB校正部1071)、同步处理部1072、颜色再现处理部1073以及降噪处理部1074(以下为NR处理部1074),对从SDRAM 106读出的图像数据实施各种图像处理。WB校正部(也称为颜色校正部)1071进行如下处理:根据由AWB处理部118计算出的白平衡增益,对图像数据的白平衡进行校正。同步处理部1072进行如下处理:从基于拜耳排列的图像数据,按照每个像素与由R、G、B信息构成的图像数据同步。颜色再现处理部1073进行改变图像色调的颜色再现处理。NR处理部1074进行降低噪声的处理。降噪处理后的图像数据存储在SDRAM 106中。
AE处理部108根据图像数据计算被摄体亮度。用于计算被摄体亮度的数据可以是专用测光传感器的输出。AF处理部109从图像数据中取出高频成分的信号,通过AF(Auto Focus)累加处理取得对焦评价值。
AWB处理部(也称为颜色信息取得部、判定部、水中用颜色平衡基准设定部、水中用颜色校正数据计算部、陆地用白平衡校正数据计算部)118在根据图像的摄像状况下的光源自动调整白平衡的自动白平衡处理时,计算白平衡增益。特别地,AWB处理部118在陆地摄像时计算陆地摄像时的白平衡增益,在水中摄像时计算水中摄像时的白平衡增益(水中用颜色校正数据)。
图像压缩解压缩部110在记录静态图像数据时,从SDRAM 106中读出图像数据,按照JPEG(Joint Photographic Experts Group)压缩方式对所读出的图像数据进行压缩,将压缩后的JPEG图像数据临时存储在SDRAM 106中。微计算机115对存储在SDRAM 106中的JPEG图像数据附加构成JPEG文件所需要的JPEG头,生成JPEG文件,经由存储器I/F 111将所生成的JPEG文件记录在记录介质112中。
并且,图像压缩解压缩部110在记录动态图像数据时,从SDRAM 106中读出动态图像数据,例如按照H.264方式对所读出的动态图像数据进行压缩,将压缩后的动态图像数据临时存储在SDRAM 106中。图像压缩解压缩部110还进行如下处理:根据来自微计算机115的指令,对压缩数据进行展开(解压缩)。
记录介质112例如是由能够相对于照相机主体1进行装卸的存储卡构成的记录介质,但是不限于此。
LCD驱动器113使LCD 114显示图像。图像显示包含短时间显示刚刚拍摄的图像数据的重放显示、记录在记录介质112中的JPEG文件的再现显示、以及实时取景显示等的动态图像的显示。在对记录在记录介质112中的压缩数据进行再现的情况下,图像压缩解压缩部110读出记录在记录介质112中的压缩数据并实施展开(解压缩)处理,然后,将展开的数据临时存储在SDRAM 106中。LCD驱动器113从SDRAM106中读出解压缩后的数据,将所读出的数据转换为影像信号后,输出到LCD114进行显示。
具有作为控制部的功能的微计算机115统一控制数字照相机主体1的各种顺序。在微计算机115连接有操作部116和闪存117。
操作部116是电源按钮、释放按钮、各种输入键等操作部件。用户对操作部116的任意操作部件进行操作,由此,微计算机115执行与用户操作对应的各种顺序。电源按钮是用于进行该数字照相机的电源的接通/断开指示的操作部件。按下电源按钮时,该数字照相机的电源接通。再次按下电源按钮时,该数字照相机的电源断开。释放按钮构成为具有第一释放开关和第二释放开关的2级开关。在半按下释放按钮而接通第一释放开关的情况下,微计算机115进行AE处理或AF处理等拍摄准备顺序。并且,在全按下释放按钮而接通第二释放开关的情况下,微计算机115执行拍摄顺序进行拍摄。
闪存(也称为存储部)117存储各种光源的预设白平衡增益、后述的水中区域的设定值和水中用白平衡增益轨迹的设定值、低通滤波器系数、数字照相机的动作所需要的各种参数、用于确定数字静止照相机的制造编号等。并且,闪存117还存储由微计算机115执行的各种程序。微计算机115按照存储在闪存117中的程序,从闪存117中读入各种顺序所需要的参数,从而执行各处理。
图2是示出在自动白平衡处理时由AWB处理部118进行的处理内容的流程图。在步骤S10中,从SDRAM 106中读入图像数据(RAW数据)。
在步骤S20中,从闪存117中读入用于将图像数据分割为多个评价块的评价块设定值,根据所读入的评价块设定值来设定评价块。然后,利用多个评价块对在步骤S10中读入的图像数据进行分割。
图3(a)是示出从SDRAM 106中读入的图像数据30的图,图3(b)是示出用于对图像数据进行分割的评价块31的图。并且,图3(c)是通过多个评价块31对图像数据30进行分割后的图。
在步骤S30中,计算白平衡评价值(以下称为WB评价值)。因此,首先,按照图像数据的各评价块区域计算R、G、B各自的像素值的平均值。
图4(a)~(c)是示出按照图像数据的各评价块区域计算R、G、B各自的像素值的平均值的结果的图。
接着,按照每个评价块区域计算WB评价值。当设某个评价块区域中的R、G、B的像素值的平均值分别为R_ave、G_ave、B_ave时,WB评价值为R_ave/G_ave、B_ave/G_ave。图5(a)是示出按照每个评价块区域计算出WB评价值的状态的图。
在步骤S40中,将在步骤S30中计算出的WB评价值映射到横轴为R/G、纵轴为B/G的颜色空间坐标上。图5(b)是将各评价块区域的WB评价值映射到横轴为R/G、纵轴为B/G的颜色空间坐标上的图。
另外,用于计算白平衡增益的颜色空间坐标不限于横轴为R/G、纵轴为B/G的坐标。例如,在设亮度信号为Y时,也可以使用横轴为色差(R-Y)、纵轴为色差(B-Y)的颜色空间坐标。亮度信号Y由下式(1)表现。
Y=0.299×R+0.587×G+0.114×B (1)
在步骤S50中,计算白平衡增益。在本实施方式的摄像装置中,在图像数据通过水中的摄像而生成的情况以及通过陆地上的摄像而生成的情况下,使用不同的方法来计算白平衡增益。使用图6所示的流程图对通过陆地上的摄像而生成图像数据时的白平衡增益计算处理进行说明。并且,使用图10所示的流程图对通过水中的摄像而生成图像数据时的白平衡增益计算处理进行说明。
在图6所示的流程图的步骤S600中,从闪存117中读入各光源的预设白平衡增益。各光源例如是阴、阴天、晴天、夕阳、电灯泡。
在步骤S610中,将在步骤S600中读入的白平衡增益转换为R/G值、B/G值。
在步骤S620中,从闪存117中读入白平衡判定用区域设定值。
在步骤S630中,根据在步骤S610中求出的各光源的预设白平衡增益的R/G值、B/G值、以及在步骤S620中读入的白平衡判定用区域设定值,在横轴为R/G、纵轴为B/G的颜色空间坐标上设定白平衡判定用区域。即,将以由各光源的预设白平衡增益的R/G值、B/G值确定的位置为中心的规定范围设定为白平衡判定用区域。
图7(a)是示出在横轴为R/G、纵轴为B/G的颜色空间坐标上设定的白平衡判定用区域的图。在图7(a)所示的例子中,作为白平衡判定用区域,示出阴区域71、阴天区域72、晴天区域73、夕阳区域74、电灯泡区域75。另外,在横轴为R/G、纵轴为B/G的颜色空间坐标上,连接各光源的预设白平衡增益位置的曲线77被称为黑体轨迹。
在步骤S640中,取得在图2所示的流程图的步骤S40中求出的图像数据针对颜色空间坐标的映射数据(WB评价值),将所取得的数据映射到颜色空间坐标上。
图7(b)是将WB评价值映射到设定有白平衡判定用区域的颜色空间坐标上的图。
在步骤S650中,对在各白平衡判定用区域71~75内存在的WB评价值进行计数。图7(c)是示出在各白平衡判定用区域71~75内存在的WB评价值的计数结果的一例的图。
在步骤S660中,根据步骤S650的计数结果,确定WB评价值的数量最多的白平衡判定用区域,计算在所确定的区域内存在的WB评价值的平均值即R/G、B/G的平均值。
在步骤S670中,计算在步骤S660中计算出的R/G、B/G的平均值的倒数G/R、G/B作为白平衡增益。然后,图像处理部107内的WB校正部1071进行如下处理:根据计算出的白平衡增益对图像数据的白平衡进行校正。
接着,说明针对通过水中的摄像而得到的图像数据的白平衡校正。
图8(a)是在横轴为R/G、纵轴为B/G的颜色空间坐标上示出红(R)、蓝(B)、绿(G)、品红(Mg)、黄(Ye)、青(Cy)相对于白色(W)的相对位置关系的图。在针对在陆地上摄像的图像数据的白平衡校正中,如图7(a)所示,使黑体轨迹上的与各光源对应的预设白平衡位置成为白色点,由此,能够正确地进行颜色再现。
但是,在水中,一般地,水深越深,光被海水吸收而越容易成为蓝色的色调。图8(b)是示出在水中水深和各颜色的透过率的关系的图。如图8(b)所示,在水中,由于各颜色的不同,与水深对应的透过率的衰减特性不同,当水深变深时,红色最先衰减。
图8(c)是根据图8(b)所示的各颜色的透过率的衰减特性在横轴为R/G、纵轴为B/G的颜色空间坐标上示出水中用的白色点轨迹80的图。如图8(c)所示,水中用的白色点轨迹80是与陆地上的白色点轨迹即黑体轨迹77不同的轨迹。如果根据该水中用的白色点轨迹80进行白平衡校正,则能够使白色点成为白色。但是,在水中的情况下,由于图8(b)所示的衰减特性,不仅白色点大幅变化,全体的色调分布也大幅变化。因此,在水中的情况下,即使使白色点成为白色,全体的颜色再现也不一定是良好的结果。
图9(a)是示出在根据白色点轨迹80对在水深为5m的位置处摄像的图像数据进行白平衡校正的情况下、红、蓝、绿、品红、黄、青相对于白色的相对位置关系的图。该情况下,如使用图8(b)说明的那样,与其他颜色相比,红色成分减少。
图9(b)是示出在根据白色点轨迹80对在水深为20m的位置处摄像的图像数据进行白平衡校正的情况下、红、蓝、绿、品红、黄、青相对于白色的相对位置关系的图。该情况下,相对于其他颜色,红色成分极端减少,并且,品红成分和黄成分也减少。
因此,即使对在水中摄像的图像数据进行仅使白色点成为白色的白平衡校正,也成为不自然地强调了红色的照片,或者蓝色消失而不像是水中的照片。
因此,在水深较浅的泛蓝少的场景中,重要的是,通过应用比较接近水中的白色点轨迹的白平衡增益,实现最佳的颜色再现。并且,在水深较深的泛蓝多的场景中,重要的是,通过应用与水中的白色点轨迹不同的位置的白平衡增益,不进行无谓的色调强调,得到自然的具有蓝色的水中照片。在第1实施方式的摄像装置中,针对在水中摄像的图像进行与水深对应的适当颜色校正。
另外,在本实施方式中,如图9(a)、图9(b)所示,针对在水中摄像的图像数据进行的白平衡校正处理不是仅使白色点成为白色的处理。由此,例如,颜色平衡校正处理或颜色校正处理这样的有所区别的称呼是适当的,但是,为了简便而将其称为白平衡校正处理。因此,为了简便,将在针对在水中摄像的图像数据进行白平衡校正处理时使用的颜色校正数据称为作为一般称呼的白平衡增益。
图10是示出针对在水中摄像的图像数据由AWB处理部118进行的白平衡增益计算处理的详细内容的流程图。AWB处理部118在判定为处理对象的图像数据是在水中摄像的图像数据的情况下,进行图10所示的流程图的处理。例如,在白平衡的设定模式被设定为水中模式的情况下,判定为处理对象的图像数据是在水中摄像的图像数据。但是,判定处理对象的图像数据是否是在水中摄像的图像数据的方法不限于上述判定方法,例如,也可以根据设置在摄像装置上的水深计的计测结果进行判定。
在步骤S1000中,从闪存117中读入各光源的预设白平衡增益。该处理与图6所示的流程图的步骤S600的处理相同。
在步骤S1010中,将在步骤S1000中读入的白平衡增益转换为R/G值、B/G值。该处理对应于图6所示的流程图的步骤S610的处理。
在步骤S1020中,从闪存117中读入用于计算水中白平衡增益的水中区域的设定值。
在步骤S1030中,根据在步骤S1020中读入的设定值,在横轴为R/G、纵轴为B/G的颜色空间坐标上设定水中区域。
图11(a)是示出在横轴为R/G、纵轴为B/G的颜色空间坐标上设定的水中区域1100的一例的图。
在步骤S1040中,取得在图2所示的流程图的步骤S40中求出的针对颜色空间坐标的映射数据(WB评价值),将所取得的数据映射到颜色空间坐标上(参照图11(a))。
在步骤S1050中,计算在水中区域1100内存在的WB评价值的重心位置。
在步骤S1060中,从闪存117中读入水中用白平衡增益轨迹的设定值,根据所读入的设定值,在横轴为R/G、纵轴为B/G的颜色空间坐标上设定水中用白平衡增益轨迹(水中用颜色平衡基准)。该水中用白平衡增益轨迹是对在水中摄像的图像数据进行颜色校正时的颜色校正基准。
图11(b)是示出在横轴为R/G、纵轴为B/G的颜色空间坐标上设定的水中用白平衡增益轨迹1110的一例的图。该水中用白平衡增益轨迹1110与以白色为基准而确定的现有的白平衡增益轨迹80(参照图8(c))不同,是为了得到再现与水深对应的适当颜色的图像而确定的。在横轴为R/G、纵轴为B/G的颜色空间坐标上,与黑体轨迹相比,水中用白平衡增益轨迹1110更靠近原点侧,一般设定在假设为阴色温的色温与假设为夕阳色温的色温之间(参照图12(a))。
在步骤S1070中,根据在步骤S1050中计算出的重心位置,求出水中用白平衡增益轨迹上的位置。这里,从在步骤S1050中计算出的重心位置针对表示水中用白平衡增益轨迹的线引垂线,求出垂线与表示水中用白平衡增益轨迹的线的交点。
图12(b)是示出根据在水中区域1100内存在的WB评价值的重心位置1150求出水中用白平衡增益轨迹1110上的位置的方法的图。从重心位置1150针对水中用白平衡增益轨迹1110引垂线1160,求出垂线1160与水中用白平衡增益轨迹1110的交点1170。
在步骤S1080中,计算在步骤S1070中求出的位置的作为R/G、B/G的倒数G/R、G/B作为白平衡增益。然后,图像处理部107内的WB校正部1071进行如下处理(颜色校正处理):根据计算出的白平衡增益对图像数据的白平衡进行校正。
根据上述方法,能够计算出与水深深度对应的适当的白平衡增益。使用图13说明该情况。
图13(a)是示出在水深较浅的情况下计算白平衡增益的方法的图,图13(b)是示出在水深比较深、但图像内的蓝色区域的面积较少的情况下计算白平衡增益的方法的图,图13(c)是示出在水深比较深、且图像内的蓝色区域的面积较多的情况下计算白平衡增益的方法的图。
在水深较浅的情况下,如图13(a)所示,在步骤S1070中求出的水中用白平衡增益轨迹上的点成为接近黑体轨迹的位置。即,与陆地的情况同样,通过使白色点成为白色的白平衡校正,能够准确地再现白色和白色以外的颜色的色调。
如图13(b)所示,在水深比较深、但图像内的蓝色区域的面积较少的情况下,在步骤S1070中求出的水中用白平衡增益轨迹上的点成为接近WB评价值分布的位置,能够计算出接近图像色调分布的白平衡增益。另一方面,如图13(c)所示,在水深比较深、且图像内的蓝色区域的面积较多的情况下,能够计算出用于成为产生蓝色的图像的白平衡增益,而不会无谓地强度蓝色以外的色调。
以上,根据第1实施方式的摄像装置,从图像数据取得颜色信息,并且,设定对在水中摄像的图像数据进行颜色校正时作为颜色校正基准的水中用颜色平衡基准。然后,在判定为图像数据通过水中的摄像而生成的情况下,根据取得的颜色信息以及水中用颜色平衡基准,计算水中用颜色校正数据,根据计算出的水中用颜色校正数据,对通过水中的摄像而生成的图像数据进行颜色校正。由此,能够针对在水中摄像的图像数据进行与水深对应的适当颜色校正,能够得到色彩丰富的水中照片。
-第2实施方式-
在第2实施方式的摄像装置中,根据对在陆地上摄像的图像数据进行白平衡校正时计算出的白平衡增益(陆地用白平衡增益)、以及对在水中摄像的图像数据进行白平衡校正时计算出的白平衡增益(水中用白平衡增益),计算最终的白平衡增益。
图14是示出在第2实施方式的摄像装置中由AWB处理部(也称为最终颜色校正数据计算部)118进行的处理内容的流程图。
在步骤S1400中,进行陆地用白平衡增益的计算处理。具体而言,进行图6所示的流程图的步骤S600~步骤S670的处理。
在步骤S1410中,进行水中用白平衡增益的计算处理。具体而言,进行图10所示的流程图的步骤S1000~步骤S1080的处理。
在步骤S1420中,计算在横轴为R/G、纵轴为B/G的颜色空间坐标上映射的WB评价值中、在水中区域1100(参照图11)内存在的WB评价值的比率。
在步骤S1430中,根据陆地用白平衡增益、水中用白平衡增益以及在步骤S1420中计算出的比率,计算最终的白平衡增益。具体而言,以在步骤S1420中计算出的比率越大、水中用白平衡增益的权重越大的方式,对陆地用白平衡增益和水中用白平衡增益进行加权合成,计算最终的白平衡增益。并且,以在步骤S1420中计算出的比率越小、陆地用白平衡增益的权重越大的方式,对陆地用白平衡增益和水中用白平衡增益进行加权合成,计算最终的白平衡增益。
另外,在步骤S1420中计算出的比率为1/2的情况下,以使陆地用白平衡增益和水中用白平衡增益的权重相等的方式,对陆地用白平衡增益和水中用白平衡增益进行加权合成,计算最终的白平衡增益。
然后,图像处理部107内的WB校正部1071进行如下处理(颜色校正处理):根据计算出的白平衡增益对图像数据的白平衡进行校正。
以上,根据第2实施方式的摄像装置,与水中用颜色校正数据一起计算出陆地用白平衡校正数据,根据从图像数据取得的颜色信息、水中用颜色校正数据以及陆地用白平衡校正数据,计算最终的颜色校正数据。然后,根据最终的颜色校正数据,对图像数据进行颜色校正,而与图像数据是否通过水中的摄像而生成无关。由此,即使在从陆地上到水中、或者从水中到陆地上这样变更了摄像场所的情况下,也能够无缝地切换陆地用白平衡增益和水中用颜色校正数据。
另外,在上述第1~第2实施方式的说明中,作为摄像装置进行的处理,以基于硬件的处理为前提,但是,不必限于这种构成。例如,也可以构成为通过独立的软件进行处理。该情况下,计算机具有CPU、RAM等主存储装置、存储有用于实现上述处理的全部或一部分的程序的计算机可读取的存储介质。这里,将该程序称为颜色校正程序。而且,CPU读出存储在上述存储介质中的颜色校正程序并执行信息的加工/运算处理,由此,实现与上述摄像装置相同的处理。
这里,计算机可读取的记录介质是指磁盘、光磁盘、CD-ROM、DVD-ROM、半导体存储器等。并且,也可以通过通信线路向计算机发布该颜色校正程序,接受该发布的计算机执行该颜色校正程序。
本发明不限于上述第1~第2实施方式,能够在不脱离本发明主旨的范围内进行各种变形和应用。例如,在上述实施方式中,预先在闪存117中存储水中用白平衡增益轨迹的设定值,根据存储在闪存117中的水中用白平衡增益轨迹的设定值,设定水中用白平衡增益轨迹。但是,也可以在闪存117中存储以图11(b)所示的表示水中用白平衡增益轨迹的直线1110为基准坐标轴的坐标数据,根据存储在闪存117中的坐标数据,设定水中用白平衡增益轨迹。并且,还可以在闪存117中存储用于确定图像数据的颜色信息与水中用白平衡增益的关系的表数据,根据存储在闪存117中的表数据和图像数据的颜色信息,计算水中用白平衡增益。根据该方法,根据在图10的步骤S1050中计算出的WB评价值的重心位置,通过参照表数据,能够计算出水中用白平衡增益。
对在水中摄像的图像数据进行颜色校正时作为颜色校正基准的水中用白平衡增益轨迹(水中用颜色平衡基准)不限于图11(b)的直线1110所示的轨迹。但是,如使用图12(a)说明的那样,相对于R/G轴,需要低于黑体轨迹,相对于B/G轴,需要设定在假设为阴色温的色温与假设为夕阳色温的色温之间。