具体实施方式
下面,参照附图,说明本发明的实施方式。
图1是示出本发明的一实施方式的图像处理装置的概念结构的图。图1所示的图像处理装置由缩小图像生成部1、灰度转换特性导出部2、白平衡(WB)控制信息导出部3、WB控制部4以及灰度转换部5构成。
缩小图像生成部1生成所输入的图像数据的缩小图像数据。灰度转换特性导出部2根据在缩小图像生成部1中生成的缩小图像数据,导出对所输入的图像数据进行灰度转换时的灰度转换特性(灰度转换表)。WB控制信息导出部3根据在缩小图像生成部1中生成的缩小图像数据,导出用于控制所输入的图像的白平衡的信息。WB控制部4根据WB控制信息导出部3所导出的用于控制白平衡的信息,控制所输入的图像数据的白平衡。灰度转换部5根据灰度转换特性导出部2所导出的灰度转换表,进行利用WB控制部4控制了白平衡的图像数据的灰度转换,将得到的图像数据输出到外部。
这样,在本实施方式中,能够根据缩小图像数据,进行灰度转换表的导出和白平衡控制信息的导出,所以能够快速地进行这些处理,并且,还能够减小处理所需的存储器的容量。而且,在灰度转换表的导出中使用的缩小图像数据的生成和在白平衡控制信息的导出中使用的缩小图像数据的生成,可以利用一个缩小图像生成部1来进行。
下面,更具体地说明图1的图像处理装置。图2是示出作为包括本发明的一实施方式的图像处理装置的数字照相机(下面,称为照相机)的结构的方框图。
如图2所示,本数字照相机由微计算机(图中略为微机)11、摄像部12、A/D转换部(图中略为A/D)13、块累加部14、总线15、RAM 16、图像处理部17、ROM 18、记录介质19以及操作部20构成。
微计算机11是进行本照相机的整体控制的控制部。该微计算机11进行摄像部12内部的摄影光学系统的焦点控制和摄影元件的曝光控制、将图像数据记录到记录介质19时的记录控制等。
摄像部12由摄影光学系统、摄像元件以及它们的驱动部等构成。该摄像部12在摄像元件上将通过摄影光学系统入射的来自未图示的被摄体的光束转换成电信号。A/D转换部13将摄像部12所得到的电信号转换成数字数据,生成图像数据。
与图1的缩小图像生成部1对应的块累加部14,对每个预定块累加A/D转换部13所得到的图像数据,生成在灰度转换表的导出和白平衡(WB)控制信息的导出中使用的缩小图像数据。
此处,说明块累加部14中的缩小图像数据的生成处理。图3(a)是对摄像元件中的像素排列进行拜尔(bayer)排列时的块分割的概念图。如图3(a)所示,拜尔排列的摄像元件是对于检测红色(R)成分和绿色(G)成分的像素交替配置的行和检测G成分和蓝色(B)成分的像素交替配置的行、在列方向交替配置来构成。这样的像素配置通过在像素的前面设置与拜尔排列对应的滤色器来构成。
此处,缩小图像数据是通过将图像数据分割成每个预定像素数的块,将分割的块内的同色像素的像素值累加而得到的。例如,在图3(a)的例子中,将图像数据分割成以8×8像素为一个块(区域)的4个块A、B、C、D,对这些每个块A、B、C、D累加同色像素的像素值。图3(b)是示出累加后得到的块累加值的图。通过每个块的累加,从块A得到块累加值Ra、Ga、Ba,从块B得到块累加值Rb、Gb、Bb,从块C得到块累加值Rc、Gc、Bc,从块D得到块累加值Rd、Gd、Bd。
此处,块累加时的块分割的分割数可以是固定值,但优选根据场景模式来决定。图4示出与场景模式对应的分割数。另外,场景模式是用于以各种设定进行摄影的摄影模式之一,预先对与各种摄影场景对应的设定进行程序化的模式。通过设定场景模式,在照相机侧自动进行与各个场景对应的曝光控制。
图4所示的标准模式是不是在特定的场景进行摄影、而是在标准设定下进行摄影用的场景模式。如图4所示,在标准模式中,分割成例如160×120的块。并且,夜景模式是在适合于夜景摄影的设定下进行摄影用的场景模式。在该夜景模式中,也设定成与标准模式相同的分割数的160×120的块。并且,风景模式是在适合于风景摄影的设定下进行摄影用的场景模式。在该风景模式中,使分割数多于标准模式和夜景模式,能够以高于标准模式和夜景模式的精度来求出灰度转换特性。在图4的例子中,将风景模式的分割数设定为320×240块。而且,人物模式是在适合于人物摄影的设定下进行摄影用的场景模式。在该人物模式中,使分割数少于标准模式和夜景模式,求出比标准模式和夜景模式粗糙的灰度转换特性。在图4的例子中,将人物模式的分割数设定为80×60块。另外,图4所示的分割数只是一个例子,不限于图4所示的例子。
总线15是将A/D转换部13所得到的图像数据、块累加部14所得到的缩小图像数据、图像处理部17中的处理数据、微计算机11中的运算数据等各种数据传送给本照相机的各电路的传送路。RAM 16是用于临时存储块累加部14所得到的缩小图像数据和图像处理部17中的处理数据等各种数据的存储器。
图像处理部17由白平衡(WB)增益计算部21、WB校正部22、同步化部23、Y/C分离部24、颜色转换部25、直方图计算部26、直方图校正部27、直方图累积部28、灰度转换表计算部29、灰度转换部30、尺寸调整部31以及JPEG压缩部32构成。此处,直方图计算部26、直方图校正部27、直方图累积部28以及灰度转换表计算部29与图1的灰度转换特性导出部2对应。并且,WB增益计算部21与图1的WB控制信息导出部3对应,WB校正部22与图1的WB控制部4对应,灰度转换部30与图1的灰度转换部5对应。后面详细说明这样的图像处理部17中的图像处理。
ROM 18是存储微计算机11所执行的各种控制程序和本照相机的各种设定值的存储器。而且,在ROM 18中存储有默认灰度转换表33、噪声特性信息34以及灰度合成比35。它们将在后述的灰度转换表的计算时使用。
默认灰度转换表33是具有标准特性的灰度转换表,针对每个照相机,作为固定特性存储在ROM 18中。图5的实线示出默认灰度转换表33的例子。此处,图5的横轴表示图像输入值,即从块累加部14输入的缩小图像数据的像素值。并且,图5的左侧的纵轴表示灰度转换后的输出值(图的例子是8位输出)。此处,ROM 18中存储的默认灰度转换表不限于图5所示的一个。例如,存储多个不同的默认灰度转换表,用户可以可以任意地选择默认灰度转换表。或者,也可以根据摄影条件,从多个默认灰度转换表中自动选择最佳的默认灰度转换表。
噪声特性信息34是与噪声特性有关的信息。即,噪声特性信息34是表示在拍摄图像时,何种程度的量的噪声以什么样的形式重叠在图像上的信息。该噪声特性信息34也是作为固定值存储在ROM 18中的信息。图6的实线示出噪声特性信息34。此处,图6的横轴也与图5同样地是从块累加部14输入的缩小图像数据的像素值。并且,图6左侧的纵轴表示噪声量。如图6所示,若输入值增加,则伴随于此,噪声量也增加。另外,在图6中,输入值为0时也有噪声重叠,但它是由暗电流成分所产生的。
此处,噪声特性信息34是根据摄影时的摄影灵敏度和温度、曝光时间等变化的量,因此,也可以将与摄影灵敏度的变化和温度变化、曝光时间的变化对应的多个噪声特性信息存储到ROM 18中。例如,摄影灵敏度高时的噪声特性信息的噪声量比通常多。拍摄图像数据时,读出与此时的摄影灵敏度和温度、曝光时间对应的噪声特性信息。
并且,在近年来的照相机中,还提出了具有降低摄影时的图像的噪声的噪声降低处理功能的照相机,所以也可以将与此对应地进行了噪声降低处理的状态(即,噪声量比通常时少)的噪声特性信息存储到ROM 18中。
灰度合成比35是将默认灰度转换表33与后面说明的累积直方图合成时的合成比。图7示出灰度合成比35的例子。如图7所示,灰度合成比35存储了与场景模式对应的值。另外,在图7中,作为与场景模式对应的灰度合成比,示出了与上述标准模式、风景模式、人物模式以及夜景模式对应的灰度合成比,但不限于此。并且,图7所示的值也可进行变更。
记录介质19是记录在图像处理部17中进行处理的图像数据的记录介质,例如由存储卡等构成。
操作部20是由用户操作的各种操作部件。若由用户操作了操作部20,则根据其操作状态,通过微计算机11进行各种控制。此处,作为操作部20,包括例如进行摄影执行指示的快门按钮和用于选择场景模式的选择部件等。
接着,参照图8,说明具有图2那样的结构的照相机的摄影控制。图8是示出包括本发明的一实施方式的图像处理方法的摄影控制的步骤的流程图。此处,图8的流程图是通过由用户进行快门按钮的启动操作而开始。
若由用户启动快门按钮,则执行众所周知的AE处理和AF处理(步骤S1)。该AE处理和AF处理是根据照相机的种类,例如具有:根据AE传感器和AF传感器的输出进行的方法;根据摄像部12所得到的图像(此处,不是块累加部14的输出,而是A/D转换部13的输出)进行的方法。AE处理和AF处理之后,进行曝光控制(步骤S2)。在该曝光控制中,根据场景模式的设定等,控制未图示的快门的开放时间和未图示的光圈的光圈量,从而控制摄像部12的摄像元件的曝光。根据该曝光控制,在摄像部12中得到记录用的图像信号。之后,对摄像部12所得到的图像信号进行摄像处理(步骤S3)。根据该摄像处理,读出摄像部12所得到的图像信号,在A/D转换部13中转换成数字的图像数据。A/D转换部13所得到的图像数据,输入到块累加部14和图像处理部17的WB校正部22。
在块累加部14中,根据从A/D转换部13输入的图像数据,生成缩小图像数据(步骤S4)。如上所述,此处的缩小图像数据是通过对与图4所示的场景模式对应的每个预定块进行累加来生成的。块累加部14所得到的缩小图像数据输入到WB增益计算部21和直方图计算部26。在WB增益计算部21中,根据所输入的缩小图像数据,计算作为WB控制信息的白平衡(WB)增益(步骤S5)。该WB增益计算出使所输入的缩小图像数据的白色成为预先确定的标准白色的R增益和B增益。在WB校正部22中,对从A/D转换部13输入的图像数据进行WB校正(步骤S6)。在该WB校正中,对从A/D转换部13输入的图像数据的R成分乘以WB增益计算部21所计算出的R增益,对B成分乘以B增益,从而进行校正。在WB校正部22中进行了WB校正的图像数据输入到同步化部23。
在同步化部23中,对所输入的图像数据进行同步化处理(步骤S7)。在同步化处理中,根据对同步化部23输入的拜尔排列的图像数据,通过插值生成将RGB3色作为1个像素成分的图像数据。在同步化部23中进行了同步化处理的图像数据,输入到Y/C分离部24。
在Y/C分离部24中,对所输入的图像数据进行Y/C分离处理(步骤S8)。在Y/C分离处理中,所输入的图像数据分离成Y(亮度)信号和C(颜色)信号。在所分离的信号之中,Y信号输入到灰度转换部30,C信号输入到颜色转换部25。
在颜色转换部25中,对所输入的C信号进行颜色转换处理(步骤S9)。在颜色转换处理中,输入到颜色转换部25的C信号转换为sRGB等标准颜色信号。在颜色转换部25中进行了颜色转换的信号,输入到尺寸调整部31。
并且,在直方图计算部26中,根据从块累加部14输入的缩小图像数据,进行直方图计算处理(步骤S10)。在直方图计算处理中,计算输入到直方图计算部26中的缩小图像数据之中的G成分的亮度直方图。图9的实线示出在直方图计算部26中计算出的直方图的例子。此处,图9的横轴表示亮度输入值(即,G成分的像素值)。并且,图9的左侧的纵轴表示亮度分布、即亮度输入的频度值。在直方图计算部26中计算出的直方图,输入到直方图校正部27。
在直方图校正部27中,进行校正所输入的直方图的直方图校正处理(步骤S11)。对于该直方图校正处理,将在后面叙述。
在直方图校正部27中的直方图校正处理之后,所校正的直方图输入到直方图累积部28。在直方图累积部28中,进行直方图累积处理(步骤S12)。在直方图累积处理中,输入到直方图累积部28的直方图,从低亮度成分侧起依次累积。直方图累积部28所得到的累积直方图输入到灰度转换表计算部29。在灰度转换表计算部29中,进行灰度转换表计算处理(步骤S13)。对于该灰度转换表计算处理,将在后面叙述。
灰度转换表计算部29所计算出的灰度转换表输入到灰度转换部30。在灰度转换部30中,进行灰度转换处理(步骤S14)。在灰度转换处理中,根据从灰度转换表计算部29输入的灰度转换表,对从Y/C分离部24输入的Y信号进行灰度转换。灰度转换后的Y信号输入到尺寸调整部31。在尺寸调整部31中,灰度转换后的Y信号和颜色转换的C信号利用插值运算等方法,根据记录时的图像尺寸来调整尺寸(步骤S15)。在JPEG压缩部32中,对尺寸调整后的Y信号和C信号进行JPEG压缩(步骤S16)。JPEG压缩处理之后,将场景模式和曝光条件等摄影信息作为报头信息附加给JPEG压缩后的数据,制作图像文件(步骤S17),将所制作的图像文件记录到记录介质19(步骤S18)。由此,结束摄影控制。
接着,参照图10,说明图8的步骤S11的直方图校正处理。在直方图校正处理中,首先,读出ROM 18中存储的默认灰度转换表33(步骤S21)。接着,计算出默认灰度转换表33的斜率(步骤S22)。此处,默认灰度转换表33的斜率是通过对默认灰度转换表33进行微分而得到的。例如,默认灰度转换表33为图5的实线所示的表时,其斜率为图5的虚线所示。
计算出默认灰度转换表33的斜率之后,读出ROM 18中存储的噪声特性信息34(步骤S23)。接着,推测灰度转换后的噪声量(步骤S24)。灰度转换后的噪声量是噪声量与灰度转换后的噪声的放大率的乘积。此处,灰度转换后的噪声的放大率用在步骤S22中计算出的默认灰度转换表33的斜率来表示,因此,灰度转换后的噪声量是图6的实线所表示的噪声量和图5的虚线所表示的默认灰度转换表的斜率的乘积,其结果,所得到的灰度转换后的噪声量为图6的虚线所示。如图6的虚线所示,灰度转换后,在原始图像上,在较暗的部分上出现噪声量的峰值。这是因为,通过灰度转换,原始图像的较暗部分扩张,较亮部分被压缩。
推测了灰度转换后的噪声量之后,为了进行直方图的校正,确定直方图的频度值限制电平(步骤S25)。此处,将直方图的频度值限制为使灰度转换后的噪声不明显。因此,作为频度值限制电平,计算出灰度转换后的噪声量的倒数。图9的虚线示出该频度值限制电平。如图9所示,在灰度转换后的噪声量增大的部分中,频度值的限制电平增大。
此处,将直方图的频度值限制电平设为灰度转换后的噪声量的倒数,但也可以在计算出倒数之后,进行预定的运算,求出更加合适的频度值限制电平。
确定了频度值限制电平之后,将在直方图中超过频度值限制电平的部分限制为图11所示那样(步骤S26)。使用这样校正的直方图进行灰度转换,从而使灰度转换后的噪声不明显。
图12示出直方图累积处理后得到的累积直方图的例子。另外,图12的实线示出了在直方图校正部27中进行直方图校正之前的累积直方图,图12的虚线示出了在直方图校正部27中进行直方图校正之后的累积直方图。其中,直方图校正后的累积直方图被归一化为使得累积频度的最大值(相当于频度的总数)与直方图校正前的累积频度的最大值一致。如图12所示,在直方图校正后的累积直方图中,灰度转换后噪声量增大的部分的斜率,与直方图校正前的累积直方图相比,变缓和。
接着,参照图13,说明灰度转换表计算处理。在灰度转换表计算处理中,以预定的合成比合成直方图累积部28所得到的累积直方图和ROM18中存储的默认灰度转换表33,计算出灰度转换表。
在图13中,首先,检查摄影时的场景模式信息(步骤S31)。接着,根据在步骤S31中检查后的场景模式信息,判断应选择ROM 18中存储的灰度合成比的哪一种比(步骤S32)。接着,根据所判断的灰度合成比,合成默认灰度转换表33和累积直方图(步骤S33)。
图14示出了合成默认灰度转换表33和累积直方图的例子。此处,图14的细实线表示默认灰度转换表,图14的虚线表示累积直方图,图14的粗实线表示合成后得到的最终的灰度转换表。并且,在图14的例子中,场景模式是标准模式(图7所示的灰度合成比为0.5∶0.5)。即,图14的例子中,灰度合成比为0.5∶0.5,所以合成后得到的灰度转换表是默认灰度转换表33和累积直方图的平均值。
并且,为图7所示的、拍摄风景那样的对比度高的被摄体的情况时,通过提高累积直方图一方的比例(图7中0.2∶0.8),能够进行更加适当的灰度表现。相反,为人物时,原本被摄体的对比度低,为了避免对比度上升到所需以上,重视默认灰度转换表的一方(图7中为0.7∶0.3)。而且,为夜景时,增高默认灰度转换表的一方的比例,使得原本较暗的图像不会亮到所需以上(图7中为0.8∶0.2)。另外,为夜景时,也可以不进行默认灰度转换表和累积直方图的合成。
另外,灰度合成比不限于仅存储与场景模式对应的值。例如,还可以同时存储与未图示的闪光灯的发光的有无、手动还是自动进行曝光等设定对应的灰度合成比。
图15(a)是示出在照相机侧自动控制曝光的自动曝光模式中的灰度合成比的一个例子的图。为图15(a)所示的自动曝光模式的情况下,根据摄影时的被摄体亮度(BV)、摄影时的摄像部12的摄影灵敏度信息、表示闪光灯的发光的打开/关闭的闪光灯信息,确定灰度合成比。
在图15(a)中,例如,被摄体为低亮度(BV低)且摄像部12的摄影灵敏度设定为低灵敏度的状态下,闪光灯为打开时,图像的对比度增高,因此,增大累积直方图一方的比例,使得较暗部分的图像不至变黑。另一方面,被摄体为高亮度(BV高)且摄像部12的摄影灵敏度设定为低灵敏度的状态下,闪光灯为打开时,用户有可能为了进行逆光校正而使闪光灯发光,因此,使默认灰度表和累积直方图的比例为相同。
并且,被摄体为低亮度且摄像部12的摄影灵敏度设定为低灵敏度的状态下,闪光灯为关闭时,有可能是用户故意关闭闪光灯,所以使默认灰度表和累积直方图的比例为相同。而且,被摄体为高亮度且摄像部12的摄影灵敏度设定为低灵敏度的状态下,闪光灯为关闭时,增高累积直方图一方的比例,能够进行适当的灰度表现。
并且,摄像部12的摄影灵敏度设定为高灵敏度的情况下,图像整体变亮,因此,使累积直方图一方的比率低于低灵敏度的情况,使得较暗部分不会亮到所需以上。
图15(b)是示出手动控制曝光的手动曝光模式的灰度合成比的一例的图。如图15(b)所示,在手动曝光模式中,为了充分反映用户的作画意图,不合成累积直方图,而仅使用默认灰度转换表。
如上述说明,根据本实施方式,利用块累加部得到的缩小图像数据能够用于白平衡增益的计算和灰度转换表的计算中。由此,在不增大电路规模或存储器的情况下,能够快速地进行灰度转换表的导出和白平衡增益的计算。
根据以上实施方式说明了本发明,但本发明并不限于上述的实施方式,在本发明宗旨的范围内当然可以进行各种变形和应用。例如,上述的实施方式仅说明了图像摄影时的情况,但在图像重放时,也可以应用本发明的技术。
并且,在上述的实施方式中,将缩小图像数据用于白平衡增益的计算和灰度转换特性的导出,但也可以将缩小图像数据作为缩略图像利用。此处,通常缩略图像是以160×120这样的分割数来生成,因此,标准模式或夜景模式时,块累加部14所得到的缩小图像数据可以直接作为缩略图像来使用。并且,为风景模式时,通过插值运算或块累加等来减少块累加部14所得到的缩小图像数据的块数,并且,为人物模式时,通过插值运算等来增加块累加部14所得到的缩小图像数据的块数。这些处理,例如可以在尺寸调整部31中进行。该情况下,块累加部14和尺寸调整部31也可以称为缩略图像生成单元。
而且,在上述的实施方式中,利用直方图导出灰度转换表,但在灰度转换表的导出中无需一定利用直方图。
而且,上述的实施方式包括各种阶段的发明,可以通过适当地组合所公开的多个结构要件来提取各种发明。例如,从实施方式中公开的全部构成要件中删除一些构成要件,也能够解决发明内容所述的课题,能够得到发明内容所述的效果时,删除了该结构要件的构成也可作为发明而提取。