CN109561261A - 图像处理装置、图像处理方法以及记录介质 - Google Patents

图像处理装置、图像处理方法以及记录介质 Download PDF

Info

Publication number
CN109561261A
CN109561261A CN201811117664.0A CN201811117664A CN109561261A CN 109561261 A CN109561261 A CN 109561261A CN 201811117664 A CN201811117664 A CN 201811117664A CN 109561261 A CN109561261 A CN 109561261A
Authority
CN
China
Prior art keywords
white balance
photographed images
unit
image
calculated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811117664.0A
Other languages
English (en)
Other versions
CN109561261B (zh
Inventor
塚越丈史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of CN109561261A publication Critical patent/CN109561261A/zh
Application granted granted Critical
Publication of CN109561261B publication Critical patent/CN109561261B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Processing Of Color Television Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

提供在将多个摄像图像合成之际使接头处产生的色泽的差异减轻的图像处理装置、图像处理方法以及记录介质。该图像处理装置具备:取得摄像图像(G1、G2)的取得单元;计算摄像图像(G1、G2)中的白平衡(WB1、WB2)的计算单元;对白平衡(WB1、WB2)实施修正的修正单元;调整摄像图像(G1、G2)的调整单元;和将调整过的多个摄像图像(G10、G20)彼此合成来生成全天球图像(GG)的生成单元,修正单元设定摄像图像(G1、G2)彼此的接头处的白平衡(WB3),并且利用插补函数计算白平衡(WB1、WB2)与白平衡(WB3)之间的插补值,调整单元在由修正单元修正过的白平衡(WB10、WB20)的基础上,还基于白平衡(WB1、WB2)与白平衡(WB3),来调整多个摄像图像。

Description

图像处理装置、图像处理方法以及记录介质
技术领域
本发明涉及图像处理装置、图像处理方法以及记录介质。
背景技术
近年来,为了一次性拍摄全方位(以下,称为“全天球”。),公知在数码相机等的摄像装置中使用多个鱼眼透镜等的广角透镜,以作为全天球摄像系统。
日本特开2014-078926号公报中记载着,在全天球摄像系统的图像处理装置中,在将多个摄像图像合成之际,将多个摄像图像分割为区域,对各分割后的区域的白平衡进行调整。
然而,在专利文献1所述的现有技术中,在被分割后的区域间,依然会在白平衡产生不连续性,因此在将多个摄像图像合成时的接头处中,消除色泽的差异也是困难的。
发明内容
因而,本发明是鉴于上述事情而进行的,其目的在于,提供一种在将多个摄像图像合成之际使接头处产生的色泽的差异减轻的图像处理装置、图像处理方法以及记录介质。
为了达成上述目的,通过以下的结构来把握本发明。
本发明的图像处理装置,具备:
取得单元,取得由多个摄像系统拍摄到的多个摄像图像;
白平衡计算单元,分别计算由所述取得单元取得的所述多个摄像图像中的白平衡;
修正单元,对由所述白平衡计算单元计算出的所述白平衡分别实施修正;
调整单元,基于由所述修正单元修正过的白平衡,分别调整所述多个摄像图像;和
生成单元,通过将由所述调整单元调整过的所述多个摄像图像彼此合成,从而生成广角图像,
所述修正单元具有:
设定单元,设定所述多个摄像图像彼此的接头处的白平衡;和
插补值计算单元,利用插补函数,分别计算由所述白平衡计算单元计算出的各个所述白平衡与由所述设定单元设定的所述接头处的白平衡之间的插补值,
所述修正单元基于由所述插补值计算单元计算出的所述插补值,使所述多个摄像图像中的所述白平衡分别连续性地变化,以对所述白平衡实施修正,
所述调整单元基于由所述修正单元修正过的白平衡、由所述白平衡计算单元计算出的各个所述白平衡与所述接头处的白平衡,分别调整所述多个摄像图像。
本发明的图像处理装置的图像处理方法,包括:
图像取得步骤,取得由多个摄像系统拍摄到的多个摄像图像;
白平衡计算步骤,分别计算所取得的所述多个摄像图像中的白平衡;
白平衡设定步骤,设定所述多个摄像图像彼此的接头处的白平衡;
插补值计算步骤,利用插补函数,分别计算所计算出的各个所述白平衡与所设定的所述接头处的白平衡之间的插补值;
白平衡修正步骤,基于所计算出的所述插补值,使所述多个摄像图像中的所述白平衡连续性地变化,对所述白平衡分别实施修正;
图像调整步骤,基于修正过的所述白平衡,分别调整所述多个摄像图像;和
图像生成步骤,通过将调整过的所述多个摄像图像彼此进行合成,从而生成广角图像,
所述图像调整步骤在修正过的所述白平衡的基础上,还基于通过所述白平衡计算步骤计算出的各个所述白平衡与所述接头处的白平衡,分别调整所述多个摄像图像。
本发明的非易失性的记录介质,是图像处理装置的非易失性的记录介质,其特征在于,能实现以下功能:
图像取得功能,取得由多个摄像系统拍摄到的多个摄像图像;
白平衡计算功能,分别计算所取得的所述多个摄像图像中的白平衡;
白平衡设定功能,设定所述多个摄像图像彼此的接头处的白平衡;
插补值计算功能,利用插补函数,分别计算所计算出的各个所述白平衡与所设定的所述接头处的白平衡之间的插补值;
修正功能,基于所计算出的所述插补值,使所述多个摄像图像中的所述白平衡连续性地变化,对所述白平衡分别实施修正;
图像调整功能,基于修正过的所述白平衡,分别调整所述多个摄像图像;和
图像生成功能,通过将调整过的所述多个摄像图像彼此进行合成,从而生成广角图像,
所述图像调整功能在修正过的所述白平衡的基础上,还基于通过所述白平衡计算功能计算出的各个所述白平衡与所述接头处的白平衡,分别调整所述多个摄像图像。
根据本发明,能够提供在将多个摄像图像合成之际使接头处产生的色泽的差异减轻的图像处理装置、图像处理方法以及记录介质。
附图说明
图1A是表示将实施方式的图像处理装置中的摄像装置与主体装置一体地组合后的状态的概略图。
图1B是表示将实施方式的图像处理装置中的摄像装置与主体装置分离后的状态的概略图。
图2A是表示实施方式的图像处理装置中的摄像装置10的结构的框图。
图2B是表示实施方式的图像处理装置中的主体装置100的结构的框图。
图3A是表示摄像装置10的第一姿态的概略图。
图3B是表示摄像装置10的第二姿态的概略图。
图4A是表示摄像装置的摄像范围的图。
图4B是表示显示器所显示的广角图像的图。
图4C是表示用球面坐标系表现出的广角图像的图。
图5是表示合成后的全天球图像的说明图。
图6A是表示全天球图像的接头处的色泽不同的状态的说明图。
图6B是表示色泽已经一致的状态的说明图。
图7是表示图像处理工序的流程图。
具体实施方式
以下,参照附图对本具体实施方式(以下,实施方式)详细地加以说明。需要说明的是,本说明书的实施方式中,整体都对相同的要素赋予相同的附图标记。
实施方式的图像处理装置1例示适用于数码相机的情况而加以说明。
图1A是表示将实施方式的图像处理装置1中的摄像装置10和主体装置100一体地组合后的状态的概略图,图1B是表示将摄像装置10与主体装置100分离后的状态的概略图。图2A是表示实施方式的图像处理装置1中的摄像装置10的结构的框图,图2B是表示实施方式的图像处理装置1中的主体装置100的结构的框图。
图像处理装置1,如图1A以及图1B所示那样,具备具有后述的摄像系统16、17的摄像装置10和主体装置100,构成为摄像装置10与主体装置100能分离的分体式数码相机。其中,如果能取得摄像装置10的摄像图像数据,那么主体装置100也可以是智能手机、平板电脑或个人计算机等普通的便携信息终端。
如图2A所示那样,摄像装置10能拍摄静止图像或动态图像等,壳体形成为箱状,在该壳体内部具备控制部11、电源部12、存储部13、通信部14、操作部15、摄像系统(第一摄像部16、第二摄像部17)、姿态检测部18等。
控制部11借助来自电源部(二次电池)12的电力供给而动作,根据存储部13内的各种程序来控制摄像装置10的整体动作,在该控制部11设置有未图示的CPU(中央运算处理装置)、存储器等。
存储部13例如具有ROM、闪速存储器等,储存有用于实现摄像功能的程序或各种应用等。需要说明的是,存储部13例如也可包括SD卡、USB存储器等装卸自如的便携式存储器(记录媒体),或者,也可以被构成为保存于未图示的外部服务器的存储区域。
通信部14将摄像图像向主体装置100发送,或接收来自主体装置100的操作指示信号等。再有,操作部15具备电源开关等的基本的操作键(硬件键)。
接着,第一摄像部16以及第二摄像部17构成多个摄像系统(以后,有时集中称为“摄像系统16、17”。)。
第一摄像部16构成能高精细地拍摄被摄体(或背景)等的相机部。在第一摄像部16的透镜单元16A设置有鱼眼透镜16B、摄像元件16C等。需要说明的是,在本实施方式中,通常的摄像透镜(未图示)与鱼眼透镜16B能更换,在图2A中,是装配了鱼眼透镜16B的状态。
鱼眼透镜16B例如由3片结构的透镜系构成,是视场角超过180°的能够进行宽范围的摄像的圆周鱼眼透镜(整周鱼眼透镜或者广角透镜),通过该鱼眼透镜16B拍摄到的广角图像(鱼眼图像)的整体成为圆形的摄像图像G1。该情况下,为了采用射影方式,利用鱼眼透镜16B拍摄到的广角图像越从其中心朝向端部,越大幅地变形。
换句话说,基于鱼眼透镜16B的摄像图像G1,成为越从其中心朝向端部(周边部)、则越大幅地变形,并且与广角图像的中心相比其周边部被缩小的图像,因此用户即便详细地目视确认了其周边部的内容,该确认也会变得极其困难。上述那样的基于鱼眼透镜16B的被摄体像(光学像),若被摄像元件16C(例如,CMOS或者CCD)成像,则通过摄像元件16C进行了光电变换的图像信号(模拟值的信号)通过A/D变换部(未图示)而被变换为数字信号,并且被实施了规定的图像处理后,向主体装置100侧发送并显示于监视器。
再有,第二摄像部17的摄像方向相对于第一摄像部16为不同的方向(正相反方向),所拍摄到的广角图像成为摄像图像G2,除此以外和第一摄像部16同样,由透镜单元17A、鱼眼透镜17B、摄像元件17C构成。
姿态检测部18由对施加于摄像装置10的加速度进行检测的3轴加速度传感器等构成。该姿态检测部18向控制部11提供根据摄像装置10的姿态而检测出的X/Y/Z方向的各加速度成分。需要说明的是,摄像装置10如上述是箱状的壳体,将该壳体的短边的方向作为X轴向,将壳体的长边的方向作为Y轴向,将壳体的厚度方向作为Z轴向,则控制部11对该X轴、Y轴、Z轴的加速度成分进行比较来检测摄像装置10的后述的第一姿态以及第二姿态,并将该姿态信息从通信部14发送至主体装置100。
进而,在摄像装置10设置有与主体装置100连接的连接部10a,与主体装置100一体地组合而构成为分体式数码相机。
接着,如图2B所示那样,主体装置100构成数码相机的控制器,也具有对通过摄像装置10拍摄到的图像进行显示的再生功能。该主体装置100具备控制部111、电源部112、存储部113、通信部114、操作部115、触摸显示部116。
控制部111借助来自电源部(二次电池)112的电力供给而动作,根据存储部113内的各种程序来控制主体装置100的整体动作,在该控制部111设置有未图示的CPU(中央运算处理装置)、存储器等。再有,控制部111(计算机)被构成为根据图像处理用程序,在后述的图像处理工序中作为取得单元20、白平衡计算单元30、修正单元40(设定单元41、插补值计算单元42)、调整单元50、生成单元60等来实现功能。
存储部113例如是具有ROM、闪速存储器等的结构,具有储存用于实现摄像功能或图像处理功能的程序或各种应用等的程序存储器113A、暂时性地存储主体装置100进行动作所需的各种信息(例如标志等)的工作存储器113B等。
通信部114与摄像装置10之间进行各种数据的收发。再有,操作部115具备电源按钮、释放按钮、设定曝光或快门速度等的摄像条件的设定按钮等按压按钮式的各种键,控制部111执行根据来自该操作部115的输入操作信号的处理,或对摄像装置10发送输入操作信号。
而且,触摸显示部116是将触摸面板116B层叠配置到高精细液晶等的显示器116A之上的构件,其显示画面成为实时地显示所拍摄到的图像的监视器画面(实时取景画面),或成为对拍摄完毕图像进行再生的再生画面。还有,也可以将第一摄像部16的摄像图像G1、第二摄像部17的摄像图像G2、全天球图像GG等分别独立地显示于显示器116A,或并列地显示于显示器116A。
而且,这些摄像装置10以及主体装置100能够使用无线通信而相互配对(无线连接识别)。作为配对所使用的无线通信,可列举例如无线LAN(Wi-Fi)、Bluetooth(注册商标)、红外线通信等。这样一来,主体装置100接收取得由摄像装置10拍摄到的图像(数据),并将图像作为实时取景图像而显示于显示器116A。需要说明的是,本实施方式中,图像并不局限于保存完毕的图像,是将实时取景画面所显示的图像(实时取景图像:保存前的图像)包括在内的广义的含义。
图3A是表示摄像装置10的第一姿态的概略图、图3B是表示第二姿态的概略图。
在使用摄像装置10来拍摄的情况下,设为摄像装置10是第一姿态或者第二姿态,分别处理广角图像。如图3(a)所示那样,第一姿态是配置在摄像装置10的正面中央部的摄像系统16、17的鱼眼透镜16B、17B的光轴向相对于重力方向呈大致平行的水平拍摄姿态,如图3(b)所示那样,第二姿态是摄像装置10的鱼眼透镜16B、17B的光轴向相对于重力方向呈大致垂直的垂直拍摄姿态。
以后,针对使用摄像装置10在垂直拍摄姿态下进行了拍摄了的情况,对摄像范围等进行说明。
图4A是表示摄像装置10的摄像范围的说明图、图4B是表示显示器116A所显示的广角图像的说明图、图4C是表示以球面坐标系表现出的广角图像的说明图。图5是表示合成后的全天球图像GG的说明图。图6A是表示全天球图像GG的接头处J的、色泽不同的状态的说明图、图6B是表示全天球图像GG的接头处J的、色泽一致的状态的说明图。
第一摄像部16的摄像范围,如图4A所示那样,成为从摄像地点(摄像元件16C)起包括大致半球份的方位的范围。需要说明的是,将绕第一摄像部16的光轴C1的旋转角设为旋转角度θ,将相对于光轴C1的左右水平方向的旋转角设为水平角度δ,将相对于光轴C1的上下垂直(重力)方向的旋转角设为垂直角度需要说明的是,第二摄像部17的摄像范围的摄像方向和光轴C1的朝向正相反,换句话说,除了水平角度δ相差180°以外,和第一摄像部16的摄像范围大体相等。另外,一般的水平角度δ以及垂直角度的最大范围超过-90°~+90°,为-105°~+105°程度(或者,超过180°且为210°程度)。进一步换言之,第一摄像部16以及第二摄像部17的摄像范围是超出半球若干的大小。
再有,若将用摄像系统16、17拍摄到的摄像图像G1、G2作为广角图像而显示于显示器116A,则摄像图像G1如图4B所示那样,以相对于光轴C1的入射角度、即垂直角度所对应的像高h分别生成像素图像并被显示。换句话说,能够用极坐标系来表现摄像图像G1、G2。需要说明的是,像高h和入射角度的关系是由与投影模型对应的射影函数来决定的。还有,摄像图像G2也和摄像图像G1同样。
还有,若用球面坐标系来表现摄像图像G1、G2,则如图4C所示那样,可表现为以旋转角度θ、垂直角度为坐标的排列,换句话说,可表现为坐标值(θ,)。需要说明的是,旋转角度θ为0~360°(或者,-180°~+180°)的范围,垂直角度为-90°~+90°(或者,0~180°)的范围。
全天球图像GG如图5所示那样,是在接头处J将摄像图像G1、G2之中半球的部分接合而得的图像。在用摄像系统16、17拍摄了被摄体之际,由于存在包含各摄像系统16、17中共用拍入的被摄体或背景等的图像部分的重复区域(特别是,水平角度δ以及垂直角度为超过-90°~+90°的范围),故该重复区域作为表征相同像的基准数据而被设为图像的接合的参考,设定接头处J。
而且,即便是以往的图像处理方法,在全天球图像GG的接头处J,也不会在被摄体或背景等不一致的状态下结合·合成,作为图像呈现连续的状态,但色泽(特别是白平衡WB1、WB2)将接头处J作为边界而在摄像图像G1、G2间呈现不同(参照图6A)。因而,在本实施方式中,对摄像图像G1、G2进行以下的图像处理,得到减轻或者消除了色泽的差异的摄像图像G10、G20,合成全天球图像GG(参照图6B)。
对图像处理工序进行说明。
图7是表示图像处理工序的流程图。其中,修正广角图像的变形的处理(变形修正处理)、结合半球图像来合成全天球图像GG的处理(全天球合成处理)等可利用图像处理中一般使用的公知技术,因此省略说明。
首先,步骤S1中,使用摄像装置10,通过两个摄像系统16、17拍摄被摄体。
步骤S2中,利用取得单元20在主体装置100取得通过摄像系统16、17拍摄到的摄像图像G1、G2。
步骤S3中,白平衡计算单元30解析所取得的摄像图像G1、G2,计算摄像图像G1、G2中的白平衡WB1、WB2。此时,摄像图像G1、G2的解析使用与拍摄时的光源的种类相应的表格等来进行。
步骤S4中,修正单元40的设定单元41设定在将摄像图像G1、G2结合并合成之际成为接头处J的部分的白平衡(值)WB3。该白平衡WB3是被包含于摄像图像G1中的接头处J所对应的部分(边界)的白平衡W1和摄像图像G2中的接头处J所对应的部分的白平衡W2之间的值,例如,优选设定白平衡W1与白平衡W2的平均值,但在此外追加地进行图像处理的情况下,也可以未被包含于这些白平衡W1、W2间,是大的值或者小的值。再有,白平衡(值)WB3可以是固定值,或者也可以是由用户设定的值。需要说明的是,白平衡(值)WB3通常是相同的值,但由于在摄像系统16、17存在个体差,故在摄像图像G1、G2的白平衡调整后的摄像图像G10、G20中的接头处J,只要是成为相同的色泽的值,也可以有若干不同。
步骤S5中,修正单元40的插补值计算单元42利用插补函数fx,分别计算步骤S3中计算出的白平衡WB1、WB2和步骤S3中设定的白平衡WB3之间的插补值FW1、FW2。
在此使用的插补函数fx中包含线性插补(一次函数插补)、样条插补(二次函数插补,三次函数插补,···N次函数插补)等。
步骤S6中,修正单元40基于在步骤S5中计算出的插补值FW1、FW2将摄像图像G1、G2中的白平衡WB1、WB2修正为白平衡WB10、WB20。
此时,对白平衡WB10、WB20设置角度并使之从摄像图像G1、G2的中心(光轴C1、C2)向高像高侧(图像端)连续性地变化(参照图4(b)),以使得摄像图像G1、G2中的接头处J的白平衡值成为白平衡WB3。其中,摄像图像G1、G2的中心未必一定要和鱼眼透镜16B、17B的摄像范围的中心(光轴C1、C2)一致,也可以选择特定的被摄体的重心、或亮度最高的点(最白的点)等与中心不一致且偏心的位置。
步骤S7中,调整单元50除了在步骤S6中修正过的白平衡WB10、WB20之外还基于步骤S3中计算出的白平衡WB1、WB2和步骤S4中所设定的接头处的白平衡WB3,对摄像图像G1、G2进行调整。其结果,摄像图像G1、G2成为白平衡调整完毕的摄像图像G10、G20。此时,摄像图像G10、G20中的接头处J所对应的部分的白平衡值分别成为WB3。
步骤S8中,生成单元60将步骤S7中调整过的摄像图像G10、G20彼此以接头处J为边界进行合成。
这样一来,在步骤S9中能够从原始图像的白平衡W1、W2间存在差异的多个摄像图像G1、G2得到接头处J不明显的全天球图像GG。
以上,如已经说明过的,本实施方式的图像处理装置1具备:
取得单元20,取得通过多个摄像系统16、17拍摄到的多个摄像图像G1、G2;
白平衡计算单元30,分别计算通过取得单元20取得的多个摄像图像G1、G2中的白平衡WB1、WB2;
修正单元40,对由白平衡计算单元30计算出的白平衡WB1、WB2分别实施修正;
调整单元50,基于由修正单元40修正过的白平衡WB10、WB20,对多个摄像图像G1、G2分别进行调整;以及
生成单元60,将由调整单元50调整过的多个摄像图像G10、G20彼此进行合成,由此生成全天球图像GG,
修正单元40具有:
设定单元41,设定多个摄像图像G1、G2彼此的接头处J的白平衡WB3;和
插补值计算单元42,利用插补函数fx,分别计算由白平衡计算单元30计算出的白平衡WB1、WB2和由设定单元41设定的接头处J的白平衡WB3之间的插补值FW1、FW2,
该修正单元基于由插补值计算单元42计算出的插补值FW1、FW2,使多个摄像图像G1、G2中的白平衡WB1、WB2分别连续性地变化,对所述白平衡WB1、WB2实施修正,
调整单元50基于由修正单元40修正过的白平衡WB10、WB20以及由白平衡计算单元30计算出的各个白平衡WB1、WB2、接头处J的白平衡WB3,分别调整多个摄像图像G1、G2。
由此,调整后的摄像图像G10、G20中的接头处J所对应的部分的白平衡变为相等(一致),所以在将所拍摄到的多个摄像图像G1、G2合成来生成全天球图像GG之际,能够减轻接头处J产生的色泽的差异。
实施方式中,对接头处J设定的白平衡WB3是被包含于所对应的白平衡WB1、WB2彼此之间的值。由此,摄像图像G1、G2中的白平衡WB1、WB2被平均地修正。其中,对接头处J设定的白平衡WB3可以是所对应的白平衡WB1、WB2彼此的平均值,还可以根据被摄体或摄像环境而接近于摄像图像G1、G2的一方中的白平衡WB1、WB2。
实施方式中,修正单元40基于由插补值计算单元42计算出的插补值FW,在多个摄像图像G1、G2之中的一个图像中,使白平衡WB10从图像的规定位置例如中心(光轴C1、C2)向高像高侧(图像端)连续性地变化。由此,能够使得调整后的摄像图像G10、G20成为更自然且顺滑的图像。
实施方式中,通过在插补函数fx中采用线性插补,从而能够加快快插补值FW1、FW2的计算速度,能够提早进行摄像图像G1、G2的图像调整。再有,通过在插补函数fx中采用样条插补,从而能够将白平衡WB10、WB20设为更自然且顺滑的白平衡,能够使调整后的摄像图像G10、G20成为更自然且顺滑的图像。
以上,对本发明优选的实施方式进行了详述,但本发明所涉及的图像处理装置、图像处理方法以及程序未被限定于上述的实施方式,在权利要求书所记载的本发明主旨的范围内能够实施各种各样的变形、变化。
(变形例)
上述实施方式中,修正单元40分别修正了摄像图像G1、G2中的白平衡WB1、WB2,但修正单元40也可以针对多个摄像图像G1、G2之中的至少一个,换句话说,仅针对一方例如摄像图像G2中的白平衡WB2进行修正。进一步换言之,也可以对接头处J的白平衡WB3采用摄像图像G1中的接头处J所对应的部分中的白平衡值,计算摄像图像G2中的白平衡WB2和由设定单元41设定的白平衡WB3之间的插补值FW2。而且,也可以基于计算出的插补值FW2,使摄像图像G2中的白平衡WB2连续性地变化。
再有,摄像图像G1、G2中,除了色泽(白平衡WB1、WB2)以外,有时明亮度(例如,曝光AE)也会不同。因而,也可以进行图像处理,以使得减轻或者消除明亮度的差异。曝光AE意味着通过光圈值(F值)与曝光时间(快门速度)来决定的程度,程度的大小即曝光值能用单位“EV”来表现。该情况下也同样地,作为多个摄像图像G1、G2彼此的接头处J的曝光,只要设定相同的值或者接头处J所对应的部分的曝光彼此间的值等即可。详述的话,曝光值计算单元分别计算摄像图像G1、G2中的曝光值,修正单元40的曝光值设定单元设定多个摄像图像G1、G2彼此的接头处J的曝光值。修正单元40的曝光插补值计算单元利用插补函数fx,分别计算由曝光值计算单元计算出的曝光值和曝光值设定单元所设定的曝光值之间的曝光插补值。修正单元40基于计算出的曝光插补值,使摄像图像G1、G2中的曝光值分别连续性地变化。
上述实施方式中,摄像图像G1、G2为两个,但可以是三个以上的多个摄像图像G1、G2···,该情况下,只要以两个为单位进行图像处理来合成即可。
上述实施方式中,图像处理装置1是摄像装置10与主体装置100能分离的分体式,但也可以是摄像装置10与主体装置100不能分离的一体型。
上述实施方式中,生成单元60通过将由调整单元50调整过的多个摄像图像G10、G20彼此进行合成,从而生成了全天球图像GG,但未被限于此,也可以生成全景图像等的广角图像。
上述实施方式中,在未考虑摄像系统16、17的特性的个体差的情况下进行了图像处理,但也可以考虑各摄像系统的特性的个体差来进行图像处理。换句话说,也可以设定为仅与一方例如摄像系统16的特性配合,取消摄像系统17的特性。再有,也可以设定各摄像系统的特性,以使得各摄像系统的特性平均化。

Claims (9)

1.一种图像处理装置,其特征在于,具备:
取得单元,取得由多个摄像系统拍摄到的多个摄像图像;
白平衡计算单元,分别计算由所述取得单元取得的所述多个摄像图像中的白平衡;
修正单元,对由所述白平衡计算单元计算出的所述白平衡分别实施修正;
调整单元,基于由所述修正单元修正过的白平衡,分别调整所述多个摄像图像;和
生成单元,通过将由所述调整单元调整过的所述多个摄像图像彼此合成,从而生成广角图像,
所述修正单元具有:
设定单元,设定所述多个摄像图像彼此的接头处的白平衡;和
插补值计算单元,利用插补函数,分别计算由所述白平衡计算单元计算出的各个所述白平衡与由所述设定单元设定的所述接头处的白平衡之间的插补值,
所述修正单元基于由所述插补值计算单元计算出的所述插补值,使所述多个摄像图像中的所述白平衡分别连续性地变化,以对所述白平衡实施修正,
所述调整单元基于由所述修正单元修正过的白平衡、由所述白平衡计算单元计算出的各个所述白平衡与所述接头处的白平衡,分别调整所述多个摄像图像。
2.根据权利要求1所述的图像处理装置,其特征在于,
由所述生成单元生成的广角图像是全天球图像。
3.根据权利要求1所述的图像处理装置,其特征在于,
由所述设定单元设定的所述接头处的白平衡是由所述白平衡计算单元计算出的所述白平衡彼此间的值。
4.根据权利要求1所述的图像处理装置,其特征在于,
所述修正单元针对所取得的所述多个摄像图像之中至少一个所述摄像图像,对由所述白平衡计算单元计算出的所述白平衡实施修正。
5.根据权利要求1所述的图像处理装置,其特征在于,
所述修正单元基于由所述插补值计算单元计算出的所述插补值,使所述多个摄像图像之中至少一个所述摄像图像中的所述白平衡从图像的规定位置向图像端连续性地变化。
6.根据权利要求1所述的图像处理装置,其特征在于,
所述插补值计算单元包括线性插补或者样条插补,以作为所述插补函数。
7.根据权利要求1~6中任一项所述的图像处理装置,其特征在于,
所述图像处理装置具备:曝光值计算单元,分别计算所述多个摄像图像中的曝光值,
所述修正单元具有:
曝光值设定单元,设定所述多个摄像图像彼此的接头处的曝光值;和
曝光插补值计算单元,利用所述插补函数,分别计算由所述曝光值计算单元计算出的各个所述曝光值和由所述曝光值设定单元设定的所述曝光值之间的曝光插补值,
基于由所述曝光插补值计算单元计算出的所述曝光插补值,使由所述曝光值计算单元计算出的所述曝光值分别连续性地变化。
8.一种图像处理装置的图像处理方法,其特征在于,包括:
图像取得步骤,取得由多个摄像系统拍摄到的多个摄像图像;
白平衡计算步骤,分别计算所取得的所述多个摄像图像中的白平衡;
白平衡设定步骤,设定所述多个摄像图像彼此的接头处的白平衡;
插补值计算步骤,利用插补函数,分别计算所计算出的各个所述白平衡与所设定的所述接头处的白平衡之间的插补值;
白平衡修正步骤,基于所计算出的所述插补值,使所述多个摄像图像中的所述白平衡连续性地变化,对所述白平衡分别实施修正;
图像调整步骤,基于修正过的所述白平衡,分别调整所述多个摄像图像;和
图像生成步骤,通过将调整过的所述多个摄像图像彼此进行合成,从而生成广角图像,
所述图像调整步骤在修正过的所述白平衡的基础上,还基于通过所述白平衡计算步骤计算出的各个所述白平衡与所述接头处的白平衡,分别调整所述多个摄像图像。
9.一种非易失性的记录介质,是图像处理装置的非易失性的记录介质,其特征在于,能实现以下功能:
图像取得功能,取得由多个摄像系统拍摄到的多个摄像图像;
白平衡计算功能,分别计算所取得的所述多个摄像图像中的白平衡;
白平衡设定功能,设定所述多个摄像图像彼此的接头处的白平衡;
插补值计算功能,利用插补函数,分别计算所计算出的各个所述白平衡与所设定的所述接头处的白平衡之间的插补值;
修正功能,基于所计算出的所述插补值,使所述多个摄像图像中的所述白平衡连续性地变化,对所述白平衡分别实施修正;
图像调整功能,基于修正过的所述白平衡,分别调整所述多个摄像图像;和
图像生成功能,通过将调整过的所述多个摄像图像彼此进行合成,从而生成广角图像,
所述图像调整功能在修正过的所述白平衡的基础上,还基于通过所述白平衡计算功能计算出的各个所述白平衡与所述接头处的白平衡,分别调整所述多个摄像图像。
CN201811117664.0A 2017-09-27 2018-09-21 图像处理装置、图像处理方法以及记录介质 Active CN109561261B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017-186894 2017-09-27
JP2017186894A JP6953961B2 (ja) 2017-09-27 2017-09-27 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
CN109561261A true CN109561261A (zh) 2019-04-02
CN109561261B CN109561261B (zh) 2021-06-15

Family

ID=65806947

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811117664.0A Active CN109561261B (zh) 2017-09-27 2018-09-21 图像处理装置、图像处理方法以及记录介质

Country Status (3)

Country Link
US (1) US10757387B2 (zh)
JP (1) JP6953961B2 (zh)
CN (1) CN109561261B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101119442A (zh) * 2007-08-10 2008-02-06 浙江大学 基于全景图拼接的视频编辑方法
US20120188401A1 (en) * 2011-01-21 2012-07-26 Sanyo Electric Co., Ltd. Image processing apparatus
US20140078247A1 (en) * 2012-09-18 2014-03-20 Makoto Shohara Image adjuster and image adjusting method and program
CN104620569A (zh) * 2012-09-11 2015-05-13 株式会社理光 成像控制器以及成像控制方法和程序
US20160012562A1 (en) * 2014-07-08 2016-01-14 Canon Kabushiki Kaisha Image processing apparatus and image processing method
CN106097244A (zh) * 2016-06-03 2016-11-09 上海小蚁科技有限公司 用于拼接图像的方法和装置以及用于组合图像的方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4433883B2 (ja) * 2004-05-31 2010-03-17 カシオ計算機株式会社 ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置
JP5095294B2 (ja) * 2007-08-02 2012-12-12 株式会社リコー 撮像装置、撮像方法
US8040391B2 (en) * 2007-08-06 2011-10-18 Panasonic Corporation White balance adjustment device, image capture device, white balance adjustment method, storage medium, and integrated circuit
JP5169318B2 (ja) * 2007-09-18 2013-03-27 株式会社リコー 撮像装置、撮像方法
JP5146015B2 (ja) * 2008-03-04 2013-02-20 株式会社リコー 撮像装置及び撮像方法
US9094540B2 (en) * 2012-12-13 2015-07-28 Microsoft Technology Licensing, Llc Displacing image on imager in multi-lens cameras
JP6446790B2 (ja) * 2014-02-21 2019-01-09 株式会社リコー 画像処理装置、撮像装置、画像補正方法およびプログラム
JP5843027B1 (ja) * 2015-03-10 2016-01-13 株式会社リコー 撮像装置、制御方法およびプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101119442A (zh) * 2007-08-10 2008-02-06 浙江大学 基于全景图拼接的视频编辑方法
US20120188401A1 (en) * 2011-01-21 2012-07-26 Sanyo Electric Co., Ltd. Image processing apparatus
CN104620569A (zh) * 2012-09-11 2015-05-13 株式会社理光 成像控制器以及成像控制方法和程序
US20140078247A1 (en) * 2012-09-18 2014-03-20 Makoto Shohara Image adjuster and image adjusting method and program
US20160012562A1 (en) * 2014-07-08 2016-01-14 Canon Kabushiki Kaisha Image processing apparatus and image processing method
CN106097244A (zh) * 2016-06-03 2016-11-09 上海小蚁科技有限公司 用于拼接图像的方法和装置以及用于组合图像的方法

Also Published As

Publication number Publication date
US20190098275A1 (en) 2019-03-28
US10757387B2 (en) 2020-08-25
JP2019062466A (ja) 2019-04-18
CN109561261B (zh) 2021-06-15
JP6953961B2 (ja) 2021-10-27

Similar Documents

Publication Publication Date Title
JP7268369B2 (ja) 撮像システム、現像システム、撮像方法、及びプログラム
JP7185434B2 (ja) 複数のカメラを用いて映像を取得するための電子装置及びこれを用いた映像処理方法
US10210622B2 (en) Image processing device, image processing method, and recording medium storing program
JP6263623B2 (ja) 画像生成方法及びデュアルレンズ装置
US11924550B2 (en) Method for processing image by using artificial neural network, and electronic device supporting same
CN109672827B (zh) 用于组合多个图像的电子装置及其方法
CN103685917A (zh) 图像处理器、图像处理方法和成像系统
JP2020191650A (ja) 撮像システム、方法、プログラム、動画表示装置および画像処理装置。
US11363199B2 (en) Apparatus and method for estimating optical image stabilization motion
JP2013214947A (ja) 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
US10897573B2 (en) Image capturing system, terminal and computer readable medium which correct images
US10965871B2 (en) Apparatus and method for compensating for image change caused by optical image stabilization motion
EP3675477B1 (en) Electronic device for providing function by using rgb image and ir image acquired through one image sensor
JP7024817B2 (ja) 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム
CN109660718A (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
TW201931303A (zh) 提供影像的方法及用於支持所述方法的電子裝置
JP6291748B2 (ja) 撮像装置、撮像方法、及びプログラム
CN109561261A (zh) 图像处理装置、图像处理方法以及记录介质
JP2015095670A (ja) 撮像装置、その制御方法、および制御プログラム
WO2017159014A1 (ja) 画像処理装置、画像処理方法及び画像処理システム
CN204334737U (zh) 摄像组件
JP7053434B2 (ja) 画像処理装置および画像処理方法
CN108513058B (zh) 可补偿图像变化的图像装置
JP6879350B2 (ja) 画像表示システム、画像表示装置、画像表示方法、およびプログラム
JP7054437B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant