CN102385742B - 图像校正、校正表生成装置、校正图像、校正表生成方法、程序 - Google Patents
图像校正、校正表生成装置、校正图像、校正表生成方法、程序 Download PDFInfo
- Publication number
- CN102385742B CN102385742B CN201110036692.1A CN201110036692A CN102385742B CN 102385742 B CN102385742 B CN 102385742B CN 201110036692 A CN201110036692 A CN 201110036692A CN 102385742 B CN102385742 B CN 102385742B
- Authority
- CN
- China
- Prior art keywords
- mentioned
- image
- angle
- input picture
- output image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 23
- 230000008859 change Effects 0.000 claims description 31
- 230000005855 radiation Effects 0.000 claims description 31
- 238000003702 image correction Methods 0.000 claims description 21
- 230000001915 proofreading effect Effects 0.000 claims description 12
- 230000003287 optical effect Effects 0.000 claims description 3
- 238000012952 Resampling Methods 0.000 abstract description 14
- 241000251468 Actinopterygii Species 0.000 description 18
- 230000009471 action Effects 0.000 description 7
- 239000003086 colorant Substances 0.000 description 7
- 230000000007 visual effect Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000005452 bending Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 244000025254 Cannabis sativa Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000000151 deposition Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/12—Panospheric to cylindrical image transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
- G06T3/047—Fisheye or wide-angle transformations
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Abstract
本发明涉及减轻或消除校正后的图像中的不协调感。图像校正装置具备图像输入部、图像存储部、校正表存储部、根据上述校正表对图像存储部中存储的输入图像进行几何校正的几何校正部、以及将通过几何校正部校正后的输入图像作为校正图像输出的图像输出部,校正表如下生成:计算与成为校正图像的输出图像上的各像素位置对应的角度的组(θ,φ),在以上述输入图像的投影中心为原点的三维正交坐标中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算光线方向,计算与光线方向对应的输入图像上的位置来作为提取位置,将提取位置与输出图像的像素位置建立对应。
Description
技术领域
本发明涉及用于对输入图像进行几何校正来生成输出图像的图像校正装置等的技术。
背景技术
近年来,在以监视摄像机和电视对讲门铃为首的一些应用领域中,出现了希望一眼看到广阔视野范围的影像的要求。作为满足该要求的一个解决方案,在光学系统中采用鱼眼镜头并对水平视场角180度左右的范围进行拍摄的视频摄像机等正得到实际应用。但是,在利用这些设备拍摄的图像中,一般而言,被摄体空间中的直线呈现为弯曲很大,因此有以下要求,即:希望对拍摄的图像实施用于减轻弯曲程度的几何校正。
在鱼眼镜头中,根据其设计方针的差异,存在等距离投影方式、等立体角投影方式、正透镜方式等各种投影方式。但是,无论哪种投影方式,如果校正后的图像中要表现的视场角小于180度,则通过利用透视变换,根据通过设计值和现有技术推测的被赋予的参数和投影模型,能够完全校正利用鱼眼镜头拍摄的图像(以下称为“鱼眼图像”)中的直线的弯曲。
图9的(a)表示鱼眼图像的例子。另外,图9的(b)表示利用透视变换校正该鱼眼图像以确保左右方向的视场角较广的例子。如图9(b)所示,利用透视变换的校正结果中,虽然应为直线的部分被校正为直线,但图像的周边部被极端地拉伸,远近感被强调,成为不协调感明显的图像。这是由于校正的结果的图像中表现的视场角与观察该图像时的视场角大为不同所引起的问题。
作为为了解决该问题而想到的技术,有日本特开2010-067172号公报所记载的技术。日本特开2010-067172号公报所记载的技术中,通过设计变换式以成为图像的中央附近近似于透视投影(透视变换)而周边部近似于正投影的投影方法,由此对输入的鱼眼图像进行校正,以使在左右方向和上下方向分别确保180度的视场角,并且在中央附近直线看起来为直线。
但是,在日本特开2010-067172号公报所公开的技术中,由于成为周边部近似于正投影的投影方法,因此位于周边部的被摄体的形状被明显压扁,例如在适用于电视对讲门铃的情况下,存在难以确认站在墙边的人物是谁的问题。
发明内容
在说明书中公开的是能够减轻或消除校正后的图像中的不协调感的图像校正装置、校正图像生成方法、校正表生成装置、校正表生成方法、校正表生成程序及校正图像生成程序。
例如,提供了对图9的(a)的鱼眼图像进行校正而得到图10的(a)或图10的(b)那样的校正结果的方法。其中,图10的(a)是适用了实施方式的校正图像的例子,图10的(b)是适用了变形例的校正图像的例子。可知,图9的(a)的位于输入图像的像圆的圆周附近的白板的形状在图10的(a)和图10的(b)中未被压扁而能够视觉辨认。
公开的图像校正装置对输入图像进行几何校正来生成校正图像,其特征在于,具备:图像输入部,输入上述输入图像;图像存储部,存储上述输入图像;校正表存储部,存储用于对上述输入图像进行几何校正的校正表;几何校正部,根据上述校正表对上述图像存储部中存储的上述输入图像进行几何校正;以及图像输出部,将通过上述几何校正部校正后的上述输入图像作为上述校正图像输出;上述校正表如下生成:计算与成为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ),在以上述输入图像的投影中心为原点的三维正交坐标中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算光线方向,计算与上述光线方向对应的上述输入图像上的位置来作为提取位置,将上述提取位置与上述输出图像的像素位置建立对应。
根据公开,能够减轻或消除校正后的图像中的不协调感。
附图说明
图1是说明图像校正装置的结构例的图。
图2是示意地例示校正表的图。
图3是例示图像校正装置中的几何校正部的动作的流程图。
图4是例示校正表生成装置的结构的模块图。
图5是说明用于使输出图像上的像素坐标与输入图像上的坐标对应的坐标系的变换的图,(a)是例示输出图像的坐标系的图。(b)是例示角度坐标系的图。
图6是说明用于使输出图像上的像素坐标与输入图像上的坐标对应的坐标系的变换的图,(a)是例示用于根据θ和φ求出光线方向矢量的坐标系的图。(b)是例示输入图像的坐标系的图。
图7是说明在校正表生成装置的光线方向计算部中θ和φ的取法的图。
图8是表示校正表生成装置的动作的流程图。
图9是表示对鱼眼图像(输入图像)适用现有技术的结果的图,(a)是例示鱼眼图像(输入图像)的图。(b)是对(a)的鱼眼图像(输入图像)利用作为现有技术的透视变换进行校正的结果的校正图像(输出图像)的一个例子。
图10的(a)是对图9的(a)的鱼眼图像(输入图像)适用实施方式的结果的校正图像(输出图像)的一个例子。(b)是对图9的(a)的鱼眼图像(输入图像)适用其他实施方式的结果的校正图像(输出图像)的一个例子。
具体实施方式
以下,参照图1~图8说明实施方式。
如图1所示,本实施方式涉及的图像校正装置10取入鱼眼图像等输入图像,对该图像进行校正,并将校正图像作为输出图像输出。
图像生成装置30生成图像数据并将其供给至图像校正装置10。在本实施方式中,以图像生成装置30是具备水平视场角180度的等距离投影方式的鱼眼镜头的数字视频摄像机的情况为例来进行说明。
图像显示装置40是显示由图像校正装置10校正后的校正图像(输出图像)的显示器。
本实施方式涉及的校正表生成装置20生成存放在图像校正装置10的后述的校正表存储部15中的校正表(重采样表)17。校正表生成装置20例如由个人计算机构成。
校正表生成装置20在生成校正表17之后,在几何校正部13实施利用该校正表17的几何校正处理之前,将该校正表17发送给图像校正装置10。
其中,在不需要更新校正表17的情况下,即与校正表17的生成有关的参数没有变更的情况下,校正表生成装置20在发送生成的校正表17之后,可以与图像校正装置10分离。
[图像校正装置10的结构]
如图1所示,图像校正装置10具备图像输入部11、图像存储部12、几何校正部13、图像输出部14、校正表存储部15和校正表更新部16。
图像输入部11读入从图像生成装置30供给的输入图像,并将其写入图像存储部12。读入的输入图像的各像素的像素值是数字化的值,按照基准色(在本实施方式中设为R、G、B这三种)取“0”到“255”的256个整数值之中的一个值。
来自图像生成装置30的输入图像的读入利用与图像生成装置30的结构对应的接口来实施即可,例如,在从图像生成装置30以模拟信号供给输入图像的情况下,设为具备A/D转换器的结构即可,在通过USB(UniversalSerial Bus:通用串行总线)接口等以数字信号供给输入图像的情况下,设为具备与其对应的接口的结构即可。
图像存储部12具备至少两个画面量的容量的能够存放从图像生成装置30供给的输入图像整体的大小的存储器(RAM:Random Access Memory:随机访问存储器)。图像存储部12将一个画面量用于由图像输入部11写入,将剩余的一个画面量用于由几何校正部13读出,对于每个画面一边交替地交换职能一边使用。
几何校正部13根据存放在后述的校正表存储部15中的校正表17,对存放在图像存储部12中的输入图像进行几何校正,将作为进行几何校正的结果的输出图像(校正图像)输出给图像输出部14。几何校正部13例如由FPGA(Field Programmable Gate Array:场可编程门阵列)或ASIC(Application Specific Integrated Circuit:特定应用集成电路)构成。其中,该几何校正部13进行的处理的详情在后面详细说明(参照图3)。
图像输出部14将从几何校正部13输出的输出图像(校正图像)转换为适当的影像信号并输出给图像显示装置40。例如,在图像显示装置40构成为显示模拟影像信号的情况下,设为具备D/A转换器的结构即可。
校正表存储部15事先存储后述的校正表17,例如是可改写的非易失性存储器。
校正表更新部16接收从校正表生成装置20发送的校正表并存放在校正表存储部15中,与校正表生成装置20侧的接口相对应,例如设为具备USB接口或IEEE1394接口等的结构即可。
校正表17对几何校正部13输出的输出图像的各个像素,定义参照图像存储部12中存储的输入图像上的哪个像素来决定这些像素的像素值。在本实施方式中,作为校正表17,使用重采样表,具体而言,使用“对几何输出部13输出的输出图像的各个像素,与表示与这些像素对应的图像存储部12中存储的输入图像上的二维坐标值的固定小数点数的组(x,y)建立对应的表”。校正表17在通过后述(参照图8)的方法由校正表生成装置20生成之后,通过校正表更新部16存放在校正表存储部15中。
重采样表(校正表)17例如图2所示,将输出图像上的像素坐标(u,v)与输入图像上的坐标(x,y)建立对应。图2是u轴方向的像素数为640像素而v轴方向的像素数为480像素的情况下的重采样表(校正表)的例子。其中,u、v是整数,但x、y不一定是整数。另外,在与输出图像上的像素坐标(u,v)建立了对应的输入图像上的坐标(x,y)为输入图像的范围外的坐标的情况下,将预定的例外值、例如(-1,-1)等值与(u,v)建立对应来存放。
[图像校正装置10中的几何校正部13的动作]
接着,参照图3(结构酌情参照图1)来说明图像校正装置10中的几何校正部13的动作。
首先,以在图像存储部12中存储着输入图像、且在校正表存储部15中存储着校正表17为前提。
如图3的流程图所示,在步骤S1中,几何校正部13将计数器的N的值设为“0”。
在步骤S2中,几何校正部13决定与输出图像的第N个像素的坐标(u,v)对应的输入图像上的坐标(x,y)。具体而言,首先,几何校正部13将计数器的N的值除以输出图像的u轴方向的像素数而得到的商作为v的值,将余数作为u的值,计算输出图像上的像素坐标(u,v)。接着,几何校正部13根据校正表17,决定与输出图象上的像素坐标(u,v)对应的输入图像上的坐标(x,y)。
在步骤S3中,几何校正部13根据决定的输入图像上的坐标(x,y),计算输出图像的第N个像素的像素值。具体而言,例如,根据输入图像上的坐标(x,y),对于各基准色(即各RGB),通过利用输入图像上的四相邻像素的像素值的双线性插补来决定输出图像的像素值即可。其中,在输出图像的像素值的计算中,也可以利用双三次插补等其他现有技术。
其中,几何校正部13在输入图像上不存在对应的像素值的情况下,即根据重采样表17决定的输入图像上的坐标(x,y)为预定的例外值的情况下,将该输出图像的像素值设为例外值,例如“黑”即(R,G,B)=(0,0,0)。
在步骤S4中,几何校正部13判断对输出图像的全部像素是否完成了像素值的计算。
在判断为对输出图像的全部像素完成了像素值的计算的情况下(步骤S4:是),几何校正部13结束几何校正处理。
另一方面,在判断为输出图像的像素之中存在没有完成像素值的计算的像素的情况下(步骤S4:否),几何校正部13对计数器的N的值加“1”(步骤S5)。其后,返回步骤S2继续处理。
要判断对输出图像的全部像素是否完成了像素值的计算,通过比较计数器的N的值和输出图像的像素数来判断即可。
[校正表生成装置20的结构]
如图4所示,校正表生成装置20具备角度坐标计算部21、光线方向计算部23、提取位置计算部24和提取位置登录部25。
角度坐标计算部21计算与输出图像上的像素坐标(u,v)对应的角度坐标系上的坐标值(0,φ)。在本实施方式中,将输出图像的左端的像素坐标与经度“-90度(=-π/2)”建立对应,并将输出图像的右端的像素坐标与纬度“90度(=π/2)”建立对应,因此利用用于将u轴方向的标度归一化的常数“w”,按照下面的(1)式来计算。
[数学式1]
由此,从图5(a)所示的输出图像的uv坐标系向图5(b)所示的θφ坐标系(角度坐标系)进行坐标变换。在此,(uc,vc)是输出图像的中心位置的坐标。例如,在输出图像的u轴方向的像素数为640像素的情况下,uc的值成为通过“(0+639)/2”计算出的“319.5”。vc也同样计算即可。w是出于上述目的而引入的常数,设定为uc的值相等,为了确保是输出图像整体的标度的整合性,还按照(1)式用于v轴方向的标度的归一化。P1(u,v)被变换为P2(θ,φ)。
光线方向计算部23根据输入的θ及φ,计算光线方向矢量(X,Y,Z)。光线方向计算部23通过下面的(2)式,计算光线方向矢量(X,Y,Z)。
[数学式2]
…(2)式
由此,从图5(b)所示的θφ坐标系(角度坐标系)变换至图6(a)所示的XYZ坐标系。XYZ坐标系是被摄体空间的坐标系。P2(θ,φ)被变换为P3(X,Y,Z)。点0为投影中心。光线方向矢量(X,Y,Z)是长度被归一化为“1”的方向矢量。P3存在于使XZ平面以X轴为轴旋转φ的平面上,而且存在于使YZ平面以Y轴为轴旋转θ的平面上。其中,像这样求出光线方向矢量(X,Y,Z)的理由留待后述。
提取位置计算部24根据光线方向计算部23计算出的光线方向矢量(X,Y,Z),计算输入图像上的坐标(x,y)作为提取位置。所谓提取位置,是输入图像上的坐标(x,y),是从输入图像上提取存在于输出图像上的坐标(u,v)上的像素的像素值时的最佳位置。本实施方式的输入图像由于利用等距离投影方式的鱼眼镜头拍摄,因此提取位置计算部24例如通过下面的(3)式来计算输入图像上的坐标(x,y)。
[数学式3]
由此,从图6(a)所示的XYZ坐标系变换至图6(b)所示的输入图像的xy坐标系。在此,(xc,yc)是输入图像的像圆的中心的坐标。另外,R为像圆的半径,与半视场角90度相对应。P3(X,Y,Z)被变换为P4(x,y)。
其中,xc,yc及R设为作为设计值预先登录在校正表生成装置20中。另外,本实施方式中的摄像参数的种类不限于此,可以按照使用的投影模式进行各种变更,此外也可以根据一张或多张输入图像利用现有技术推测。例如,对于像圆的中心的坐标(xc,yc)及像圆的半径R,利用像圆的外侧的部分通常变黑(作为像素值对(R,G,B)分别存放着非常小的值)来进行圆的推测,由此通过现有技术能够进行推测。进而,也可以不使用(3)式,而使用基于现有技术的、用于光学系统的失真校正的包含到更高次的项的校正式。
提取位置登录部25将由提取位置计算部24计算出的输入图像上的坐标(x,y)与输出图像上的像素坐标(u,v)建立对应并登录在校正表17中。其中,在由提取位置计算部24计算出的输入图像上的坐标(x,y)为输入图像的范围外的坐标的情况下,如上所述,将预定的例外值、例如(-1,-1)等值与(u,v)建立对应并登录。
在此,参照图5、图6并利用图7来说明像这样求出光线方向矢量(X,Y,Z)的理由。
通过(2)式计算的光线方向矢量(X,Y,Z)如图7所示,相当于:计算成为使作为第一基准面的YZ半平面50(Z≥0)以Y轴为轴旋转θ的半平面51与使作为第二基准面的XZ平面52(Z≥0)以X轴为轴旋转φ的半平面53之间的交线的半直线的方向矢量,进而进行归一化以使该半直线的方向矢量的长度成为“1”。
通过像这样取θ及φ,在被摄体空间中与Y轴平行的直线由于该直线上的所有点都位于某个以θ确定的平面上,因此在校正后的图像中成为直线,在被摄体空间中与X轴平行的直线由于该直线上的所有点都位于某个以φ确定的平面上,因此在校正后的图像中成为直线。即,能够得到以下效果,即:能够使在被摄体空间中与X轴或Y轴平行的直线在校正后的图像中也成为直线。
[校正表生成装置20的动作]
接着,参照图8(结构酌情参照图4)来说明校正表生成装置20的动作。
如图8的流程图所示,在步骤S10中,校正表生成装置20将计数器的M的值设为“0”。
在步骤S11a中,角度坐标计算部21计算与输出图像上的像素坐标(u,v)对应的角度坐标系上的坐标值(θ,φ)。
在步骤S11b中,光线方向计算部23根据由角度坐标计算部21计算出的角度坐标系上的坐标值(θ,φ),计算光线方向矢量(X,Y,Z)。
在步骤S12中,提取位置计算部24计算与光线方向矢量(X,Y,Z)对应的输入图像上的坐标(x,y)。
在步骤S13中,提取位置登录部25将计算出的坐标(x,y)与重采样表(校正表)17的输出图像上的像素坐标(u,v)建立对应并登录。
在步骤S14中,校正表生成装置20判断对于输出图像的全部像素是否完成了向重采样表(校正表)17的登录。
在对输出图像的全部像素完成了向重采样表(校正表)17的登录的情况下(步骤S14:是),校正表生成装置20结束重采样表(校正表)生成处理。
另一方面,在输出图像的像素之中存在没有完成向重采样表(校正表)17的登录的像素的情况下(步骤S14:否),校正表生成装置20对计数器的M的值加“1”(步骤S15)。其后,返回步骤S11a并继续处理。
其中,是否对输出图像的全部像素完成了向重采样表(校正表)的登录,通过比较计数器的M的值与输出图像的像素数来判断即可。
通过以上动作,能够抑制图像周边部的被摄体的形状被压扁,并且与校正前的图像相比减轻校正后的图像中应该表现为纵向或横向的直线的直线组的弯曲的程度。
<变形例>
以下,说明了实施方式,但不限于此,在不脱离本发明的主旨的范围中,例如可以如下进行变更。
例如,图像生成装置30不限于例示的情况,可以是具备广角镜头的数字摄像机、具备按照以等距离投影方式为首的各种投影方式设计的鱼眼镜头的数字摄像机、具备广角镜头或鱼眼镜头的视频摄像机、对存储了由这些设备拍摄的影像的存储介质进行再生的影像再生装置等各种变形。在变更了输入图像的投影方式的情况下,可以将(3)式变更为适于输入图像的投影方式的算式,这样的变更是很容易的。
另外,与图像输出部14连接的装置不限于图像显示装置40,例如也可以连接对校正后的图像进行存储的存储装置、将校正后的图像转发至其他系统的转发装置等,按照用途进行各种变更。
另外,关于根据计数器的N的值来计算像素坐标(u,v)的方法,由于设为按照光栅扫描的顺序来参照像素,因此将N的值除以输出图像的u轴方向的像素数所得的商作为v、余数作为u来计算,但输出图像的像素的参照顺序不限于此。
另外,校正表17不限于重采样表。例如,在将图像校正装置10的结构设为几何校正部13每次计算与输出图像上的像素坐标(u,v)对应的输入图像上的坐标(x,y)时都进行校正的结构的情况下,将关于输入图像的参数及关于输出图像的参数作为校正表17存储在校正表存储部15中即可。此时,与使用重采样表作为校正表17的情况相比,校正表存储部15的存储容量较少即可。
其中,在设为这种结构的情况下,作为求出与输出图像上的像素坐标对应的输入图像上的坐标的方法,几何校正部13可以构成为仍然执行图8所示的流程(其中无需将计算出的坐标(x,y)向重采样表登录(步骤S13),而根据计算出的坐标(x,y)立即决定输出图像的像素值即可),或者也可以预先制作根据输出图像上的像素坐标(u,v)能够直接计算与该坐标对应的输入图像上的坐标(x,y)的合成函数,设为利用该合成函数的结构。另外,作为校正表更新部16具备键盘等数据输入装置的结构,也可以设为能够由用户变更与输出图像相关的参数。
另外,在实施方式的说明中,作为使鱼眼图像的纵横方向与输出图像的纵横方向一致的例子进行了说明,但不限于此。例如,在使用具备三轴加速度传感器的鱼眼摄像机的情况下,也可以根据从该摄像机得到的被摄体空间中的重力方向的信息,生成使重力方向与输出图像的纵向一致的重采样表。具体而言,在将鱼眼图像与地面建立对应时,仅通过现有技术使坐标系的朝向旋转即可,这种变更是很容易的。
另外,在图8的重采样表生成处理中计算与光线方向矢量(X,Y,Z)对应的输入图像上的坐标(x,y)时,也可以进行视场角的改读。即,不是将像圆的半径R作为与实际的半视场角即半视场角90度对应的值来进行计算,而是将像圆的半径R与比实际大的半视场角对应的值来进行计算。在对使用等距离投影方式的鱼眼镜头拍摄的图像进行校正的情况下,例如,利用校正系数β(0<β<1),不通过(3)式而通过下面的(4)式来进行变换。
[数学式4]
通过添加视场角的改读处理,被摄体空间中的纵向的直线与横向的直线在输出图像中的像的失真增加,但能够减轻被摄体空间中的斜向的直线在输出图像的周边部的失真。其中,也可以将校正系数β的值不设为常数而设为Z的函数。
另外,在上述实施例中将角度的变化率设为一定,但也可以设为在输出图像的中央附近和周边改变角度的变化率。例如,在利用基于输出图像的中央附近与周边的角度变化率之比能够允许到何种程度来事先决定的参数α(0<α<1),将输出图像的中央附近的角度变化率设为Θ,输出图像的左右端的角度变化率设为(α·Θ)的情况下,根据下面的(5)式来决定角度变化率。其中,作为α的值,基于使用35mm胶片摄像机中的标准镜头的焦距即50mm的镜头来拍摄的照片的特性,可以在上述定义域之中,使用0.84以上的值。
[数学式5]
即,根据u的值,基于下面的(6)式来实施θ=f(u)的计算。
[数学式6]
…(6)式
由此,能够将角度的变化率保持在一定的范围内,并且越在图像的周边部使角度的变化率越小。在此,Θ的值根据在输出图像的右端f(u)的值成为90度的条件,按照下面的(7)式计算并使用即可。
[数学式7]
另外,输出图像中表现的水平方向的角度的范围不限于-90度至90度的范围。在变更输出图像中表现的水平方向的角度的范围的情况下,在(1)式中,将θ和φ的计算中使用的“π/2”的值变更为希望的值即可。
另外,由图像输入部11读入的输入图像的各像素的像素值设为数字化的值,按照每个基准色(R,G,B)取“0”到“255”这256个(=8比特)的整数值之中的一个值,但实施方式不限于此。例如,也可以进行将各基准色所能够表现的灰度增加至“0”到“1023”这1024种(10比特)等变更。即使在由于该变更而在输入图像中能够表现的灰度与输出图像中能够表现的灰度之间产生了差异,也能够通过现有技术容易地应对。另外,例如向使用(R,G,B,C(青),Y(黄))这5种颜色作为基准色的多原色的对应也能够通过利用现有技术来容易地实施。
另外,校正表存储部15也可以通过利用SD存储卡等能够从图像校正装置10装卸的存储介质来实施。此时,通过构成为校正表生成装置20具备SD存储卡读卡器等,并将校正表生成装置20所生成的重采样表(校正表)17通过上述SD存储卡读卡器登录在校正表存储部15中,从而图像校正装置10无需具备校正表更新部16,因此在重采样表(校正表)17的更新频度低的情况下是优选的。
Claims (9)
1.一种校正表生成装置,生成用于对输入图像进行几何校正来生成校正图像的校正表,其特征在于,具备:
角度坐标计算部,计算与作为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ);
光线方向计算部,计算与上述角度的组(θ,φ)对应的被摄体空间中的光线方向;
提取位置计算部,计算与上述光线方向对应的上述输入图像上的位置,来作为提取位置;以及
提取位置登录部,将上述提取位置与上述输出图像的像素位置建立对应并登录在上述校正表中;
上述光线方向计算部在以上述输入图像的投影中心为原点的三维正交坐标系中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算上述光线方向,
上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)的各角度的变化率的比是在规定的范围内的值。
2.如权利要求1记载的校正表生成装置,其特征在于,
上述提取位置计算部利用将上述光线方向与关于上述输入图像的光轴所成的角度校正为实际的值以上的校正角度,计算与上述光线方向对应的上述输入图像上的位置,来作为提取位置。
3.如权利要求1记载的校正表生成装置,其特征在于,
上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)各角度的变化率的比为0.84以上且小于1。
4.一种图像校正装置,对输入图像进行几何校正来生成校正图像,其特征在于,具备:
图像输入部,输入上述输入图像;
图像存储部,存储上述输入图像;
校正表存储部,存储用于对上述输入图像进行几何校正的校正表;
几何校正部,根据上述校正表对上述图像存储部中存储的上述输入图像进行几何校正;以及
图像输出部,将通过上述几何校正部校正后的上述输入图像作为上述校正图像输出;
上述校正表如下生成:计算与成为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ),在以上述输入图像的投影中心为原点的三维正交坐标系中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算光线方向,计算与上述光线方向对应的上述输入图像上的位置来作为提取位置,将上述提取位置与上述输出图像的像素位置建立对应,上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)的各角度的变化率的比是在规定的范围内的值。
5.一种图像校正装置,对输入图像进行几何校正来生成校正图像,其特征在于,具备:
图像输入部,输入上述输入图像;
图像存储部,存储上述输入图像;
几何校正部,计算与成为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ),在以上述输入图像的投影中心为原点的三维正交坐标系中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算光线方向,计算与上述光线方向对应的上述输入图像上的位置来作为提取位置,将上述提取位置与上述输出图像的像素位置建立对应,由此对上述图像存储部中存储的上述输入图像进行几何校正;以及
图像输出部,将通过上述几何校正部校正后的上述输入图像作为上述校正图像输出,
上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)的各角度的变化率的比是在规定的范围内的值。
6.如权利要求5所记载的图像校正装置,其特征在于,
上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)各角度的变化率的比为0.84以上且小于1。
7.一种校正表生成方法,生成用于对输入图像进行几何校正来生成校正图像的校正表,其特征在于,包括:
角度坐标计算步骤,计算与作为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ);
光线方向计算步骤,计算与上述角度的组(θ,φ)对应的被摄体空间中的光线方向;
提取位置计算步骤,计算与上述光线方向对应的上述输入图像上的位置,来作为提取位置;以及
提取位置登录步骤,将上述提取位置与上述输出图像的像素位置建立对应并登录在上述校正表中;
上述光线方向计算步骤在以上述输入图像的投影中心为原点的三维正交坐标系中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算上述光线方向,
上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)的各角度的变化率的比是在规定的范围内的值。
8.一种校正图像生成方法,对输入图像进行几何校正来生成校正图像,其特征在于,包括:
图像输入步骤,输入上述输入图像;
图像存储步骤,存储上述输入图像;
校正表存储步骤,存储用于对上述输入图像进行几何校正的校正表;
几何校正步骤,根据上述校正表对通过上述图像存储步骤存储的上述输入图像进行几何校正;以及
图像输出步骤,将通过上述几何校正步骤校正后的上述输入图像作为上述校正图像输出;
上述校正表如下生成:计算与成为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ),在以上述输入图像的投影中心为原点的三维正交坐标系中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算光线方向,计算与上述光线方向对应的上述输入图像上的位置来作为提取位置,将上述提取位置与上述输出图像的像素位置建立对应,上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)的各角度的变化率的比是在规定的范围内的值。
9.一种校正图像生成方法,对输入图像进行几何校正来生成校正图像,其特征在于,包括:
图像输入步骤,输入上述输入图像;
图像存储步骤,存储上述输入图像;
几何校正步骤,计算与成为上述校正图像的输出图像上的各像素位置对应的角度的组(θ,φ),在以上述输入图像的投影中心为原点的三维正交坐标系中,根据使YZ平面围绕Y轴旋转上述θ的平面与使XZ平面围绕X轴旋转上述φ的平面的交线来计算光线方向,计算与上述光线方向对应的上述输入图像上的位置来作为提取位置,将上述提取位置与上述输出图像的像素位置建立对应,由此对通过上述图像存储步骤存储的上述输入图像进行几何校正;以及
图像输出步骤,将通过上述几何校正步骤校正后的上述输入图像作为上述校正图像输出,
上述输出图像的端部的上述角度的组(θ,φ)的各角度的变化率相对于上述输出图像的中央的上述角度的组(θ,φ)的各角度的变化率的比是在规定的范围内的值。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP194772/2010 | 2010-08-31 | ||
JP2010194772A JP5558973B2 (ja) | 2010-08-31 | 2010-08-31 | 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102385742A CN102385742A (zh) | 2012-03-21 |
CN102385742B true CN102385742B (zh) | 2014-08-27 |
Family
ID=45561358
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201110036692.1A Expired - Fee Related CN102385742B (zh) | 2010-08-31 | 2011-02-12 | 图像校正、校正表生成装置、校正图像、校正表生成方法、程序 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8630506B2 (zh) |
EP (1) | EP2444932A3 (zh) |
JP (1) | JP5558973B2 (zh) |
KR (1) | KR101408426B1 (zh) |
CN (1) | CN102385742B (zh) |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5914813B2 (ja) * | 2011-01-06 | 2016-05-11 | パナソニックIpマネジメント株式会社 | カメラ、歪み補正装置、及び歪み補正方法 |
CN102663666B (zh) * | 2012-03-27 | 2014-05-14 | 中国人民解放军国防科学技术大学 | 基于fpga的二维图像重采样算法加速器 |
CA2888468A1 (en) * | 2012-10-17 | 2014-04-24 | Gelsight, Inc. | Three-dimensional digital impression and visualization of objects |
JP6299071B2 (ja) * | 2013-03-27 | 2018-03-28 | セイコーエプソン株式会社 | プロジェクター、映像補正方法およびプログラム |
JP6310320B2 (ja) * | 2014-05-13 | 2018-04-11 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、撮像装置、画像処理方法、および、プログラム |
JP6627352B2 (ja) * | 2015-09-15 | 2020-01-08 | カシオ計算機株式会社 | 画像表示装置、画像表示方法及びプログラム |
GB2544476B (en) * | 2015-11-16 | 2018-08-08 | Displaylink Uk Ltd | Data compression method and apparatus |
US9865038B2 (en) * | 2015-11-25 | 2018-01-09 | Konica Minolta Laboratory U.S.A., Inc. | Offsetting rotated tables in images |
CN107249096B (zh) * | 2016-06-14 | 2021-02-26 | 杭州海康威视数字技术股份有限公司 | 全景摄像机及其拍摄方法 |
WO2018124720A1 (ko) * | 2016-12-27 | 2018-07-05 | 삼성전자 주식회사 | 360도 이미지를 부호화 또는 복호화하는 방법 및 장치 |
US11373335B2 (en) * | 2017-03-27 | 2022-06-28 | Nec Corporation | Camera parameter estimation device, method and program |
JP6721112B2 (ja) * | 2017-03-27 | 2020-07-08 | 日本電気株式会社 | カメラパラメータ推定装置、方法およびプログラム |
US11483528B2 (en) * | 2018-02-08 | 2022-10-25 | Sony Corporation | Information processing apparatus and information processing method |
CN111353945B (zh) * | 2018-12-21 | 2023-10-20 | 杭州海康威视数字技术股份有限公司 | 鱼眼图像校正方法、装置及存储介质 |
CN109859263B (zh) * | 2019-01-26 | 2023-06-27 | 中北大学 | 一种基于鱼眼镜头的宽视角定位方法 |
GB201906377D0 (en) | 2019-05-07 | 2019-06-19 | Ash Tech Research Limited | System and method for lens distortion correction in a digital microscope |
CN112116530B (zh) * | 2019-06-19 | 2023-08-18 | 杭州海康威视数字技术股份有限公司 | 鱼眼图像畸变矫正方法、装置和虚拟显示系统 |
CN111163263B (zh) * | 2019-12-30 | 2021-03-19 | 深圳市置辰海信科技有限公司 | 一种采用位置投影方式实现相机目标联动跟踪的方法 |
CN111369671B (zh) * | 2020-03-16 | 2023-11-17 | 安博思华智能科技有限责任公司 | 一种调整多媒体黑板的方法、装置、介质和电子设备 |
CN115409736B (zh) * | 2022-09-16 | 2023-06-20 | 深圳市宝润科技有限公司 | 医用数字x射线摄影系统的几何校正方法及相关设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1702693A (zh) * | 2004-05-28 | 2005-11-30 | 株式会社东芝 | 图像提供方法和设备 |
CN101241590A (zh) * | 2007-02-09 | 2008-08-13 | 索尼株式会社 | 图像处理设备和方法、程序和记录介质 |
CN101809991A (zh) * | 2007-07-29 | 2010-08-18 | 奈米光子有限公司 | 利用旋转对称广角透镜获得全景和直线性图像的方法和装置 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2172791C (en) * | 1995-03-31 | 2000-11-14 | Teruyoshi Washizawa | Method and apparatus for processing visual information |
JP3594225B2 (ja) * | 1999-06-21 | 2004-11-24 | 中央電子株式会社 | 広視野カメラ装置 |
JP2002098538A (ja) * | 2000-09-27 | 2002-04-05 | Alpine Electronics Inc | ナビゲーション装置および擬似三次元地図情報表示方法 |
JP3871614B2 (ja) * | 2002-06-12 | 2007-01-24 | 松下電器産業株式会社 | 運転支援装置 |
EP2015248B1 (en) * | 2006-05-01 | 2012-10-10 | Nikon Corporation | Method, program and apparatus for correcting a distortion of an image |
JP2008052589A (ja) * | 2006-08-25 | 2008-03-06 | Konica Minolta Holdings Inc | 広角画像の歪み補正方法 |
JP4931055B2 (ja) * | 2006-11-22 | 2012-05-16 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
US8670001B2 (en) * | 2006-11-30 | 2014-03-11 | The Mathworks, Inc. | System and method for converting a fish-eye image into a rectilinear image |
JP4661829B2 (ja) * | 2007-06-14 | 2011-03-30 | 株式会社富士通ゼネラル | 画像データ変換装置、及びこれを備えたカメラ装置 |
WO2009017331A1 (en) * | 2007-07-29 | 2009-02-05 | Nanophotonics Co., Ltd. | Method and apparatus for obtaining panoramic and rectilinear images using rotationally symmetric wide-angle lens |
JP5215097B2 (ja) * | 2008-09-12 | 2013-06-19 | 公立大学法人首都大学東京 | 撮像画像の変換方法 |
JP5029645B2 (ja) * | 2008-12-24 | 2012-09-19 | 株式会社富士通ゼネラル | 画像データ変換装置 |
JP5046132B2 (ja) * | 2008-12-24 | 2012-10-10 | 株式会社富士通ゼネラル | 画像データ変換装置 |
-
2010
- 2010-08-31 JP JP2010194772A patent/JP5558973B2/ja active Active
-
2011
- 2011-02-12 CN CN201110036692.1A patent/CN102385742B/zh not_active Expired - Fee Related
- 2011-02-14 KR KR1020110012981A patent/KR101408426B1/ko active IP Right Grant
- 2011-02-25 US US13/035,537 patent/US8630506B2/en not_active Expired - Fee Related
- 2011-02-25 EP EP11155938A patent/EP2444932A3/en not_active Withdrawn
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1702693A (zh) * | 2004-05-28 | 2005-11-30 | 株式会社东芝 | 图像提供方法和设备 |
CN101241590A (zh) * | 2007-02-09 | 2008-08-13 | 索尼株式会社 | 图像处理设备和方法、程序和记录介质 |
CN101809991A (zh) * | 2007-07-29 | 2010-08-18 | 奈米光子有限公司 | 利用旋转对称广角透镜获得全景和直线性图像的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
KR101408426B1 (ko) | 2014-06-17 |
CN102385742A (zh) | 2012-03-21 |
KR20120021149A (ko) | 2012-03-08 |
US8630506B2 (en) | 2014-01-14 |
US20120051666A1 (en) | 2012-03-01 |
EP2444932A3 (en) | 2012-07-25 |
JP2012053602A (ja) | 2012-03-15 |
EP2444932A2 (en) | 2012-04-25 |
JP5558973B2 (ja) | 2014-07-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102385742B (zh) | 图像校正、校正表生成装置、校正图像、校正表生成方法、程序 | |
CN102469254B (zh) | 图像校正装置、校正图像生成方法、校正表生成装置 | |
TWI387936B (zh) | A video conversion device, a recorded recording medium, a semiconductor integrated circuit, a fish-eye monitoring system, and an image conversion method | |
CN104160693B (zh) | 图像捕获装置、图像捕获系统、图像处理方法、信息处理装置和计算机可读存储介质 | |
US10594941B2 (en) | Method and device of image processing and camera | |
CN102385741B (zh) | 图像校正、校正表生成装置、校正图像、校正表生成方法及程序 | |
JP3650578B2 (ja) | 画像の歪みを補正するためのニューラル・ネットワークを用いたパノラマ画像ナビゲーションシステム | |
JP6808484B2 (ja) | 画像処理装置および画像処理方法 | |
JP5046132B2 (ja) | 画像データ変換装置 | |
CN100417231C (zh) | 立体视觉半实物仿真系统及方法 | |
CN108038886B (zh) | 双目摄像系统标定方法、装置及其汽车 | |
CN103020900B (zh) | 一种图像处理方法及装置 | |
JP2015215817A (ja) | 画像処理装置、撮像装置、画像処理方法、および、プログラム | |
JP2010170514A (ja) | 画像データ変換装置 | |
JP6824143B2 (ja) | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム | |
JP7434846B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP6901580B2 (ja) | パノラマ画像または映像の水平較正方法、システムおよび携帯端末 | |
JP2019087984A (ja) | 情報処理装置、撮像システム、プログラム | |
CN115330941A (zh) | 基于视频数据的空间定位方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C53 | Correction of patent of invention or patent application | ||
CB02 | Change of applicant information |
Address after: Kanagawa Applicant after: HITACHI INFORMATION & TELECOMMUNICATION ENGINEERING, LTD. Address before: Kanagawa Applicant before: Hitachi Information & Communication Engineering, Ltd. |
|
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20140827 Termination date: 20220212 |
|
CF01 | Termination of patent right due to non-payment of annual fee |