CN107924573A - 图像处理装置、图像处理方法和程序 - Google Patents

Abstract

图像处理装置具有：光流计算电路(101)，其计算在第1图像与该第1图像之前拍摄到的第2图像之间计算出的多个光流；向量分解电路(102)，其将多个光流分别分解成消失点方向向量和正交向量；振动模糊量计算电路(103)，其计算正交向量的水平分量和垂直分量的累计值，根据该累计值计算第1图像的振动模糊量；光流开始点校正电路(104)，其根据振动模糊量对计算出的多个光流进行校正；以及消失点计算电路(105)，其根据校正后的多个光流计算第1图像的消失点。

Description

图像处理装置、图像处理方法和程序

技术领域

本发明涉及图像处理装置、图像处理方法和程序，特别涉及根据连续拍摄到的图像计算光流的图像处理装置、图像处理方法和程序。

背景技术

作为现有的图像处理装置公知有如下装置：针对产生以图像中的点为中心的放射状光流的摄像图像，计算该点作为消失点，进行图像的校正，以使计算出的消失点的位置成为摄像图像的中心(例如参照专利文献1)。

现有技术文献

专利文献

专利文献1：日本特许第5321540号公报(第0009-0010段、第0044-0047段)

发明内容

发明要解决的课题

现有的图像处理装置的前提在于，从摄像图像得到的光流以摄像图像的消失点为中心呈放射状扩散。因此，在现有的图像处理装置中，能够针对光流从消失点呈放射状扩散的前提未覆盖的、沿着路面的平缓的车辆范围进行校正。

但是，针对光流不是从消失点呈放射状扩散的、由于路面的阶梯差等而产生的车辆的振动，现有的图像处理装置无法计算消失点的位置，无法对图像中产生的振动模糊(vibration blur)进行校正。

因此，本发明的目的在于，在产生光流不是从图像的消失点呈放射状扩散的振动的情况下，也能够计算图像的消失点的位置。

用于解决课题的手段

本发明的一个方式的图像处理装置的特征在于，所述图像处理装置具有：光流计算部，其在第1图像与该第1图像之前拍摄到的第2图像之间计算多个光流；向量分解部，其将所述多个光流分别分解成与连接所述多个光流各自的起点和所述第2图像的消失点而成的线段平行的方向的消失点方向向量和与该平行的方向正交的方向的正交向量，所述第2图像的消失点是根据在所述第2图像与所述第2图像之前拍摄到的第3图像之间计算出的多个光流而计算出的；振动模糊量计算部，其计算所述正交向量的水平分量和垂直分量的累计值，根据该累计值计算所述第1图像的振动模糊量；光流校正部，其根据所述振动模糊量对在所述第1图像与所述第2图像之间计算出的多个光流进行校正；以及消失点计算部，其根据由所述光流校正部校正后的多个光流计算所述第1图像的消失点。

本发明的一个方式的图像处理方法的特征在于，在第1图像与该第1图像之前拍摄到的第2图像之间计算多个光流，将所述多个光流分别分解成与连接所述多个光流各自的起点和所述第2图像的消失点而成的线段平行的方向的消失点方向向量和与该平行的方向正交的方向的正交向量，所述第2图像的消失点是根据在所述第2图像与所述第2图像之前拍摄到的第3图像之间计算出的多个光流而计算出的，计算所述正交向量的水平分量和垂直分量的累计值，根据该累计值计算所述第1图像的振动模糊量，根据所述振动模糊量对在所述第1图像与所述第2图像之间计算出的多个光流进行校正，根据所述校正后的多个光流计算所述第1图像的消失点。

本发明的一个方式的程序的特征在于，所述程序用于使计算机作为以下部分发挥功能：光流计算部，其在第1图像与该第1图像之前拍摄到的第2图像之间计算多个光流；向量分解部，其将所述多个光流分别分解成与连接所述多个光流各自的起点和所述第2图像的消失点而成的线段平行的方向的消失点方向向量和与该平行的方向正交的方向的正交向量，所述第2图像的消失点是根据在所述第2图像与所述第2图像之前拍摄到的第3图像之间计算出的多个光流而计算出的；振动模糊量计算部，其计算所述正交向量的水平分量和垂直分量的累计值，根据该累计值计算所述第1图像的振动模糊量；光流校正部，其根据所述振动模糊量对在所述第1图像与所述第2图像之间计算出的多个光流进行校正；以及消失点计算部，其根据由所述光流校正部校正后的多个光流计算所述第1图像的消失点。

发明效果

根据本发明的一个方式，能够根据图像的振动模糊对光流进行校正，计算图像的消失点的位置。

附图说明

图1是概略地示出实施方式1的图像校正处理装置的结构的框图。

图2是实施方式1的摄像图像的第1例。

图3是实施方式1的摄像图像的第2例。

图4是示出在实施方式1中对光流进行分解后的向量的概略图。

图5是用于说明在实施方式1中根据向量确定垂直分量和水平分量的处理的概略图。

图6是示出实施方式1的校正光流的概略图。

图7是概略地示出实施方式2的图像校正处理装置的结构的框图。

图8是示出实施方式1、2的图像校正处理装置的硬件结构的一例的概略图。

具体实施方式

实施方式1

图1是概略地示出作为实施方式1的图像处理装置的图像校正处理装置100的结构的框图。

图像校正处理装置100搭载在车辆上，从未图示的摄像装置接受摄像图像的输入。图像校正处理装置100具有作为光流计算部的光流计算电路101、作为向量分解部的向量分解电路102、作为振动模糊量计算部的振动模糊量计算电路103、作为光流校正部的光流开始点校正电路104、作为消失点计算部的消失点计算电路105以及作为振动模糊校正部的振动模糊校正电路106。

另外，实施方式1的图像处理方法是由图像校正处理装置100执行的方法。

光流计算电路101在输入的摄像图像(第1图像或第2图像)与该摄像图像之前拍摄到的摄像图像(第2图像或第3图像)之间计算多个光流。例如，光流计算电路101根据输入的摄像图像中的N个(N为2以上的整数)目标的时间上的位置变化计算该目标的光流OF(M)。这里，M为2以上的整数。

光流OF(M)的计算方法采用公知方法即可。例如，光流计算电路101通过块匹配法(block matching method)计算M个特征点，根据该特征点的运动向量计算光流OF(M)。

图2是在单侧一车道的没有凹凸的左侧通行道路上向前方行驶时利用车辆上搭载的车载摄像机拍摄到的摄像图像的例子。

在道路的两侧竖立着电线杆110～115，在正在行驶的车辆的前方路面存在井盖116。

在图2中本来没有映出在摄像图像中，但是，通过图中的画阴影的纵棒示出紧前的摄像图像中的电线杆110P～115P的位置。并且，在图2中本来没有映出在摄像图像中，但是，通过画阴影的椭圆示出紧前的摄像图像中的井盖116P的位置。

图2中的实线箭头表示针对摄像图像中的目标即电线杆110～115和井盖116分别由光流计算电路101计算出的光流OF(1)～OF(13)。

光流OF(1)～OF(13)的延长线交于一点，能够根据光流OF(1)～OF(13)导出作为光流OF(1)～OF(13)的起点的摄像图像的消失点VP。

图3是在摄像时车辆的前轮碾过道路上掉落的物体而使车辆产生纵向振动时的摄像图像的例子。

在图3中也映出电线杆110～115和井盖116。

进而，在图3中本来没有映出在摄像图像中，但是，通过图中的画阴影的纵棒示出车辆的前轮碾过物体紧前的摄像图像中的电线杆110P～115P的位置。并且，在图3中本来没有映出在摄像图像中，但是，通过图中的画阴影的椭圆示出车辆的前轮碾过物体紧前的摄像图像中的井盖116P的位置。

图3中的虚线箭头是图2中说明的未产生车辆振动的摄像图像中的光流OF(1)#～OF(13)#，图中的实线箭头表示由光流计算电路101计算出的包含车辆振动影响的光流OF(1)～OF(13)。

车辆产生纵向振动，由此，图3中的光流OF(1)～OF(13)的延长线未收敛于一点，无法根据光流OF(1)～OF(13)导出消失点。

返回图1，向量分解电路102将由光流计算电路101提供的光流OF(M)分别分解成与连接光流OF(M)各自的开始点和紧前的摄像图像(第2图像)的消失点VP而成的线段平行的方向的向量OFc(M)和与向量OFc(M)正交的方向的向量OFo(M)。下面，将向量OFc(M)称作消失点方向向量，将向量OFo(M)称作正交向量。紧前的摄像图像(第2图像)的消失点VP是根据在与紧前的摄像图像之前拍摄到的摄像图像(第3图像)之间计算出的多个光流而计算的。

图4是示出向量分解电路102对图3所示的光流OF(i)(i＝1,7,13)进行分解后的向量OFc(i)和向量OFo(i)的概略图。

如图4所示，在图3中未判明摄像图像的消失点，因此，向量分解电路102将光流OF(i)分解成与连接光流OF(i)各自的开始点和紧前的摄像图像的消失点VP而成的线段平行的方向的向量OFc(i)和与向量OFc(i)正交的方向的向量OFo(i)。

另外，光流OF(13)不存在与向量OFc(13)正交的方向的分量，因此，向量OFo(13)成为零向量。

在车辆开始向前方行驶时，不知道紧前的摄像图像的消失点VP的位置，但是，向量分解电路102将摄像图像的中心位置作为消失点VP开始进行处理即可。并且，向量分解电路102也可以将根据车载摄像机的安装位置和安装方向事前决定的位置作为消失点VP开始进行处理。

振动模糊量计算电路103根据从向量分解电路102提供的向量OFo(M)确定图像水平方向的分量OFoh(M)和图像垂直方向的分量OFov(M)。并且，振动模糊量计算电路103根据从向量分解电路102提供的向量OFc(M)，根据下述式(1)和式(2)计算图像的垂直振动模糊量Sv和水平振动模糊量Sh。这里的“水平”是摄像图像(视场角)中的水平方向，“垂直”是摄像图像(视场角)中的垂直方向。

Sv＝Σ{OFov(M)}/CNTv (1)

CNTv＝Σ{ABS(cos(OFc(M)相对于视场角水平方向的角度))}

Sh＝Σ{OFoh(M)}/CNTh (2)

CNTh＝Σ{ABS(sin(OFc(M)相对于视场角水平方向的角度))}

如式(1)所示，垂直振动模糊量Sv利用向量OFc(M)的角度对向量OFo(M)的垂直分量的累计值进行加权。因此，向量OFo(M)的垂直分量的累计值越大，则垂直振动模糊量Sv越大。

并且，如式(2)所示，水平振动模糊量Sh利用向量OFc(M)的角度对向量OFo(M)的水平分量的累计值进行加权。因此，向量OFo(M)的水平分量的累计值越大，则水平振动模糊量Sh越大。

图5是用于说明在振动模糊量计算电路103中根据图4所示的向量OFo(1)确定分量OFov(1)和分量OFoh(1)时的处理的概略图。

振动模糊量计算电路103根据向量OFo(1)确定图像的垂直方向的分量OFov(1)和图像的水平方向的分量OFoh(1)。

返回图1，振动模糊量计算电路103利用根据M个光流OF(M)分解出的向量OFo(M)的垂直分量OFov(M)的简单相加平均计算图像的垂直振动模糊量Sv后，根据位于消失点的垂直方向上的光流OF(M)求出的垂直分量OFov(M)的值总是较小，因此垂直方向的模糊量较小。因此，如式(1)所示，振动模糊量计算电路103利用根据光流OF(M)分解出的向量OFc(M)相对于视场角水平方向的角度的余弦(cos)进行加权。由此，与位于消失点的垂直方向上的光流OF(M)相比，振动模糊量计算电路103增大位于消失点的水平方向上的光流OF(M)的比率，计算图像的垂直振动模糊量Sv。

并且，振动模糊量计算电路103利用根据M个光流OF(M)分解出的向量OFo(M)的水平分量OFoh(M)的简单相加平均计算图像的水平振动模糊量Sh后，位于消失点的水平方向上的光流OF(M)的水平分量OFoh(M)的值总是较小，因此水平方向的模糊量较小。因此，如式(2)所示，振动模糊量计算电路103利用根据光流OF(M)分解出的向量OFc(M)相对于视场角水平方向的角度的正弦(sin)进加权。由此，与位于消失点的水平方向上的光流OF(M)相比，振动模糊量计算电路103增大位于消失点的垂直方向上的光流OF(M)的比率，计算图像的水平振动模糊量Sh。

这样，在图像的垂直振动模糊量Sv和水平振动模糊量Sh的计算中，进行基于在光流的消失点方向上分解出的向量OFc(M)的方向的加权，由此，振动模糊量的计算精度提高。

光流开始点校正电路104根据从振动模糊量计算电路103提供的振动模糊量，分别对从光流计算电路101提供的光流OF(M)进行校正。例如，光流开始点校正电路104计算使从光流计算电路101提供的光流OF(M)各自的开始点移动从振动模糊量计算电路103提供的水平振动模糊量Sh和垂直振动模糊量Sv而得到的校正光流MOF(M)。

图6是示出使光流OF(M)各自的开始点移动开始点校正向量＝(水平振动模糊量Sh、垂直振动模糊量Sv)而得到的校正光流MOF(M)的概略图。

消失点计算电路105根据从光流开始点校正电路104提供的校正光流MOF(M)，计算输入的摄像图像的消失点。例如，消失点计算电路105计算从光流开始点校正电路104提供的校正光流MOF(M)的延长线上的交点作为摄像图像的校正消失点MVP。换言之，校正消失点MVP是校正光流MOF(M)的延长线收敛的点。另外，在校正光流MOF(M)的延长线的交点集中在预定范围内的情况下，校正光流MOF(M)的延长线收敛于该范围内的点，换言之，校正光流MOF(M)的延长线在该范围内的点交叉。

接着，消失点计算电路105根据下述式(3)，对紧前的摄像图像中的消失点VPp和校正消失点MVP进行线性插值，计算消失点VP。然后，消失点计算电路105利用计算出的消失点VP置换紧前的消失点VPp，由此对消失点进行更新。在式(3)中，K意味着插值系数，是预定的。

VP＝VPp×(1-K)+MVP×K (3)

K：大于0且小于1的值

如式(3)所示，通过应用与时间常数处理相当的线性插值处理，能够减少在校正消失点MVP的位置与实际的消失点位置之间产生的运算精度误差的影响。

振动模糊校正电路106根据从振动模糊量计算电路103提供的振动模糊量，对输入的摄像图像的振动模糊进行校正。

具体而言，振动模糊校正电路106根据从振动模糊量计算电路103提供的水平振动模糊量Sh和垂直振动模糊量Sv，计算用于对输入图像的振动模糊进行校正的校正值即振动模糊校正量Vi。

例如，在利用Vi＝(Vix,Viy)这样的二维向量定义振动模糊校正量的情况下，振动模糊校正电路106将输入的摄像图像的微调(trimming)开始位置从左上角(0,0)变更成(Vix,Viy)即可。

在振动模糊校正量Vi为二维向量的情况下，振动模糊校正电路106使用振动模糊量计算电路103的输出即水平振动模糊量Sh和垂直振动模糊量Sv，例如使用下述式(4)计算振动模糊校正量Vi。

在式(4)中，校正系数G(X)具有如下特性：在X小于阈值TH1的情况下为0，在X为阈值TH1以上且阈值TH2以下的范围内从0起单调增加到1，在X超过阈值TH2的范围内维持1。

Vi＝(Vix,Viy)

＝(Sh×G(|Sh|),Sv×G(|Sv|)) (4)

根据式(4)，在振动模糊量的绝对值小于预定值的情况下，不对输入图像的振动模糊进行校正。

当消失点位置在曲线等上平缓地向摄像图像的左端迁移的情况下，无法从振动模糊校正量中去除消失点位置的平缓变动时，由于振动模糊校正而在摄像图像的右端侧产生较大的图像缺损。但是，在式(4)中，乘以校正系数G(X)来计算振动模糊校正量Vi，因此，通过对阈值TH1、TH2的值进行调整，能够从振动模糊校正量中去除消失点位置的平缓迁移，得到不会产生较大的图像缺损的效果。

另外，阈值TH1和阈值TH2以可得到这种效果的方式预先确定即可。

振动模糊校正电路106计算振动模糊校正量Vi不需要限于乘以校正系数G(X)的结构，例如，也可以针对水平振动模糊量Sh和垂直振动模糊量Sv，分别取与利用直到紧前为止的有限个值进行平滑后的值之间的差分。该情况下，也能够从振动模糊校正量中去除由于消失点位置的平缓迁移而产生的较小的振动模糊量，同样可得到不会产生较大的图像缺损的效果。

关于振动模糊校正电路106进行的车辆振动模糊校正，根据振动模糊校正量Vi，将输入图像整体的垂直方向移动和水平方向移动作为基本。但是，在水平方向上产生车辆的振动模糊的情况较少，因此，振动模糊校正电路106进行的车辆振动模糊校正也可以仅限于输入图像整体的垂直方向移动。该情况下，能够简化车辆振动模糊校正处理。

振动模糊量计算电路103在图像整体中计算摄像图像的水平振动模糊量Sh和垂直振动模糊量Sv，但是，不限于这种例子。例如，振动模糊量计算电路103将摄像图像分割成格子，根据每个分割区域的光流计算摄像图像的水平振动模糊量和垂直振动模糊量，由此，还能够计算摄像图像的旋转方向的模糊量。由此，在振动模糊校正电路106中，还能够对摄像图像的旋转方向的模糊进行校正。

例如，在仅车辆的左侧车轮碾过物体的情况下，产生以右侧车轮的位置为旋转轴的旋转，在摄像图像的左端格子和右端格子中，垂直方向的模糊量不同。

该情况下，能够根据格子在垂直方向上的模糊量计算摄像图像的旋转量。这里，以摄像图像的水平格子的数量为10的情况为例进行说明。当设摄像图像下端的左端格子的垂直模糊量为12，模糊量朝向右端一个一个地逐渐减少，摄像图像下端的右端格子的垂直模糊量为3时，可以认为从摄像图像下端的右端格子进一步向右侧前进3格(位于摄像图像外)的垂直模糊量为0。振动模糊量计算电路103设该垂直模糊量为0的位置为摄像图像的旋转轴，计算旋转量。

振动模糊校正电路106根据计算出的旋转量，对图像实施旋转和逆旋转的处理，由此，能够对摄像图像的旋转方向的模糊量进行校正(修正)。这里，简单地说明了仅根据摄像图像下端的格子的垂直模糊量计算摄像图像的旋转轴和旋转量的例子，但是实际上，能够根据摄像图像整体的全部格子的垂直模糊量和水平模糊量求出摄像图像的旋转轴和旋转量，进行其逆旋转，由此进行校正。

这里，对如下的信息处理系统进行说明：在拍摄车辆前方物体的摄像装置即摄像机连接实施方式1的图像校正处理装置100，在图像校正处理装置100的后级连接进行车辆等的物体检测的信息处理装置即识别处理装置。

图像校正处理装置100具有根据从当前的摄像图像计算出的多个光流和紧前的摄像图像的消失点计算摄像图像的模糊量的结构。因此，在由于车辆振动的影响而使当前的摄像图像的光流未从摄像图像的消失点起成为放射状的情况下，图像校正处理装置100也能够对由于车辆振动而引起的摄像图像的振动模糊进行校正。

图像校正处理装置100能够对利用车载摄像机拍摄到的摄像图像中产生的车辆的振动模糊进行校正，因此，与图像校正处理装置100的后级连接的识别处理装置能够提高从图像校正处理装置100提供的图像中的物体检测和物体跟踪精度。

图像校正处理装置100根据从摄像图像计算出的光流计算由于车辆振动而引起的振动模糊量，对摄像图像的振动模糊进行校正，因此，能够进行摄像图像的振动模糊校正而不需要用于检测车辆振动模糊的加速度传感器。因此，图像校正处理装置100能够实现小型化、低电力化和低成本化。并且，在为了检测车辆的振动模糊而搭载有加速度传感器的情况下，即使加速度传感器发生故障，图像校正处理装置100也能够对由于车辆振动而引起的摄像图像的振动模糊进行校正。因此，能够提供更加安全的图像校正处理装置100。

实施方式2

图7是概略地示出实施方式2的图像校正处理装置200的结构的框图。

图像校正处理装置200具有光流计算电路201、向量分解电路102、振动模糊量计算电路103、光流开始点校正电路104、消失点计算电路105以及振动模糊校正电路206。

除了光流计算电路201和振动模糊校正电路206以外，实施方式2的图像校正处理装置200与实施方式1的图像校正处理装置100同样地构成。下面，对与实施方式1不同的光流计算电路201和振动模糊校正电路206进行说明。

另外，实施方式2的图像处理方法是由图像校正处理装置200执行的方法。

与实施方式1同样地，光流计算电路201根据输入的摄像图像中的N个(N为2以上的整数)目标的时间上的位置变化，计算该目标的光流OF(M)。

并且，光流计算电路201具有作为消失点判定部的消失点判定电路201a。

消失点判定电路201a根据计算出的光流OF(M)，判断是否产生了振动模糊。例如，消失点判定电路201a判定光流OF(M)的延长线的交点是否集中在输入的摄像图像中的预定的一定尺寸的区域内。换言之，消失点判定电路201a根据计算出的光流OF(M)，判断是否能够计算摄像图像的消失点。

消失点判定电路201a在光流OF(M)的延长线的交点集中在预定的一定尺寸的区域内的情况下，判定为计算出的任意交点是输入图像的消失点，将判定结果JUD＝1输出到振动模糊校正电路206。判定结果JUD＝1表示已计算出消失点即未产生振动模糊。

消失点判定电路201a在光流的延长线的交点未集中在预定的一定尺寸的区域内的情况下，将判定结果JUD＝0输出到振动模糊校正电路206。判定结果JUD＝0表示未计算出消失点即产生了振动模糊。

振动模糊校正电路206在消失点判定电路201a判断为能够计算消失点的情况下，不对摄像图像的振动模糊进行校正。

例如，在从光流计算电路201输出的判定结果JUD为“1”的情况下，振动模糊校正电路206将来自振动模糊量计算电路103的振动模糊量Sh、Sv的值改写成“0”进行处理。

另一方面，在从光流计算电路201输出的判定结果JUD为“0”的情况下，振动模糊校正电路206进行与实施方式1相同的处理。

另外，在消失点判定电路201a判断为未产生振动模糊的情况下，光流计算电路201也可以停止向量分解电路102、振动模糊量计算电路103、光流开始点校正电路104以及消失点计算电路105的运算。这种情况下，可得到能够削减运算量的效果。

以上记载的实施方式1、2在图像的振动模糊校正中利用光流的消失点，但是，实施方式不限于这种例子。例如，对图像校正处理装置100、200后级的处理部(未图示)提供计算出的光流的消失点，由此，该处理部能够根据计算出的光流的消失点，进行车辆速度的检测、与摄像图像内的目标之间的距离的检测、摄像图像内的目标的三维位置的检测、摄像图像内的目标的三维形状的检测或摄像图像内的其他车辆位置的检测等处理。

以上记载的实施方式1、2的图像校正处理装置100、200的各部由单一电路、解码电路、程序化的处理器、并列程序化的处理器、ASIC(Application Specific IntegratedCircuits：面向特定用途的集成电路)或FPGA(Field Programmable Gate Array：现场可编程门阵列)等电路构成，但是，不限于这种例子。

例如，如图8所示，图像校正处理装置100、200的全部或一部分也可以由具有执行存储器301中存储的程序的CPU(Central Processing Unit：中央处理单元)等处理器302的计算机300实现。这种程序可以通过网络来提供，并且，也可以记录在记录介质中来提供。

标号说明

100、200：图像校正处理装置；101、201：光流计算电路；201a：消失点判定电路；102：向量分解电路；103：振动模糊量计算电路；104：光流开始点校正电路；105：消失点计算电路；106、206：振动模糊校正电路；300：计算机；301：存储器；302：处理器。

Claims (9)

1.一种图像处理装置，其特征在于，所述图像处理装置具有：

光流计算部，其在第1图像与该第1图像之前拍摄到的第2图像之间计算多个光流；

向量分解部，其将所述多个光流分别分解成与连接所述多个光流各自的起点和所述第2图像的消失点而成的线段平行的方向的消失点方向向量和与该平行的方向正交的方向的正交向量，所述第2图像的消失点是根据在所述第2图像与所述第2图像之前拍摄到的第3图像之间计算出的多个光流而计算出的；

振动模糊量计算部，其计算所述正交向量的水平分量和垂直分量的累计值，根据该累计值计算所述第1图像的振动模糊量；

光流校正部，其根据所述振动模糊量对在所述第1图像与所述第2图像之间计算出的多个光流进行校正；以及

消失点计算部，其根据由所述光流校正部校正后的多个光流计算所述第1图像的消失点。

2.根据权利要求1所述的图像处理装置，其特征在于，

所述图像处理装置还具有振动模糊校正部，该振动模糊校正部根据所述振动模糊量对所述第1图像的振动模糊进行校正。

3.根据权利要求2所述的图像处理装置，其特征在于，

所述振动模糊校正部根据所述振动模糊量计算用于对所述第1图像的振动模糊进行校正的校正值，

在所述振动模糊量的绝对值小于预定值的情况下，不对所述第1图像的振动模糊进行校正。

4.根据权利要求2或3所述的图像处理装置，其特征在于，

所述图像处理装置还具有消失点判定部，该消失点判定部根据由所述光流计算部计算出的多个光流判断是否能够计算所述第1图像的消失点，

在所述消失点判定部判断为能够计算所述第1图像的消失点的情况下，所述振动模糊校正部不对所述第1图像的振动模糊进行校正。

5.根据权利要求1～4中的任意一项所述的图像处理装置，其特征在于，

所述振动模糊量计算部利用所述消失点方向向量的角度对所述正交向量的水平分量的累计值进行加权，由此计算水平方向的振动模糊量，利用所述消失点方向向量的角度对所述正交向量的垂直分量的累计值进行加权，由此计算垂直方向的振动模糊量。

6.根据权利要求5所述的图像处理装置，其特征在于，

所述光流校正部根据所述水平方向的振动模糊量和所述垂直方向的振动模糊量，使在所述第1图像与所述第2图像之间计算出的多个光流的开始点移动。

7.根据权利要求1～6中的任意一项所述的图像处理装置，其特征在于，

所述消失点计算部通过由所述光流校正部校正后的多个光流的延长线收敛的校正消失点和所述第2图像的消失点的线性插值，计算所述第1图像的消失点。

8.一种图像处理方法，其特征在于，

在第1图像与该第1图像之前拍摄到的第2图像之间计算多个光流，

将所述多个光流分别分解成与连接所述多个光流各自的起点和所述第2图像的消失点而成的线段平行的方向的消失点方向向量和与该平行的方向正交的方向的正交向量，所述第2图像的消失点是根据在所述第2图像与所述第2图像之前拍摄到的第3图像之间计算出的多个光流而计算出的，

计算所述正交向量的水平分量和垂直分量的累计值，根据该累计值计算所述第1图像的振动模糊量，

根据所述振动模糊量对在所述第1图像与所述第2图像之间计算出的多个光流进行校正，

根据所述校正后的多个光流计算所述第1图像的消失点。

9.一种程序，其中，所述程序用于使计算机作为以下部分发挥功能：

光流计算部，其在第1图像与该第1图像之前拍摄到的第2图像之间计算多个光流；

向量分解部，其将所述多个光流分别分解成与连接所述多个光流各自的起点和所述第2图像的消失点而成的线段平行的方向的消失点方向向量和与该平行的方向正交的方向的正交向量，所述第2图像的消失点是根据在所述第2图像与所述第2图像之前拍摄到的第3图像之间计算出的多个光流而计算出的；

振动模糊量计算部，其计算所述正交向量的水平分量和垂直分量的累计值，根据该累计值计算所述第1图像的振动模糊量；

光流校正部，其根据所述振动模糊量对在所述第1图像与所述第2图像之间计算出的多个光流进行校正；以及

消失点计算部，其根据由所述光流校正部校正后的多个光流计算所述第1图像的消失点。