CN113112412B - 垂直校正矩阵的生成方法、装置及计算机可读存储介质 - Google Patents

垂直校正矩阵的生成方法、装置及计算机可读存储介质 Download PDF

Info

Publication number
CN113112412B
CN113112412B CN202010032549.4A CN202010032549A CN113112412B CN 113112412 B CN113112412 B CN 113112412B CN 202010032549 A CN202010032549 A CN 202010032549A CN 113112412 B CN113112412 B CN 113112412B
Authority
CN
China
Prior art keywords
vertical correction
generating
points
intersection
vanishing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010032549.4A
Other languages
English (en)
Other versions
CN113112412A (zh
Inventor
王艺伟
刘丽艳
伊红
王炜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to CN202010032549.4A priority Critical patent/CN113112412B/zh
Publication of CN113112412A publication Critical patent/CN113112412A/zh
Application granted granted Critical
Publication of CN113112412B publication Critical patent/CN113112412B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明实施例提供了一种垂直校正矩阵的生成方法、装置及计算机可读存储介质。本发明实施例提供的垂直校正矩阵的生成方法,包括:将全景图像转换为小行星投影图;在所述小行星投影图上进行线段检测,得到多条线段;利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵。本发明实施例的垂直校正矩阵的生成方法,具有适用性广和可靠性高的优点。

Description

垂直校正矩阵的生成方法、装置及计算机可读存储介质
技术领域
本发明涉及计算机视觉方向,尤其针对全景视觉方向处理,具体的,涉及一种垂直校正矩阵的生成方法、装置及计算机可读存储介质。
背景技术
近年来,全景视频的处理技术发展迅速。全景视觉处理通常会涉及到对全景图像进行垂直校正,对视频进行稳定性处理,以及在球坐标系下进行图像重建。以上处理中通常都需要计算垂直校正矩阵,该矩阵可以用来对图像/视频进行垂直校正,使得图像/视频与实际情况相符。
目前,现有技术通常采用基于特征点匹配方法计算垂直校正矩阵,或者基于陀螺仪数据来计算垂直校正矩阵。以上方法中,特征点检测容易受到各种条件的影响,难以保证垂直校正矩阵的精度;而陀螺仪数据依赖于特定的硬件采集设备,因此在缺少该设备支持的场景下将无法计算垂直校正矩阵。可以看出,现有技术的计算垂直校正矩阵方案,通常存在着应用场景受限和可靠性差等问题。
发明内容
本发明实施例要解决的技术问题是提供一种适用性广和可靠性高的垂直校正矩阵的生成方法。
根据本发明实施例的一个方面,提供了一种垂直校正矩阵的生成方法,所述垂直校正矩阵用于对全景图像进行垂直校正,所述方法包括:
将全景图像转换为小行星投影图;
在所述小行星投影图上进行线段检测,得到多条线段;
利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵。
根据本发明的至少一个实施例,利用所述多条线段在所述小行星投影图上生成多个大圆的步骤,包括:
以所述线段为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。
根据本发明的至少一个实施例,从所述多个大圆间的交点中选择出消失点的步骤,包括:
获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;
根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
根据本发明的至少一个实施例,根据所述消失点计算得到所述垂直校正矩阵的步骤,包括:
将所述消失点的坐标变换至单位球坐标系下的单位球坐标;
基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;
通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵。
根据本发明的至少一个实施例,所述消失点的数量为6个;基于所述消失点在单位球坐标上的正交性,生成代价函数的步骤,包括:
将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点;
根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2;
根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆;
根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆;
根据向量Vk、Vi和Hj,构造代价函数E(P):
其中,P表示垂直校正矩阵。
根据本发明的至少一个实施例,在得到所述垂直校正矩阵之后,所述方法还包括:
将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像;
利用所述垂直校正矩阵,对所述单位球图像进行垂直校正。
根据本发明的至少一个实施例,所述全景图像为等距柱状投影图。
根据本发明实施例的另一方面,提供了一种垂直校正矩阵的生成装置,所述垂直校正矩阵用于对全景图像进行垂直校正,所述生成装置包括:
图像转换模块,用于将全景图像转换为小行星投影图;
线段检测模块,用于在所述小行星投影图上进行线段检测,得到多条线段;
交点获得模块,用于利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
矩阵生成模块,用于从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵。
根据本发明的至少一个实施例,所述交点获得模块,还用于以所述线段为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。
根据本发明的至少一个实施例,所述矩阵生成模块,还用于获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
根据本发明的至少一个实施例,所述矩阵生成模块,还用于将所述消失点的坐标变换至单位球坐标系下的单位球坐标;基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵。
根据本发明的至少一个实施例,所述消失点的数量为6个;所述矩阵生成模块,还用于:
将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点;
根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2;
根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆;
根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆;
根据向量Vk、Vi和Hj,构造代价函数E(P):
其中,P表示垂直校正矩阵。
根据本发明的至少一个实施例,所述生成装置还包括:
垂直校正模块,用于将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像;利用所述垂直校正矩阵,对所述单位球图像进行垂直校正。
根据本发明的至少一个实施例,所述全景图像为等距柱状投影图。
本发明实施例还提供了一种垂直校正矩阵的生成装置,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如上所述的垂直校正矩阵的生成方法的步骤。
本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上所述的垂直校正矩阵的生成方法的步骤。
与现有技术相比,本发明实施例提供的垂直校正矩阵的生成方法、装置及计算机可读存储介质,不需要进行特征点的检测,也不依赖于陀螺仪数据,即可生成垂直校正矩阵,具有适用场景广泛,且可靠性高的优点。另外,本发明实施例在生成大圆的过程中,可以直接采用几何算法得到大圆,简化了大圆的生成方式,降低了垂直校正矩阵生成所需要的计算资源和计算数据量,另外,本发明实施例还简化了消失点寻找方式,更易于找到消失点。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例的描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例的垂直校正矩阵的生成方法的一种流程示意图;
图2为本发明实施例提供的小行星投影图的一个示例图;
图3为本发明实施例提供的小行星投影图上所生成的大圆的一个示例图;
图4~5为本发明实施例提供的球体图中的大圆及消失点的示例图;
图6为本发明实施例的垂直校正矩阵的生成装置的一种结构示意图;
图7为本发明实施例的垂直校正矩阵的生成装置的另一种结构示意图;
图8为本发明实施例的垂直校正矩阵的生成装置的又一结构示意图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚,下面将结合附图及具体实施例进行详细描述。在下面的描述中,提供诸如具体的配置和组件的特定细节仅仅是为了帮助全面理解本发明的实施例。因此,本领域技术人员应该清楚,可以对这里描述的实施例进行各种改变和修改而不脱离本发明的范围和精神。另外,为了清楚和简洁,省略了对已知功能和构造的描述。
应理解,说明书通篇中提到的“一个实施例”或“一实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”或“在一实施例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。
在本发明的各种实施例中,应理解,下述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
如背景技术所述的,现有技术的计算垂直校正矩阵的方法,通常存在着适用范围窄、可靠性差和准确性低等问题。为解决以上问题中的至少一种,本发明实施例提供了一种垂直校正矩阵的生成方法,用以生成对全景图像进行垂直校正的垂直校正矩阵。如图1所示,该方法包括:
步骤11,将全景图像转换为小行星投影图。
这里,全景图像通常是一种广角图像,通过全景播放器可以让观看者身临其境地进入到全景图像所记录的场景中去。例如,一种标准的全景图为一幅长宽比为2:1的等距柱状投影图。等距柱状投影图是一种将球体上的各个点投影到圆柱体的侧面上的一种投影方式,投影完之后再将它展开就是一张长宽比为2:1的长方形图像。
本发明在步骤11中,将全景图像转换为小行星投影图。根据本发明的至少一个实施例,所述全景图像可以为小行星投影图。具体的,可以将全景图像的等距柱状投影图映射到球面,再利用球坐标系实现小行星投影图,在实现小行星投影图时,可以设定投影中心点的坐标,以及选择投影的视场角,然后连接投影中心点和球面上的点,得到对应的直线,从而可以获得小行星投影图。图2给出了由全景图像转换得到的小行星投影图的一个示例。
步骤12,在所述小行星投影图上进行线段检测,得到多条线段。
这里,通过在小行星投影图上进行线段检测,本发明实施例可以获得多条线段,具体的,线段检测的实现方式可以参照现有技术的各种线段检测算法,如霍夫(Hough)变换算法和EDLines算法等,本发明实施例对此不再赘述。
步骤13,利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线。
这里,步骤12中的获得多条线段,通常都有一定的长度,一定长度范围内的可以近似的看成一段圆弧,据此可以在小行星投影图上生成多个大圆。例如,采用线段检测算法检测出的线段,通常是近似于直线的线段,针对这些线段,可以将所述线段作为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。通过以上方式,本发明实施例可以为步骤12中所得到的多条线段中的全部线段或选择出的部分线段生成对应的大圆,进而获得这些大圆之间的交点。图3给出了针对图2的小行星投影图所生成的大圆的示例,可以看出,图3中生成了多个大圆,部分大圆之间存在交点。
步骤14,从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵。
这里,本发明实施例可以采用投票算法,从多个大圆间的交点中选择出消失点。消失点是指物理世界中的平行线在图像中的交点。由于线段检测存在误差,因此不是所有的大圆间的交点都是消失点,但是通常经过某个交点的交线(这里所述的交线是指经过该交点的大圆的圆弧)的数量越多,则该交点为消失点的概率也就越高。基于此,本发明实施例可以获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;然后,根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
图4~5给出了球体图中的大圆以及消失点的一个示例,该示例中球体图在垂直方向没有偏差。可以看出,球体图中通常存在6个消失点,例如,图5中的6个消失点51~56中,消失点51~52分别位于垂直方向的Z轴的正负方向,消失点53~56位于水平面上。因此,本发明实施例在步骤14中,可以按照经过交点的交线的数量从大到小的先后顺序,选择出前6个交点,作为所述消失点。
另外,在步骤14中,本发明实施例在计算垂直校正矩阵时,可以将所述消失点的坐标,从小行星投影坐标系的坐标变换至单位球坐标系下的单位球坐标;然后,基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;然后,通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵。
通过以上步骤,本发明实施例先将全景图像转换为小行星投影图,进而在小行星投影图上基于检测到的线段生成大圆,以上处理不需要进行特征点的检测,也不依赖于陀螺仪数据,因此,本发明实施例提供的垂直校正矩阵的生成方法,具有适用场景广泛,且可靠性高的优点。另外,本发明实施例在生成大圆的过程中,可以直接采用几何算法得到大圆,简化了大圆的生成方式,降低了垂直校正矩阵生成所需要的计算资源和计算数据量,另外,以上方式也简化了消失点寻找方式,更易于找到消失点。
下面提供本发明实施例可以采用的代价函数的若干示例,需要指出的是,以下示例仅为本发明可以采用的代价函数的举例说明,而不应看作对本发明的限定。任何基于消失点在单位球坐标上的正交性所生成的代价函数,均可以应用于本发明,且达到相同或相近的技术效果。
例如,采用6个消失点生成代价函数:
1)将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点。也就是说,先找到4个属于同一平面的消失点作为水平消失点,然后将剩余的2个消失点作为垂直消失点。这里,考虑到消失点的误差,在寻找同属于一个平面的4个消失点时,可以先基于3个消失点确定一个平面,然后,寻找与该平面距离小于预设门限的第4个消失点,从而得到4个水平消失点。
2)根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2。
3)根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆。
4)根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆。
5)根据向量Vk、Vi和Hj,构造代价函数E1(P):
其中,P表示垂直校正矩阵,·表示向量点乘,×表示向量叉乘。
又例如,采用4个消失点生成代价函数:
1)将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点。也就是说,先找到4个属于同一平面的消失点作为水平消失点,然后将剩余的2个消失点作为垂直消失点。这里,考虑到消失点的误差,在寻找同属于一个平面的4个消失点时,可以先基于3个消失点确定一个平面,然后,寻找与该平面距离小于预设门限的第4个消失点,从而得到4个水平消失点。
2)根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆。
3)根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆。
4)根据向量Vi和Hj,构造代价函数E2(P):
其中,P表示垂直校正矩阵,·表示向量点乘,×表示向量叉乘。
该代价函数E2(P),相比于代价函数E1(P),其求解计算量相对较小。
另外,本发明实施例在计算得到所述垂直校正矩阵之后,还可以将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像。然后,利用所述垂直校正矩阵,对所述单位球图像进行垂直校正,从而得到垂直校正后的图像。
基于以上方法,本发明实施例还提供了实施上述方法的装置,请参考图6,本发明实施例提供的垂直校正矩阵的生成装置600,该垂直校正矩阵的生成装置600可以扩展垂直校正矩阵的应用场景,且具有计算量低、可靠性高等优点。如图6所示,该垂直校正矩阵的生成装置600包括:
图像转换模块601,用于将全景图像转换为小行星投影图;
线段检测模块602,用于在所述小行星投影图上进行线段检测,得到多条线段;
交点获得模块603,用于利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
矩阵生成模块604,用于从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵。
此外,根据本发明至少一个实施例,所述交点获得模块603,还用于以所述线段为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。
此外,根据本发明至少一个实施例,所述矩阵生成模块604,还用于获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
此外,根据本发明至少一个实施例,所述矩阵生成模块604,还用于将所述消失点的坐标变换至单位球坐标系下的单位球坐标;基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵。
此外,根据本发明至少一个实施例,所述消失点的数量为6个;所述矩阵生成模块604,还用于:
将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点;
根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2;
根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆;
根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆;
根据向量Vk、Vi和Hj,构造代价函数E(P):
其中,P表示垂直校正矩阵。
此外,根据本发明至少一个实施例,所述全景图像为等距柱状投影图。
通过以上模块,本发明实施例的垂直校正矩阵的生成装置不需要依赖于陀螺仪数据或进行特征点检测,即可生成垂直校正矩阵,从而可以扩展垂直校正矩阵的应用场景,提高矩阵生成的可靠性和准确性。
请参考图7,本发明实施例提供的另一种垂直校正矩阵的生成装置700,该垂直校正矩阵的生成装置700包括:
图像转换模块701,用于将全景图像转换为小行星投影图;
线段检测模块702,用于在所述小行星投影图上进行线段检测,得到多条线段;
交点获得模块703,用于利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
矩阵生成模块704,用于从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵;
垂直校正模块705,用于将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像;利用所述垂直校正矩阵,对所述单位球图像进行垂直校正。
这里,以上图像转换模块701、线段检测模块702、交点获得模块703和和矩阵生成模块704,与图6中的对应模块功能类似,此处不再赘述。
通过以上垂直校正模块705,本发明实施例可以利用所生成的垂直校正矩阵对全景图像进行垂直校正处理,得到校正后的全景图像。
请参考图8,本发明实施例还提供了垂直校正矩阵的生成装置的一种硬件结构框图,如图8所示,该垂直校正矩阵的生成装置800包括:
处理器802;和
存储器804,在所述存储器804中存储有计算机程序指令,
其中,在所述计算机程序指令被所述处理器运行时,使得所述处理器802执行以下步骤:
将全景图像转换为小行星投影图;
在所述小行星投影图上进行线段检测,得到多条线段;
利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵。
进一步地,如图8所示,该垂直校正矩阵的生成装置800还可以包括网络接口801、输入设备803、硬盘805、和显示设备806。
上述各个接口和设备之间可以通过总线架构互连。总线架构可以是包括任意数量的互联的总线和桥。具体由处理器802代表的一个或者多个中央处理器(CPU),以及由存储器804代表的一个或者多个存储器的各种电路连接在一起。总线架构还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其它电路连接在一起。可以理解,总线架构用于实现这些组件之间的连接通信。总线架构除包括数据总线之外,还包括电源总线、控制总线和状态信号总线,这些都是本领域所公知的,因此本文不再对其进行详细描述。
所述网络接口801,可以连接至网络(如因特网、局域网等),从网络中接收数据(如待进行垂直校正的全景图像),并可以将接收到的数据保存在硬盘805中。
所述输入设备803,可以接收操作人员输入的各种指令,并发送给处理器802以供执行。所述输入设备803可以包括键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等)。
所述显示设备806,可以将处理器802执行指令获得的结果进行显示,例如显示垂直校正矩阵的生成进度或结果等。
所述存储器804,用于存储操作系统运行所必须的程序和数据,以及处理器802计算过程中的中间结果等数据。
可以理解,本发明实施例中的存储器804可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(ROM)、可编程只读存储器(PROM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)或闪存。易失性存储器可以是随机存取存储器(RAM),其用作外部高速缓存。本文描述的装置和方法的存储器804旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器804存储了如下的元素,可执行模块或者数据结构,或者他们的子集,或者他们的扩展集:操作系统8041和应用程序8042。
其中,操作系统8041,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序8042,包含各种应用程序,例如浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序8042中。
本发明上述实施例揭示的垂直校正矩阵的生成方法可以应用于处理器802中,或者由处理器802实现。处理器802可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述垂直校正矩阵的生成方法的各步骤可以通过处理器802中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器802可以是通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件,可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器804,处理器802读取存储器804中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑设备(PLD)、现场可编程门阵列(FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本文所述功能的模块(例如过程、函数等)来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
具体地,所述计算机程序被处理器802执行时还可实现如下步骤:
以所述线段为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。
具体地,所述计算机程序被处理器802执行时还可实现如下步骤:
获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;
根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
具体地,所述计算机程序被处理器802执行时还可实现如下步骤:
将所述消失点的坐标变换至单位球坐标系下的单位球坐标;
基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;
通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵。
具体地,所述计算机程序被处理器802执行时还可实现如下步骤:
将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点;
根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2;
根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆;
根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆;
根据向量Vk、Vi和Hj,构造代价函数E(P):
其中,P表示垂直校正矩阵。
具体地,所述计算机程序被处理器802执行时还可实现如下步骤:
将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像;
利用所述垂直校正矩阵,对所述单位球图像进行垂直校正。
可选的,所述全景图像为等距柱状投影图。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述的垂直校正矩阵的生成方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、RAM、磁盘或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。

Claims (11)

1.一种垂直校正矩阵的生成方法,所述垂直校正矩阵用于对全景图像进行垂直校正,其特征在于,所述方法包括:
将全景图像转换为小行星投影图;
在所述小行星投影图上进行线段检测,得到多条线段;
利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵;
其中,根据所述消失点计算得到所述垂直校正矩阵的步骤,包括:
将所述消失点的坐标变换至单位球坐标系下的单位球坐标;
基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;
通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵;
其中,所述消失点的数量为6个;基于所述消失点在单位球坐标上的正交性,生成代价函数的步骤,包括:
将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点;
根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2;
根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆;
根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆;
根据向量Vk、Vi和Hj,构造代价函数E(P):
其中,P表示垂直校正矩阵。
2.如权利要求1所述的生成方法,其特征在于,利用所述多条线段在所述小行星投影图上生成多个大圆的步骤,包括:
以所述线段为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。
3.如权利要求1所述的生成方法,其特征在于,从所述多个大圆间的交点中选择出消失点的步骤,包括:
获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;
根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
4.如权利要求1所述的生成方法,其特征在于,在得到所述垂直校正矩阵之后,所述方法还包括:
当所述全景图像为等距柱状投影图时,将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像;
利用所述垂直校正矩阵,对所述单位球图像进行垂直校正。
5.如权利要求1所述的生成方法,其特征在于,所述全景图像为等距柱状投影图。
6.一种垂直校正矩阵的生成装置,所述垂直校正矩阵用于对全景图像进行垂直校正,其特征在于,所述生成装置包括:
图像转换模块,用于将全景图像转换为小行星投影图;
线段检测模块,用于在所述小行星投影图上进行线段检测,得到多条线段;
交点获得模块,用于利用所述多条线段在所述小行星投影图上生成多个大圆,并得到所述多个大圆间的交点,其中,所述大圆为球面与通过球心的平面的交线;
矩阵生成模块,用于从所述多个大圆间的交点中选择出消失点,根据所述消失点计算得到所述垂直校正矩阵;
其中,所述矩阵生成模块,还用于将所述消失点的坐标变换至单位球坐标系下的单位球坐标;基于所述消失点在单位球坐标上的正交性,生成关于北极方向的向量的代价函数;通过最小化所述代价函数,求解北极方向的向量,得到所述垂直校正矩阵;
其中,所述消失点的数量为6个;基于所述消失点在单位球坐标上的正交性,生成代价函数的步骤,包括:
将6个消失点划分为:同属于一个平面的4个水平消失点,和,剩余的2个垂直消失点;
根据球心到所述垂直消失点的方向,得到两个向量Vk,其中,k=1或2;
根据第一类大圆所在平面的法线方向,得到向量Vi,其中,i=1,2,…,N,N为所述第一类大圆的数量,所述第一类大圆为经过所述垂直消失点的大圆;
根据第二类大圆所在平面上的任意直线的方向,得到向量Hj,其中,j=1,2,…,M,M为所述第二类大圆的数量,所述第二类大圆为经过所述水平消失点的大圆;
根据向量Vk、Vi和Hj,构造代价函数E(P):
其中,P表示垂直校正矩阵。
7.如权利要求6所述的生成装置,其特征在于,
所述交点获得模块,还用于以所述线段为圆弧,根据所述圆弧两个端点的法线的相交点,得到所述圆弧对应的大圆的圆心,以及,根据所述圆弧的端点到圆心的距离,得到所述圆弧对应的大圆的半径。
8.如权利要求6所述的生成装置,其特征在于,
所述矩阵生成模块,还用于获得所述多个大圆间的所有交点,并确定经过每个交点的交线数量;根据所述交线数量从大到小的顺序,选择出预设数量的交点,作为所述消失点。
9.如权利要求6所述的生成装置,其特征在于,还包括:
垂直校正模块,用于当所述全景图像为等距柱状投影图时,将所述等距柱状投影图变换至单位球坐标系下,得到单位球图像;利用所述垂直校正矩阵,对所述单位球图像进行垂直校正。
10.如权利要求8所述的生成装置,其特征在于,所述全景图像为等距柱状投影图。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述的垂直校正矩阵的生成方法的步骤。
CN202010032549.4A 2020-01-13 2020-01-13 垂直校正矩阵的生成方法、装置及计算机可读存储介质 Active CN113112412B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010032549.4A CN113112412B (zh) 2020-01-13 2020-01-13 垂直校正矩阵的生成方法、装置及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010032549.4A CN113112412B (zh) 2020-01-13 2020-01-13 垂直校正矩阵的生成方法、装置及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN113112412A CN113112412A (zh) 2021-07-13
CN113112412B true CN113112412B (zh) 2024-03-19

Family

ID=76709934

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010032549.4A Active CN113112412B (zh) 2020-01-13 2020-01-13 垂直校正矩阵的生成方法、装置及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN113112412B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113989166B (zh) * 2021-12-27 2022-03-15 贝壳技术有限公司 全景图的垂直矫正方法和装置、电子设备和存储介质
CN114926371B (zh) * 2022-06-27 2023-04-07 北京五八信息技术有限公司 一种全景图的垂直校正、灭点检测方法、设备及存储介质

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005010820A2 (fr) * 2003-07-29 2005-02-03 Holding Bev Sa Procede et dispositif automatise de perception avec determination et caracterisation de bords et de frontieres d'objets d'un espace, construction de contours et applications
KR20120023284A (ko) * 2010-09-01 2012-03-13 주식회사 나노포토닉스 회전 대칭형의 광각 렌즈를 이용하여 디지털 팬?틸트 영상을 얻는 방법 및 그 영상 시스템
CN103020900A (zh) * 2012-11-15 2013-04-03 北京小米科技有限责任公司 一种图像处理方法及装置
CN104143206A (zh) * 2013-05-12 2014-11-12 哈尔滨点石仿真科技有限公司 一种真实感天空的实时渲染方法
CN104350498A (zh) * 2012-06-05 2015-02-11 谷歌公司 用于存储和检索地理空间数据的系统和方法
CN104835144A (zh) * 2015-04-09 2015-08-12 云南大学 利用一个球的球心的像及正交性求解摄像机内参数
CN106251282A (zh) * 2016-07-19 2016-12-21 中国人民解放军63920部队 一种机械臂采样环境仿真图的生成方法及装置
WO2016203989A1 (ja) * 2015-06-17 2016-12-22 ソニー株式会社 画像処理装置および画像処理方法
KR20170030926A (ko) * 2015-09-10 2017-03-20 한국과학기술원 단일 프로젝터와 구형 거울 기반의 전방향 프로젝션 방법 및 시스템
CN106537454A (zh) * 2014-07-07 2017-03-22 威拓股份有限公司 用于图像的摄影测量处理的方法和系统
WO2017128887A1 (zh) * 2016-01-26 2017-08-03 范治江 全景图像的校正3d显示方法和系统及装置
CN109769110A (zh) * 2019-01-22 2019-05-17 深圳岚锋创视网络科技有限公司 一种3d小行星动态图的生成方法、装置及便携式终端
CN110409989A (zh) * 2018-04-27 2019-11-05 立川窗饰工业株式会社 绳制动装置的保持结构以及具备绳制动装置的保持结构的遮蔽装置
CN110473247A (zh) * 2019-07-30 2019-11-19 中国科学院空间应用工程与技术中心 立体匹配方法、装置及存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6724386B2 (en) * 2001-10-23 2004-04-20 Sony Corporation System and process for geometry replacement
US8638327B2 (en) * 2007-11-14 2014-01-28 Microsoft Corporation Tiled projections for planar processing of round earth data
US10127637B2 (en) * 2016-08-30 2018-11-13 Adobe Systems Incorporated Automatic orientation adjustment of spherical panorama digital images
CN108462838B (zh) * 2018-03-16 2020-10-02 影石创新科技股份有限公司 一种全景视频防抖方法、装置及便携式终端

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005010820A2 (fr) * 2003-07-29 2005-02-03 Holding Bev Sa Procede et dispositif automatise de perception avec determination et caracterisation de bords et de frontieres d'objets d'un espace, construction de contours et applications
KR20120023284A (ko) * 2010-09-01 2012-03-13 주식회사 나노포토닉스 회전 대칭형의 광각 렌즈를 이용하여 디지털 팬?틸트 영상을 얻는 방법 및 그 영상 시스템
CN104350498A (zh) * 2012-06-05 2015-02-11 谷歌公司 用于存储和检索地理空间数据的系统和方法
CN103020900A (zh) * 2012-11-15 2013-04-03 北京小米科技有限责任公司 一种图像处理方法及装置
CN104143206A (zh) * 2013-05-12 2014-11-12 哈尔滨点石仿真科技有限公司 一种真实感天空的实时渲染方法
CN106537454A (zh) * 2014-07-07 2017-03-22 威拓股份有限公司 用于图像的摄影测量处理的方法和系统
CN104835144A (zh) * 2015-04-09 2015-08-12 云南大学 利用一个球的球心的像及正交性求解摄像机内参数
WO2016203989A1 (ja) * 2015-06-17 2016-12-22 ソニー株式会社 画像処理装置および画像処理方法
KR20170030926A (ko) * 2015-09-10 2017-03-20 한국과학기술원 단일 프로젝터와 구형 거울 기반의 전방향 프로젝션 방법 및 시스템
WO2017128887A1 (zh) * 2016-01-26 2017-08-03 范治江 全景图像的校正3d显示方法和系统及装置
CN106251282A (zh) * 2016-07-19 2016-12-21 中国人民解放军63920部队 一种机械臂采样环境仿真图的生成方法及装置
CN110409989A (zh) * 2018-04-27 2019-11-05 立川窗饰工业株式会社 绳制动装置的保持结构以及具备绳制动装置的保持结构的遮蔽装置
CN109769110A (zh) * 2019-01-22 2019-05-17 深圳岚锋创视网络科技有限公司 一种3d小行星动态图的生成方法、装置及便携式终端
CN110473247A (zh) * 2019-07-30 2019-11-19 中国科学院空间应用工程与技术中心 立体匹配方法、装置及存储介质

Non-Patent Citations (7)

* Cited by examiner, † Cited by third party
Title
360°全景图像拼接技术研究;马杰;《中国优秀硕士学位论文全文数据库》;全文 *
Asteroid engineering: The state-of-the-art of Near-Earth Asteroids science and technology;Niklas Anthony etc.;Progress in Aerospace Sciences;20180630;全文 *
The High Resolution Stereo Camera (HRSC) of Mars Express and its approach to science analysis and mapping for Mars and its satellites;K. Gwinner etc.;Planetary and Space Science;全文 *
全景图视觉变形纠正技术研究;王龙;中国优秀硕士学位论文全文数据库;全文 *
基于距离矩阵的星图运动目标检测;王敏;赵金宇;陈涛;;光学精密工程(第07期);全文 *
天地一体全景影像快速获取与应用技术;余建军;徐攻博;郭望成;叶嘉琦;李杰;;测绘通报;20170725(第07期);全文 *
王敏 ; 赵金宇 ; 陈涛 ; .基于距离矩阵的星图运动目标检测.光学精密工程.2017,(第07期),全文. *

Also Published As

Publication number Publication date
CN113112412A (zh) 2021-07-13

Similar Documents

Publication Publication Date Title
CN108537721B (zh) 全景图像的处理方法、装置及电子设备
CN111523468B (zh) 人体关键点识别方法和装置
KR102502651B1 (ko) 지도를 구축하기 위한 방법 및 장치
US20180324415A1 (en) Real-time automatic vehicle camera calibration
US8411962B1 (en) Robust image alignment using block sums
WO2021175180A1 (zh) 视线确定方法、装置、电子设备和计算机可读存储介质
CN113112412B (zh) 垂直校正矩阵的生成方法、装置及计算机可读存储介质
CN110222703B (zh) 图像轮廓识别方法、装置、设备和介质
US10447989B2 (en) Method and device for synthesizing depth images
CN109040521B (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
KR20150120124A (ko) 다이내믹 비전 센서 및 이를 포함하는 모션 인식 장치
CN113759348B (zh) 一种雷达标定方法、装置、设备及存储介质
JP2021136028A (ja) エッジベースの拡張現実3次元追跡登録方法、装置及び電子機器
US10410386B2 (en) Table cell validation
CN113034582A (zh) 位姿优化装置及方法、电子设备及计算机可读存储介质
CN112085842B (zh) 深度值确定方法及装置、电子设备和存储介质
CN107578470B (zh) 一种三维模型处理方法、装置、服务器及存储介质
CN111063011A (zh) 一种人脸图像处理方法、装置、设备和介质
US20220283325A1 (en) Method and terminal device for processing positron emission tomography data
CN113139892B (zh) 一种视线轨迹的计算方法、装置及计算机可读存储介质
EP3872698A2 (en) Method, apparatus, device, storage medium and program for image processing
KR20210139202A (ko) 라이다 맵 기반의 루프 클로저 검출 방법, 장치, 전자 기기, 저장 매체 및 컴퓨터 프로그램
CN114155292A (zh) 一种基于全景视频的室内定位定姿方法及装置
CN109636713A (zh) 定位方法、装置、设备和介质
CN111639655A (zh) 图像局部信息生成方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant