CN102393953A - 图像帧拼接方法和装置 - Google Patents

图像帧拼接方法和装置 Download PDF

Info

Publication number
CN102393953A
CN102393953A CN2011101993003A CN201110199300A CN102393953A CN 102393953 A CN102393953 A CN 102393953A CN 2011101993003 A CN2011101993003 A CN 2011101993003A CN 201110199300 A CN201110199300 A CN 201110199300A CN 102393953 A CN102393953 A CN 102393953A
Authority
CN
China
Prior art keywords
sample frame
concatenation information
frame group
current
pair
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011101993003A
Other languages
English (en)
Other versions
CN102393953B (zh
Inventor
李永彬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hanwang Technology Co Ltd
Original Assignee
Hanwang Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hanwang Technology Co Ltd filed Critical Hanwang Technology Co Ltd
Priority to CN 201110199300 priority Critical patent/CN102393953B/zh
Publication of CN102393953A publication Critical patent/CN102393953A/zh
Application granted granted Critical
Publication of CN102393953B publication Critical patent/CN102393953B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)

Abstract

本发明公开了一种图像帧拼接方法和装置,属于图像处理领域。方法包括:计算首个采样帧组的采样间隔并预测其中首对相邻采样帧之间的拼接信息;以拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值,如果拼接信息实际值经校验无效,则以拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值;对当前采样帧组进行检验,并对下一采样帧进行预测,根据采样帧组是否结束分别对计算得到拼接信息预测值,如此循环,直至图像帧序列中的各采样帧拼接完毕,得到全景图像。本发明对图像帧序列进行采样帧组划分,减少了参与计算的图像帧数目和参与计算的图像帧的计算量,大大提高了整个图像帧序列的拼接速度和图像帧序列拼接的准确性。

Description

图像帧拼接方法和装置
技术领域
本发明属于图像处理领域,涉及一种图像处理方法,具体涉及一种图像帧拼接方法和装置。
背景技术
电子扫描笔(简称扫描笔)是基于OCR技术的重要文字识别装置。扫描笔的光学摄像头按照一定频率对被扫描资料进行连续拍照,获取被扫资料的图像帧序列,然后将图像帧序列拼接成一幅全景图像后进行OCR处理。为了支持高扫描速度,提高用户使用感受,扫描笔就要以较高的图像采集频率进行图像采集并且进行实时拼接处理,比如每秒采集120图像帧或者甚至更高。
随着采样频率的提高,单位时间内采集的图像帧数越来越多,要对图像帧序列进行实时拼接处理,特别是在嵌入式条件下进行实时拼接处理,难度越来越大。如何又快又准的进行图像帧拼接,成为扫描笔面临的一个难题。
发明内容
本发明提出一种图像帧拼接方法和装置,针对扫描笔获取的图像帧序列进行拼接。对于扫描笔图像帧序列的拼接,在保证图像拼接准确性的前提下,大大提高了图像拼接的快速性。
本发明公开了一种图像帧拼接方法,包括如下步骤:
步骤1,在待拼接的图像帧序列中建立采样帧组,计算首个采样帧组的采样间隔并预测该采样帧组中首对相邻采样帧之间的拼接信息;所述采样帧组由待拼接的图像帧序列中连续的具有相同采样间隔的图像帧构成;采样帧组内被采样的图像帧为采样帧,未被采样的图像帧为跳过帧;
步骤2,以当前相邻一对采样帧的拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值,否则转到步骤3;
步骤3,根据当前相邻一对采样帧的拼接信息实际值及预设的重叠率阈值区间检验当前采样帧组是否结束,如果当前采样帧组尚未结束,则根据当前采样帧组的采样间隔确定下一采样帧,将所述当前相邻一对采样帧的后一采样帧和所述下一采样帧作为下一对相邻采样帧,同时将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值;否则计算下一采样帧组的采样间隔并预测下一采样帧组的首对相邻采样帧之间的拼接信息;将下一对相邻采样帧和下一采样帧组的首对相邻采样帧作为当前相邻一对采样帧,返回步骤2,直至图像帧序列中的图像帧全部处理完毕;
步骤4,根据计算完毕的各采样帧的拼接信息实际值拼接得到全景图像。
本发明公开了一种图像帧拼接装置,包括如下模块:
初始化模块,在待拼接的图像帧序列中建立采样帧组,计算首个采样帧组的采样间隔并预测该采样帧组中首对相邻采样帧之间的拼接信息;所述采样帧组由待拼接的图像帧序列中连续的具有相同采样间隔的图像帧构成;采样帧组内被采样的图像帧为采样帧,未被采样的图像帧为跳过帧;
拼接模块,以当前相邻一对采样帧的拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值;否则转到采样及预测模块;
采样及预测模块,根据当前相邻一对采样帧的拼接信息实际值及预设的重叠率阈值区间检验当前采样帧组是否结束,如果当前采样帧组尚未结束,则根据当前采样帧组的采样间隔确定下一采样帧,将所述当前相邻一对采样帧的后一采样帧和所述下一采样帧作为下一对相邻采样帧,同时将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值;否则计算下一采样帧组的采样间隔并预测下一采样帧组的首对相邻采样帧之间的拼接信息;将下一对相邻采样帧和下一采样帧组的首对相邻采样帧作为当前相邻一对采样帧,返回拼接模块,直至图像帧序列中的图像帧全部处理完毕;
图像融合模块,根据计算完毕的各采样帧的拼接信息实际值拼接得到全景图像。
本发明公开的图像帧拼接方法和装置,对图像帧序列进行采样帧组划分,一方面,在同一采样帧组内按照固定采样间隔进行采样,并根据拼接信息预测值在既定窗口范围内搜索计算拼接信息实际值,这样既减少了参与计算的图像帧数目,又减少了参与计算的图像帧的计算量,大大提高了整个图像帧序列的拼接速度;另一方面,根据不同的扫描速度将图像帧序列划分为不同的采样帧组,并且采用与扫描速度相匹配的采样间隔,保证了采样策略的可行性,并提高了拼接信息预测值的准确性,相应地提高了图像帧序列拼接的准确性。
附图说明
图1为本发明图像帧拼接方法的流程图;
图2为本发明图像帧拼接方法中采样帧组的示意图;
图3为本发明图像帧拼接方法实施例中各图像帧及相关数据的示意图;
图4为本发明图像帧拼接方法的实施例中全景二值图像。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
在本发明实施例中,图像的宽度为80像素,高度为120像素,图像拼接在二值化后的图像帧上进行,如果原始帧图像是彩色图像或灰度图像,先对图像帧进行二值化处理。在二值化后的图像中,用1表示前景像素,用0表示背景像素,采用拼接系数作为图像的拼接度量指标。
本发明实施例中的相关帧图像数据如图3所示,为了方便描述,将图像帧序号为N的帧图像称为第N帧图像。
本发明公开了一种图像帧拼接方法,如图1所示,具体包括如下步骤:
步骤一,在待拼接的图像帧序列中建立采样帧组,计算首个采样帧组的采样间隔并预测该采样帧组中首对相邻采样帧之间的拼接信息。如图2所示,在待拼接的图像帧序列中建立采样帧组,采样帧组中图像帧的数量由后续步骤决定,待拼接的图像帧序列由已拍摄完毕的多个图像帧组成,也可以由实时采集的图像帧组成。所述采样帧组是指对待拼接的图像帧序列的一种划分,由待拼接的图像帧序列中连续的图像帧组成,在同一个采样帧组内采用相同的采样间隔进行等间隔采样,采样帧组内被采样的图像帧称为采样帧,未被采样的图像帧称为跳过帧。
采样间隔根据扫描速度及设定的图像最小重叠率阈值来计算。进一步,为了保证拼接信息预测值的准确性,采样间隔又不宜太大,设定一个上限值Smax来限定采样间隔的最大值,此外,设定一个采样间隔最小值Smin。在本实施例中,取Smax=2,Smin=1,当采样间隔为1时,采样帧组中每一帧图像都是采样帧而没有跳过帧。
计算首个采样帧组的采样间隔时,具体如下:
1.通过全搜索的方式计算图像帧序列中的第二帧图像相对于第一帧图像的拼接信息,拼接信息包括水平位移、竖直位移及位移方向,位移方向包括右下、右上、左下、左上。在本实施例中,遍历第1图像帧中的所有像素点进行全搜索,得到第2帧图像相对于第1帧图像的水平位移为1,竖直位移为0,位移方向为右下。
2.根据拼接信息中的水平位移Vx和竖直位移Vy及图像最小重叠率阈值Omin计算采样间隔S′:
( W - S ′ × V x ) × ( H - S ′ × V y ) W × H ≥ O min
其中,W为图像帧宽度,H为图像帧高度。在本实施例中,Vx=1,Vy=0,Omin=0.4,W=80,H=120,在不等式取等号时解得S′=48。
3.第一个采样帧组的采样间隔
Figure BDA0000076217530000042
其中,
Figure BDA0000076217530000043
表示不超过S′的最大整数,min表示取二值中较小者,max表示取二值中较大者。在本实施例中,第一个采样帧组的采样间隔为
Figure BDA0000076217530000044
对于第一个采样帧组,将图像帧序列中的第1帧图像作为采样帧,根据采样间隔得到下一采样帧,这两个采样帧组成首对相邻采样帧,其水平位移预测值为S1×Vx,竖直位移预测值为S1×Vy,位移方向预测值为采样帧组中第2帧图像相对于第1帧图像的位移方向,为图像帧序列中第2帧图像相对于首帧图像的位移方向。
在本实施例中,采样间隔为2,即由第1帧图像和第3帧图像组成第一对相邻采样帧,其水平位移预测值为S1×Vx=2×1=2,竖直位移预测值为S1×Vy=2×0=0,位移方向预测值为右下。
步骤二,以当前相邻一对采样帧的拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值,否则转到步骤三。
在当前相邻一对采样帧中选择任一采样帧建立第一既定窗口,第一既定窗口的大小根据拼接信息预测值和拼接信息实际值之间的偏差调整后,经过统计得出。这个偏差值又与采样间隔相关,一般来说,采样间隔越大,偏差值越大,采样间隔越小,偏差值越小,当偏差值达到一定程度时,即当第一既定窗口大到一定程度时,采用预测所带来的计算效率的提升将变得不明显,这也是为什么要对采样间隔设置上限的原因。如果将采样间隔的上限设为1,则整个图像帧序列划分为一个采样帧组,这时第一既定窗口的大小只反映相邻图像帧之间位移的最大偏差。在本实施例中,采样间隔的最大值设为2,图像序列为从左到右扫描获取,主要位移都在水平方向,竖直方向位移较小,在第1帧图像中取第一既定窗口的大小为11×21,即窗口高度为11,窗口宽度为21。对于采样帧组中的第3帧图像和第1帧图像,将第1帧图像的左上角点为坐标原点,以第3帧图像和第1帧图像的拼接信息预测值,即相对坐标为(2,0)的坐标点为中心在第一既定窗口中计算拼接系数,本实施例中,将第3帧图像的左上角点为参考点,第3图像帧在第一既定窗口中进行拼接,将拼接系数最大时对应的拼接信息值作为拼接信息实际值,得到拼接信息实际值为水平位移为3,竖直位移为0,位移方向为右下,对应的拼接系数为0.91。
校验拼接信息实际值是否有效,如果当前相邻一对采样帧的拼接信息实际值经校验有效,直接转入步骤三;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在当前相邻一对采样帧中选择任一采样帧建立第二既定窗口中计算拼接信息实际值。第二既定窗口尺寸大于第一既定窗口,如果根据第二既定窗口中计算得到的拼接度量指标优于根据第一既定窗口计算得到的拼接度量指标,则取在第二既定窗口中计算的拼接信息实际值为该相邻采样帧的最终拼接信息实际值,如果根据第一既定窗口中计算得到的拼接度量指标优于根据第二既定窗口计算得到的拼接度量指标,仍取在第一既定窗口中计算的拼接信息实际值为该相邻采样帧的最终拼接信息实际值。
校验拼接信息实际值是否有效,根据拼接度量指标进行校验。由于拼接信息实际值是以拼接信息预测值为中心的第一既定窗口中进行计算,当拼接信息实际值超出第一既定窗口的范围时,会导致拼接无效。在本实施例中,采用拼接系数作为拼接度量指标,拼接系数为介于0到1之间的数,拼接系数定义为两帧图像重叠区域中与运算为1的像素点数之和与或运算为1的像素点数之和的比值。当拼接系数小于0.6时,认为当前的拼接信息实际值无效,需要根据第二既定窗口进行计算。对于第3帧图像和第1帧图像,其拼接系数为0.91,大于0.6,直接转入步骤三。
步骤三,根据当前相邻一对采样帧的拼接信息实际值及预设的重叠率阈值区间检验当前采样帧组是否结束,如果当前采样帧组尚未结束,则根据当前采样帧组的采样间隔确定下一采样帧,将所述当前相邻一对采样帧的后一采样帧和所述下一采样帧作为下一对相邻采样帧,同时将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值;否则计算下一采样帧组的采样间隔并预测下一采样帧组的首对相邻采样帧之间的拼接信息;将下一对相邻采样帧和下一采样帧组的首对相邻采样帧作为当前相邻一对采样帧,返回步骤2,直至图像帧序列中的图像帧全部处理完毕。
图像重叠率是指两帧图像重叠区域的面积与单帧图像面积的比率,图像重叠率阈值区间的最小值为设定的最小重叠率Omin,最大值为设定的最大重叠率Omax。当根据当前相邻一对采样帧的拼接信息实际值计算得到的相邻采样帧间的图像重叠率大于等于设定的最小重叠率Omin并且小于等于设定的最大重叠率Omax时,或者当前相邻一对采样帧间的图像重叠率小于最小重叠率Omin且目前的采样间隔已经是采样间隔最小值时,或者当前相邻一对采样帧间的图像重叠率大于最大重叠率Omax且目前的采样间隔已经是采样间隔最大值时,当前采样帧组尚未结束,继续在当前采样帧组中进行采样,否则,当前采样帧组结束,建立下一采样帧组。
在本实施例中,设置最小重叠率Omin=0.4,最大重叠率Omax=0.7,根据第3帧图像和第1帧图像的拼接信息实际值计算得到的图像重叠率为0.96,大于最大重叠率Omax=0.7,但目前的采样间隔已经是最大值,所以维持这个采样间隔在当前采样帧组中进行采样,据当前采样帧组的采样间隔确定下一采样帧,并将当前相邻采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值。在本实施例中,当前采样帧组的采样间隔为2,下一个采样帧为第5帧图像,第3帧图像和第5帧图像组成下一对相邻采样帧,下一对相邻采样帧的拼接信息预测值为:水平位移为3,竖直位移为0,位移方向为右下。对于每一对相邻采样帧,跳至步骤二、步骤三依次执行,直至整个图像序列处理完毕。
在本实施例中,对于由第5帧图像和第3帧图像构成的下一对相邻采样帧,在步骤二中,第5帧图像和第3帧图像的拼接信息预测值为:水平位移3、竖直位移0、位移方向右下,计算得到的第5帧图像和第3帧图像的拼接信息实际值为:水平位移11、竖直位移0、位移方向右下,拼接系数为0.53。由于第5帧图像和第3帧图像的拼接系数小于0.6,设置第二既定窗口的大小为15×35,即第二既定窗口的高度为15,宽度为35,重新计算第5帧图像和第3帧图像的拼接信息为:水平位移16、竖直位移1、位移方向右下,并且拼接系数为0.92,则取水平位移16、竖直位移1、位移方向右下作为第5帧图像和第3帧图像构成的拼接信息实际值。在步骤三中,第5帧图像和第3帧图像间的重叠率为0.79,大于最大重叠率Omax=0.7,由于目前的采样间隔已经是最大值,所以维持这个采样间隔确定下一采样帧,并将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值,返回步骤二。
在本实施例中,对于由第23帧图像和第21帧图像构成的相邻采样帧对,在步骤二中,第23帧图像和第21帧图像的拼接信息预测值为:水平位移45、竖直位移2、位移方向右下,计算得到第23帧图像和第21帧图像的拼接信息实际值为:水平位移49、竖直位移2、位移方向右下,拼接系数为0.86。在步骤二中,由于拼接系数大于0.6,执行步骤三。在步骤三中,第23帧图像和第21帧图像间的重叠率为0.38,小于最小重叠率Omin=0.4,由于目前的采样间隔不是最小值,则建立下一个采样帧组,并计算下一个采样帧组的采样间隔并预测其第一对相邻采样帧之间的拼接信息。下一个采样帧组从当前采样帧组的最后一帧图像开始,并将当前采样帧组的最后一帧图像作为下一个采样帧组的第一个采样帧。
假设当前相邻采样帧间的水平位移为Vx,竖直位移为Vy,当前采样帧组的采样间隔为S,下一个采样帧组的采样间隔为S′,则根据下式计算S′:
( W - S ′ × V x S ) × ( H - S ′ × V y S ) W × H ≥ O min
其中,Vx、Vy为当前采样帧间的水平位移和竖直位移,S为当前采样帧组的采样间隔,S′为下一采样帧组的采样间隔,Omin为设定的最小重叠率,W为图像帧的宽度,H为图像帧的高度;下一采样帧组中前两采样帧的水平位移预测值为(Sn×Vx)/S,竖直位移预测值为(Sn×Vy)/S,位移方向预测值为当前相邻采样帧之间的位移方向。在此处当前采样帧间的水平位移Vx=49,竖直位移Vy=2,当前采样帧组的采样间隔S=2,在不等式取等号时解得下一个采样帧组的采样间隔S′=1.94,则下一采样帧组的采样间隔S′不超过采样间隔的最大值Smax,不小于Smin,即根据
Figure BDA0000076217530000081
求得下一采样帧组的采样间隔为1。在下一采样帧组中,由第24帧图像和第23帧图像组成下一采样帧组中的第一对相邻采样帧,其拼接信息预测值为:水平位移24、竖直位移1、位移方向右下。返回步骤二,在下一采样帧组中确定下一采样帧,从而得到第二对相邻采样帧,下一采样帧组结束,再建立新采样帧组,返回步骤二,直至图像帧序列中的各采样帧组的图像帧拼接完毕。
步骤四,根据计算完毕的各采样帧的拼接信息实际值拼接得到全景图像。
如图3所示,根据的各采样帧对应的拼接信息实际值,即水平位移的实际值、竖直位移的实际值和拼接方向将各采样帧进行拼接,本实施例中,得到如图4所示的全景二值图像。
本发明公开了一种图像帧拼接装置,包括如下模块:
初始化模块,在待拼接的图像帧序列中建立采样帧组,计算首个采样帧组的采样间隔并预测该采样帧组中首对相邻采样帧之间的拼接信息;所述采样帧组由待拼接的图像帧序列中连续的具有相同采样间隔的图像帧构成;采样帧组内被采样的图像帧为采样帧,未被采样的图像帧为跳过帧;
拼接模块,以当前相邻一对采样帧的拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值,否则转到采样及预测模块;
采样及预测模块,根据当前相邻一对采样帧的拼接信息实际值及重叠率阈值区间检验当前采样帧组是否结束,如果当前采样帧组尚未结束,则根据当前采样帧组的采样间隔确定下一采样帧,并将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值;如果当前采样帧组结束,则计算下一采样帧组的采样间隔并预测下一采样帧组的前两采样帧之间的拼接信息;返回拼接模块,直至图像帧序列中的图像帧全部处理完毕;
图像融合模块,根据计算完毕的各采样帧的拼接信息实际值拼接得到全景图像。
本发明所提供的一种图像帧拼接方法和装置,对图像帧序列进行采样帧组划分,一方面,在同一采样帧组内按照固定采样间隔进行采样,并根据拼接信息预测值在既定窗口范围内搜索计算拼接信息实际值,这样既减少了参与计算的图像帧数目,又减少了参与计算的图像帧的计算量,大大提高了整个图像帧序列的拼接速度;另一方面,根据不同的扫描速度将图像帧序列划分为不同的采样帧组,并且采用与扫描速度相匹配的采样间隔,保证了采样策略的可行性,并提高了拼接信息预测值的准确性,相应地提高了图像帧序列拼接的准确性。
以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。

Claims (12)

1.一种图像帧拼接方法,其特征在于,包括如下步骤:
步骤1,在待拼接的图像帧序列中建立采样帧组,计算首个采样帧组的采样间隔并预测该采样帧组中首对相邻采样帧之间的拼接信息;所述采样帧组由待拼接的图像帧序列中连续的具有相同采样间隔的图像帧构成;采样帧组内被采样的图像帧为采样帧,未被采样的图像帧为跳过帧;
步骤2,以当前相邻一对采样帧的拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值,否则转到步骤3;
步骤3,根据当前相邻一对采样帧的拼接信息实际值及预设的重叠率阈值区间检验当前采样帧组是否结束,如果当前采样帧组尚未结束,则根据当前采样帧组的采样间隔确定下一采样帧,将所述当前相邻一对采样帧的后一采样帧和所述下一采样帧作为下一对相邻采样帧,同时将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值;否则计算下一采样帧组的采样间隔并预测下一采样帧组的首对相邻采样帧之间的拼接信息;将下一对相邻采样帧和下一采样帧组的首对相邻采样帧作为当前相邻一对采样帧,返回步骤2,直至图像帧序列中的图像帧全部处理完毕;
步骤4,根据计算完毕的各采样帧的拼接信息实际值拼接得到全景图像。
2.根据权利要求1所述的方法,其特征在于:所述拼接信息包括水平位移、竖直位移及位移方向,其中,位移方向包括右下、右上、左下、左上。
3.根据权利要求2所述的方法,其特征在于:所述步骤1中的首个采样帧组的采样间隔为
Figure FDA0000076217520000011
其中,Smin为采样间隔的最小值,Smax为采样间隔的最大值,
Figure FDA0000076217520000012
表示不超过S′的最大整数,S′根据
Figure FDA0000076217520000013
计算,Vx、Vy为图像帧序列中的第二帧图像相对于第一帧图像的拼接信息中的水平位移和竖直位移,Omin为最小重叠率,W为图像帧的宽度,H为图像帧的高度。
4.根据权利要求3所述的方法,其特征在于:所述步骤1中计算首对相邻采样帧间的拼接信息预测值时,水平位移预测值为S1×Vx,竖直位移预测值为S1×Vy,位移方向预测值为采样帧组中第二帧图像相对于首帧图像的位移方向。
5.根据权利要求1所述的方法,其特征在于:所述步骤2中第一既定窗口的大小根据拼接信息预测值和拼接信息实际值之间的偏差进行调整。
6.根据权利要求1所述的方法,其特征在于:所述第二既定窗口尺寸大于第一既定窗口。
7.根据权利要求1所述的方法,其特征在于:所述以拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值时,如果拼接信息对应的拼接度量指标优于在第一既定窗口中计算拼接信息实际值时得到的拼接度量指标,则将在第二既定窗口中计算的拼接信息实际值作为所述相邻采样帧的拼接信息实际值,否则将在第一既定窗口中计算的拼接信息实际值作为所述相邻采样帧的拼接信息实际值。
8.根据权利要求3所述的方法,其特征在于:所述步骤3中根据当前相邻一对采样帧的拼接信息实际值及重叠率阈值区间检验当前采样帧组是否结束时,当根据拼接信息实际值计算得到的相邻采样帧间的图像重叠率位于重叠率阈值区间时,或者当相邻采样帧间的重叠率小于最小重叠率Omin且当前采样帧组的采样间隔为最小值时,或者当相邻采样帧间的重叠率大于最大重叠率Omax且当前采样帧组的采样间隔为最大值时,则当前采样帧组尚未结束,继续在当前采样帧组中进行采样,否则,当前采样帧组结束,建立下一采样帧组。
9.根据权利要求1或8所述的方法,其特征在于:所述重叠率阈值区间的最小值为设定的最小重叠率Omin,最大值为设定的最大重叠率Omax
10.根据权利要求1或8所述的方法,其特征在于:所述下一采样帧组从当前采样帧组的最后一采样帧开始,并将所述最后一采样帧作为下一采样帧组的首帧图像。
11.根据权利要求1、8或10所述的方法,其特征在于:所述下一采样帧组的采样间隔
Figure FDA0000076217520000021
其中,Smin为采样间隔的最小值,Smax为采样间隔的最大值,表示不超过S′的最大整数,S′根据
Figure FDA0000076217520000023
计算,Vx、Vy为当前采样帧间的水平位移和竖直位移,S为当前采样帧组的采样间隔,Omin为设定的最小重叠率,W为图像帧的宽度,H为图像帧的高度;下一采样帧组中前两采样帧的水平位移预测值为(Sn×Vx)/S,竖直位移预测值为(Sn×Vy)/S,位移方向预测值为当前相邻采样帧之间的位移方向。
12.一种图像帧拼接装置,其特征在于,包括:
初始化模块,在待拼接的图像帧序列中建立采样帧组,计算首个采样帧组的采样间隔并预测该采样帧组中首对相邻采样帧之间的拼接信息;所述采样帧组由待拼接的图像帧序列中连续的具有相同采样间隔的图像帧构成;采样帧组内被采样的图像帧为采样帧,未被采样的图像帧为跳过帧;
拼接模块,以当前相邻一对采样帧的拼接信息预测值为中心在第一既定窗口中计算拼接信息实际值;如果当前相邻一对采样帧的拼接信息实际值经校验无效,则以相邻采样帧的拼接信息预测值为中心在第二既定窗口中计算拼接信息实际值;否则转到采样及预测模块;
采样及预测模块,根据当前相邻一对采样帧的拼接信息实际值及预设的重叠率阈值区间检验当前采样帧组是否结束,如果当前采样帧组尚未结束,则根据当前采样帧组的采样间隔确定下一采样帧,将所述当前相邻一对采样帧的后一采样帧和所述下一采样帧作为下一对相邻采样帧,同时将当前相邻一对采样帧的拼接信息实际值作为下一对相邻采样帧的拼接信息预测值;否则计算下一采样帧组的采样间隔并预测下一采样帧组的首对相邻采样帧之间的拼接信息;将下一对相邻采样帧和下一采样帧组的首对相邻采样帧作为当前相邻一对采样帧,返回拼接模块,直至图像帧序列中的图像帧全部处理完毕;
图像融合模块,根据计算完毕的各采样帧的拼接信息实际值拼接得到全景图像。
CN 201110199300 2011-07-15 2011-07-15 图像帧拼接方法和装置 Active CN102393953B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN 201110199300 CN102393953B (zh) 2011-07-15 2011-07-15 图像帧拼接方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN 201110199300 CN102393953B (zh) 2011-07-15 2011-07-15 图像帧拼接方法和装置

Publications (2)

Publication Number Publication Date
CN102393953A true CN102393953A (zh) 2012-03-28
CN102393953B CN102393953B (zh) 2013-06-26

Family

ID=45861266

Family Applications (1)

Application Number Title Priority Date Filing Date
CN 201110199300 Active CN102393953B (zh) 2011-07-15 2011-07-15 图像帧拼接方法和装置

Country Status (1)

Country Link
CN (1) CN102393953B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106600592A (zh) * 2016-12-14 2017-04-26 中南大学 一种基于连续帧图像拼接的轨道长弦测量方法
CN107172361A (zh) * 2017-07-12 2017-09-15 维沃移动通信有限公司 一种全景拍摄的方法及移动终端
CN107529944A (zh) * 2013-05-29 2018-01-02 卡普索影像公司 用于使用胶囊相机所拍摄影像的重叠相依影像拼接方法
CN108717684A (zh) * 2018-04-20 2018-10-30 中南大学 基于阵列相机的高速水平运动物体图像序列拼接方法及系统
CN109685721A (zh) * 2018-12-29 2019-04-26 深圳看到科技有限公司 全景画面拼接方法、装置、终端及对应的存储介质
CN110097063A (zh) * 2019-04-30 2019-08-06 网易有道信息技术(北京)有限公司 电子设备的数据处理方法、介质、装置和计算设备
CN114594107A (zh) * 2022-05-09 2022-06-07 武汉精立电子技术有限公司 扫描路径的优化方法、应用及半导体材料表面的检测方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1021386A (ja) * 1996-07-02 1998-01-23 Fuji Xerox Co Ltd 画像処理装置
CN101533474A (zh) * 2008-03-12 2009-09-16 三星电子株式会社 基于视频图像的字符和图像识别系统和方法
CN101882306A (zh) * 2010-06-13 2010-11-10 浙江大学 一种表面凹凸物体照片的高精度拼接方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1021386A (ja) * 1996-07-02 1998-01-23 Fuji Xerox Co Ltd 画像処理装置
CN101533474A (zh) * 2008-03-12 2009-09-16 三星电子株式会社 基于视频图像的字符和图像识别系统和方法
CN101882306A (zh) * 2010-06-13 2010-11-10 浙江大学 一种表面凹凸物体照片的高精度拼接方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
刘永 等: "基于自适应帧采样的视频拼接", 《清华大学学报(自然科学版)》, vol. 50, no. 1, 15 January 2010 (2010-01-15) *
陈棣湘 等: "数码扫描笔中图像处理技术的研究", 《仪器仪表学报》, vol. 29, no. 4, 30 April 2008 (2008-04-30) *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107529944A (zh) * 2013-05-29 2018-01-02 卡普索影像公司 用于使用胶囊相机所拍摄影像的重叠相依影像拼接方法
CN107529944B (zh) * 2013-05-29 2019-07-26 卡普索影像公司 用于使用胶囊相机所拍摄影像的重叠相依影像拼接方法
CN106600592A (zh) * 2016-12-14 2017-04-26 中南大学 一种基于连续帧图像拼接的轨道长弦测量方法
CN107172361A (zh) * 2017-07-12 2017-09-15 维沃移动通信有限公司 一种全景拍摄的方法及移动终端
CN107172361B (zh) * 2017-07-12 2019-11-15 维沃移动通信有限公司 一种全景拍摄的方法及移动终端
CN108717684A (zh) * 2018-04-20 2018-10-30 中南大学 基于阵列相机的高速水平运动物体图像序列拼接方法及系统
CN108717684B (zh) * 2018-04-20 2022-05-27 中南大学 基于阵列相机的高速水平运动物体图像序列拼接方法及系统
CN109685721A (zh) * 2018-12-29 2019-04-26 深圳看到科技有限公司 全景画面拼接方法、装置、终端及对应的存储介质
CN109685721B (zh) * 2018-12-29 2021-03-16 深圳看到科技有限公司 全景画面拼接方法、装置、终端及对应的存储介质
CN110097063A (zh) * 2019-04-30 2019-08-06 网易有道信息技术(北京)有限公司 电子设备的数据处理方法、介质、装置和计算设备
CN114594107A (zh) * 2022-05-09 2022-06-07 武汉精立电子技术有限公司 扫描路径的优化方法、应用及半导体材料表面的检测方法
CN114594107B (zh) * 2022-05-09 2022-08-16 武汉精立电子技术有限公司 扫描路径的优化方法、应用及半导体材料表面的检测方法

Also Published As

Publication number Publication date
CN102393953B (zh) 2013-06-26

Similar Documents

Publication Publication Date Title
CN102393953A (zh) 图像帧拼接方法和装置
KR102182356B1 (ko) 이중 스트림 딥 러닝 뉴럴 네트워크를 갖는 쌍안 보행자 검출 시스템 및 이를 이용하는 방법
CN106204567B (zh) 一种自然背景视频抠图方法
CN107085842A (zh) 自学习多路图像融合的实时矫正方法及系统
CN100355272C (zh) 一种交互式多视点视频系统中虚拟视点的合成方法
CN109389086B (zh) 检测无人机影像目标的方法和系统
CN105430415B (zh) 一种3d‑hevc深度视频帧内快速编码方法
JP2020061128A5 (zh)
US20170116461A1 (en) Image processing device and image processing method
CN111709407B (zh) 监控边缘计算中提升视频目标检测性能的方法及装置
CN102595146B (zh) 全景影像产生方法及装置
CN101496413A (zh) 用单视场低功率移动装置实时捕获及产生立体图像及视频
CN104580933A (zh) 基于特征点的多尺度实时监控视频拼接装置及拼接方法
CN110263699A (zh) 视频图像处理方法、装置、设备及存储介质
CN107507137A (zh) 一种图像修复方法及系统
CN101840574A (zh) 基于边缘象素特征的深度估计方法
CN111899164A (zh) 一种针对多焦段场景的图像拼接方法
CN102222222A (zh) 跳帧扫描识别装置和方法
CN104270624B (zh) 一种分区域的3d视频映射方法
JP2012079251A (ja) 画像処理装置及び画像処理システム
CN106251348A (zh) 一种面向深度相机的自适应多线索融合背景减除方法
WO2023207856A1 (zh) 一种机器人及其直线行进控制方法、数据处理设备
CN102637295B (zh) 一种快速图像电子稳定方法及装置
CN112149471B (zh) 一种基于语义点云的回环检测方法及装置
CN109600667B (zh) 一种基于网格与帧分组的视频重定向的方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant