CN102546917A - 带摄像头的移动终端及其视频处理方法 - Google Patents
带摄像头的移动终端及其视频处理方法 Download PDFInfo
- Publication number
- CN102546917A CN102546917A CN2010106170563A CN201010617056A CN102546917A CN 102546917 A CN102546917 A CN 102546917A CN 2010106170563 A CN2010106170563 A CN 2010106170563A CN 201010617056 A CN201010617056 A CN 201010617056A CN 102546917 A CN102546917 A CN 102546917A
- Authority
- CN
- China
- Prior art keywords
- frame
- motion state
- current motion
- acceleration
- video frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 11
- 230000001133 acceleration Effects 0.000 claims abstract description 150
- 230000033001 locomotion Effects 0.000 claims description 258
- 238000000034 method Methods 0.000 claims description 24
- 230000002457 bidirectional effect Effects 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 7
- 230000003068 static effect Effects 0.000 claims description 7
- 238000002372 labelling Methods 0.000 abstract 1
- 230000008569 process Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009432 framing Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Studio Devices (AREA)
Abstract
本发明的实施例提供带摄像头的移动终端和视频处理方法,处理方法包括:接收图像传感器获取的视频帧和加速度传感器检测到的移动终端的当前运动状态;将当前运动状态标识在视频帧上;并将携带所述移动终端的当前运动状态的视频帧发送给编码器;编码器依据当前运动状态对收到的视频帧进行编码。本发明的实施例根据检测移动终端的运动信息来动态的改变编码码率和/或编码方式,可明显的提高移动终端处于运动状态尤其是大幅运动状态时拍摄到的图像的品质。
Description
技术领域
本发明涉及移动通信领域,尤其涉及带摄像头的移动终端及其拍摄方法。
背景技术
随着网络的普及和移动终端的推广,多媒体应用成为购买者衡量移动终端是否符合购买需求的重要指标。目前大部分的移动终端都支持视频记录功能,很多视频网站和博客,也都支持视频的上传和分享,因此,用户使用移动终端拍摄视频并上传至互联网与人分享,已然成为一种时尚。
现有的移动终端视频采集,存在以下的一些缺点,首先,视频分辨率不够高,图像质量差,随着终端芯片的升级和改进,情况已经逐步得到改善。目前,支持高清视频拍摄的移动终端已经成为高端智能终端的主流,并逐步向中低端设备推广。其次,移动终端不同于专业的摄像机或者DV,其对焦系统和焦距均较专门的拍摄器材有一定的差距。此外,由于移动终端拍摄多是用来记录突发事件或仅是随意拍摄,因此在拍摄过程中,使用者会存在找寻画面、走动、手抖动、追拍等动作,导致画面抖动厉害,图像质量低。尤其表现在:当用户启动摄像后,由于取景和对焦,往往导致画面抖动或者大幅度的运动。此时,由于编码器按前后帧的运动估计来进行编码,而物体在图像上的运动距离过大,解码后会产生在运动方向上非常严重的拖影,甚至导致完全看不清画面。
目前在防抖技术上,大多通过在相继的图像帧之间的运动估计来计算抖动,从而对抖动进行视频编码的补偿,但首先计算本身就是通过估计,且当抖动过大即手持设备产生大幅运动时,此种方法会造成更严重的失真。
发明内容
本发明实施例针对手持移动终端摄像获取的视频,因移动终端的运动而产生失真的问题,提出了如下解决方案。
本发明实施例提供一种视频处理方法,应用于带摄像头的移动终端,包括:
接收图像传感器获取的视频帧;
接收加速度传感器检测到的视频帧获取时移动终端的当前运动状态;
将当前运动状态标识在视频帧上;
将携带移动终端的当前运动状态的视频帧发送给编码器;
编码器依据当前运动状态对收到的视频帧进行编码。
较优的,当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级;
编码器依据当前运动状态对收到的视频帧进行编码具体为:依据当前运动状态的等级,或者根据当前运动状态的等级以及视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对视频帧采取的编码方式,为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
更优的,当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级为,当检测到的加速度小于第一门限值时,当前运动状态等级为静止;当检测到的加速度大于第三门限值时,当前运动状态等级为剧烈;
依据当前运动状态的等级确定对视频帧采取的编码方式为,当前运动状态为剧烈时,采用I帧的编码方式;根据当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对视频帧采取的编码方式为,加速度所处的门限值区间越低,视频帧所在的一定长度的帧序列中采用B帧编码方式的视频帧越多。
较优的,当加速度传感器检测平行于摄像头焦平面的横向和纵向加速度时,当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间划分的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间划分当前运动状态的等级;或者
获得横向和纵向加速度的分别所处的各自门限值区间的等级,取其中更高等级做为当前运动状态的等级。
本发明提供另一种视频处理方法实施例,应用于带摄像头的移动终端,包括如下步骤:
使所速度传感器以图像传感器的最高帧频,对移动终端的当前运动状态进行检测;
接收图像传感器获取的视频帧;
接收加速度传感器检测到的移动终端的当前运动状态,并标识在视频帧上;
根据当前运动状态调整图像传感器的帧频;
当图像传感器的帧频高于编码器的输出帧频时,根据当前运动状态,判断选择或放弃视频帧发送给编码器;
编码器对收到的视频帧进行编码。
较优的,当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级;
编码器对收到的视频帧进行编码具体为,依据当前运动状态的等级,或者根据当前运动状态的等级以及视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式,并对视频帧进行编码,编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
较优的,当所速度传感器检测平行于所述摄像头焦平面的横向和纵向加速度时,当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间划分的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间划分当前运动状态的等级;或者
获得横向和纵向加速度的分别所处的各自门限值区间的等级,取其中更高等级做为当前运动状态的等级。
本发明同时提供了一种带摄像头的移动终端装置实施例,包括图像传感器、编码器、加速度传感器和中央处理器CPU,其中:
图像传感器用于从摄像头获取视频帧,并发送给CPU;
加速度传感器用于检测移动终端的当前运动状态,并发送给CPU;
CPU用于接收所述图像传感器发送的视频帧,以及加速度传感器发送的移动终端当前运动状态,将当前运动状态标识在视频帧上,并将携带移动终端的当前运动状态的视频帧发送给编码器;
编码器用于对接收到的视频帧进行编码。
较优的,加速度传感器具体用于,按照检测到的加速度所处的门限值区间划分当前运动状态的等级,并发送给所述CPU;
编码器具体用于,依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式,并对所述视频帧进行编码,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
更优的,加速度传感器具体用于,当检测到的加速度小于第一门限值时,当前运动状态为静止;当检测到的加速度大于第三门限值时,当前运动状态为剧烈;
编码器具体用于,当前运动状态为剧烈时,采用I帧的编码方式;所述加速度所处的门限值区间越低,所述视频帧所在的一定长度的帧序列中采用B帧编码方式的视频帧越多。
本发明提供了另一种带摄像头的移动终端装置实施例,包括图像传感器、编码器、加速度传感器和中央处理器CPU,其中:
加速度传感器用于,以图像传感器的最高帧频,检测移动终端的当前运动状态,并将检测到的当前运动状态发送给所述CPU;
图像传感器用于从摄像头获取视频帧,将获取得视频帧发送给所述CPU,并接受CPU对所述图像传感器的帧频控制;
CPU用于接收所述加速度传感器发送的移动终端当前运动状态,并根据接收到的当前运动状态,调整图像传感器的帧频;同时接收图像传感器获取的视频帧,按编码器的输出帧频向编码器发送视频帧;
所述编码器用于对接收到的视频帧进行编码。
较优的,CPU具体用于,接收加速度传感器发送的移动终端当前运动状态,并根据接收到的当前运动状态,调整图像传感器的帧频;同时接收图像传感器获取的视频帧,当图像传感器的当前帧频高于所述编码器的输出帧频时,根据接收到的当前运动状态,判断选择或放弃当前视频帧发送给编码器。
更优的,编码器具体用于,依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对当前视频帧采取的编码方式,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
更优的,加速度传感器具体用于,检测平行于所述摄像头焦平面的横向和纵向加速度;所述当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间所对应的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间所对应的当前运动状态的等级;或者
横向和纵向加速度的分别所处的各自门限值区间的等级中的更高等级。
本发明的实施例根据检测移动终端的运动信息来动态调整编码方式,或者根据检测移动终端的运动信息来动态调整图像传感器的帧频,再依据运动状态选择其中的视频帧进行编码,可明显的提高移动终端处于运动状态尤其是大幅运动状态时拍摄到的图像的品质。
附图说明
图1为本发明一方法实施方式的流程图;
图2为本发明一方法实施例的流程图;
图3为本发明另一方法实施例的流程图;
图4为本发明一装置实施例的方框图。
具体实施方式
下面结合附图对本发明进行进一步具体描述。
在视频编码的过程中,通过加速度传感器获取当前帧处理过程中手机的运动方向以及相应的运动估值,并作为图像编码中的起始参数传送给编码器。编码器根据该运动参数,进行自适应的编码效果和压缩率的调整,达到优化的视频效果。
如图1所示,本发明提供的一视频处理方法的实施方式的主要步骤包括:
接收图像传感器获取的视频帧;
接收加速度传感器检测到的所述视频帧获取时所述移动终端的当前运动状态;
将所述当前运动状态标识在所述视频帧上;
将携带所述移动终端的当前运动状态的所述视频帧发送给编码器;
所述编码器依据当前运动状态对收到的所述视频帧进行编码。
如图2所示,本发明提供上述实施方式中的一视频处理方法的实施例的主要步骤包括:
步骤100:终端接到启动视频拍摄程序的命令。
步骤101:终端的CPU初始化摄像头和视频编码器程序,检测用户设定,如果设定中已经打开视频质量增强程序,则启动三轴加速度传感器,并将其I2C总线的速度调至最高,进行高速运动状态捕获。如果暂未启动视频质量增强程序,则进入步骤105,进行常规的视频拍摄。
常用的三轴传感器如freescale的MMA8451Q,可以支持到2.2Mb的I2C总线传输速度,可以精细到每图像帧周期,提供精确的加速度变化数据。而CPU和加速度传感器,目前大多数带摄像头的手机已经具有。
上述过程中,也可将视频质量增强程序设为自动;或者,当检测用户设定中已经打开该增强程序,即直接启动三轴加速度传感器;如果检测结果为暂未打开该增强程序,则在界面弹出对话框,询问用户是否启动该增强程序,得到“确定”的消息后,再启动三轴加速度传感器。
步骤102:CPU根据帧频,连续检测加速度传感器的输出值变化,并通过加速度和时间的关系,计算移动终端的当前运动状态。
如果在X轴、Y轴或者Z轴向发生了运动,则将运动加速度和内置的门限数值进行比较,以获得当前运动状态等级。加速度是一个矢量值,其数值大小即上述当前运动加速度一般为三轴加速度的平方总和的开平方根举例说明,如果当前运动加速度小于第一门限值,则当前运动状态为静止状态,如果当前运动加速度超过第一门限值而小于第二门限值,则当前帧运动状态为轻微运动状态,当前运动加速度超过第二门限值而小于第三门限值,则当前帧运动状态为中等运动状态,如果当前运动加速度超过第三门限值,则当前帧运动状态为剧烈运动状态。当然,上述运动等级的划分只是举例。因为Z轴向一般垂直与摄像头的焦平面,所以终端在Z轴向的运动对于图像的影响将明显小于在X轴和Y轴向的运动影响,特别是对于焦距较小的摄像头(移动终端上的摄像头一般焦距都很短,在拍摄成像上都认为是无穷远,没有对焦的问题)。所以更进一步的,由于终端在X/Y轴和Z轴的运动对于图像将造成不同性质的影响,在判断门限值的时候,更优方案是根据不同的轴向运动来进行区分对待。所以,如果仅是终端在Z轴方向的运动,仅会使图像上的物体增大或者变小,而不会带来图像的纵向或者横向运动从而产生严重拖影,所以步骤101中可使用两轴加速传感器,或者仅需取得X轴和Y轴方向的运动加速度即相对于焦平面横向和纵向的运动状态。
或者,分别对X轴和Y轴的加速度进行衡量,如果检测出终端在X轴或者Y轴方向上发生了相应等级的运动状态,以其中运动状态等级更高的轴向运动状态等级,做为该移动终端当前的运动状态等级。比如当加速度传感器获得X轴向为轻微运动,Y轴向为剧烈运动时,得出的总体运动状态为剧烈运动状态。如果设置X轴与Y轴的运动状态的门限值相同,则可先取X轴和Y轴加速度中的更高值所属的门限值区间来确定终端当前的运动状态等级。
或者,将Z轴的轴向运动也纳入参考范围,此时为Z轴运动加速度设置的门限值,要高于为X和Y轴设置的门限值,比如Y轴运动加速度第二门限值(区分轻微和中等运动状态)为A,可设置Z轴运动加速度第二门限值(区分轻微和中等运动状态)高于A。
步骤103:CPU根据在步骤102获得的当前运动状态,将当前帧数据打上运动状态标识,并发送给编码器。编码器可以为硬件编码器或者是软件编码器。
步骤104:编码器检测接收到的每一帧的数据的运动状态标志,并根据运动状态标志对当前帧进行编码。
首先描述一下I、P和B帧的概念。绝大多数的视频编码标准,从mpeg-2至mpeg-4,从H.263到H.264/AVC都涉及I、P和B帧。I帧(帧内编码帧)是一种自带全部信息的独立帧,无需参考其它图像便可独立进行解码。P帧(帧间预测编码帧)需要参考前面的I帧和/或P帧的不同部分才能进行编码。B帧(双向预测编码帧)需要同时以前面的帧和后面的帧作为参考帧。
步骤104的编码的方式如下:通常情况下编码器会缓存一组帧序列,如果这些帧的当前运动状态标志都为静止状态,则按常规方式以I帧,P帧或者是B帧对这些帧进行编码。由于提高B帧的数量可以显著的提高视频码流的压缩率,因此,在终端可接受的视频质量范围内,可以插入较多的B帧。当遇到当前运动状态标志为轻微状态的帧时,根据压缩率的需求,以及前后帧信息判断当前帧是否要编码为B帧。总的说来,就静止状态而言,适当减少I帧和P帧之间间隔的B帧数,或者说,在同等长度的帧序列中,增加I帧和P帧的数量,减少B帧的数量。当前运动状态为中等状态时,则将当前的帧编码为P帧或I帧,而不使用B帧进行编码。当前帧运动状态为剧烈状态时,则将当前帧被编码成I帧。由于在剧烈运动下,采用I帧对运动图像进行编码,前后图像之间不存在预测和数据依赖性,可以避免采用P帧或者B帧造成的图像拖影,模糊等不良观感,从而提高用户的使用体验。
也可以仅根据当前运动状态的等级确定编码方式,比如静止状态时在一组帧序列中采用数量比例为一设定值(该值略小于1)的B帧,在轻微运动状态采用一定比例的I帧、B帧和P帧,在中等幅度运动状态采用一定比例的I帧和P帧,在剧烈运动状态(或最高等级运动状态)全部采用I帧编码方式。
步骤106:终端接到结束拍摄过程的指令。
通过上述根据检测移动终端的运动信息来动态的改变来动态的改变编码方式的方法,能明显提高终端处于运动状态尤其是大幅运动状态下拍摄到的视频清晰度,提高终端用户的体验。
本发明提供的另一视频处理方法实施方式的步骤包括:
使所述加速度传感器以图像传感器的最高帧频,对所述移动终端的当前运动状态进行检测;
接收图像传感器获取的当前视频帧;
接收加速度传感器检测到的所述移动终端的当前运动状态,并标识在所述视频帧上;
根据所述当前运动状态调整所述图像传感器的帧频;
当所述图像传感器的帧频高于所述编码器的输出帧频时,根据所述当前运动状态,判断选择或放弃当前视频帧发送给所述编码器;
所述编码器对收到的视频帧进行编码。
如上所述实施方式的一具体实施例的具体步骤如图3所示。
步骤200:移动终端接到启动视频拍摄的指令。
步骤201:移动终端的CPU初始化摄像头和视频编码器程序,检测用户设定,如果打开了视频增强程序,则启动加速度传感器,并将其I2C总线的速度调至最高,进行高速运动状态捕获。如果没有打开视频增强程序,则进入步骤205,进行普通拍摄。同样的,也可不进行增强程序是否打开的判断而直接启动,或者在设定为未打开状态时,通过对话框提示用户是否打开。
步骤202:CPU根据帧频检测每次加速度传感器的输出值,比如图像传感器的最高帧频为1/16ms时,每隔16ms进行一次检测。如果发现在X轴、Y轴或者Z轴向发生了运动,则将运动数据和内置的门限数值进行比较,以获得当前运动等级。此处仍沿用图2所示实施例的等级划分:如果当前运动小于第一门限值,则当前运动状态为静止状态,如果当前运动超过第一门限值,则当前帧运动状态为轻微运动状态,当前运动超过第二门限值,则当前帧运动状态为中等运动状态,如果当前运动超过第三门限值,则当前帧运动状态为剧烈运动状态。同样的,由于用户在X/Y轴和Z轴的运动会对于图像造成不同性质的影响,在判断门限值的时候,需要根据不同的轴向运动进行区分对待。由于终端在Z轴向的运动对于图像的影响小于在X轴和Y轴向上的运动,所以可只考虑X轴和Y轴的运动状态,以测得的X轴和Y轴加速度的平方和的开平方根做为当前运动状态。CPU根据检测到的运动状态调整图像传感器的帧频,在每秒30帧至最高帧频(例如60帧)之间进行调整。例如,当CPU检测当前为静止状态,则当前帧频保持为最低30帧/s;当CPU检测当前运动状态为轻微运动或者是中等运动,则控制图像传感器使当前帧频设置为介于30帧和最高帧频之间进行调整,例如40帧或者50帧;当检测到当前运动状态为剧烈运动时,则将当前帧频调整至最高帧频,例如60帧。
或者,分别对X轴和Y轴的加速度进行衡量,如果检测出终端在X轴或者Y轴方向上发生了相应等级的运动状态,以其中运动状态等级更高的轴向运动状态等级,做为该移动终端当前的运动状态等级,再按此等级调整帧频。
步骤203:收集图像传感器传输来的视频帧数据和当前帧的频率和运动状态,将一定数量的视频帧发送给编码器。
由于编码器能处理的帧率为一定数,其维持输出的帧率即为该定数,例如30帧/s,所以在60帧/s下超过的每秒30帧无法被编码器处理,所以需要为编码器预先挑选好视频帧,以供编码器编码。当收到帧频为60帧/s,而编码器的输出帧率为30帧/s时,应平均每2帧选择一帧进行编码,所根据的即为当前帧的运动状态。在两帧中选择加速度较小的帧,以供编码器编码,能实现更清晰的视频质量,提高用户的使用感受。步骤203可由CPU来完成,或是前置于编码器的一模块。
步骤204:编码器对送来的视频帧数据进行编码。
此处可进行常规编码,或使用图1所示实施例中的编码方式,依据当前帧的当前运动状态,选择使用I、B或P帧对当前帧进行编码。
步骤206:终端接到退出拍摄程序的指令。
本发明通过根据检测移动终端的运动信息来动态的改变来动态的改变图像传感器的帧频,再依据运动状态信息从中选择更合适编码的帧,可明显的提高移动终端处于运动状态尤其是大幅运动状态时拍摄到的图像的品质,再组合图2所示实施例的方案,更能提高图像清晰度,进一步提高终端用户的使用体验。
本发明同时提供了一种移动终端的装置实施方式,如图4所示,包括摄像头、图像传感器、编码器、加速度传感器和中央处理器CPU。
其中,所述图像传感器用于从摄像头获取视频帧,并发送给CPU;
加速度传感器用于检测所述移动终端的当前运动状态,并发送给CPU;
CPU用于接收所述图像传感器发送的视频帧,以及加速度传感器发送的移动终端当前运动状态,将当前运动状态标识在所述视频帧上,并将携带移动终端的当前运动状态的视频帧发送给编码器;
编码器用于对接收到的视频帧进行编码。
在一个具体的装置实施例中,所述加速度传感器具体用于,按照检测到的加速度所处的门限值区间划分当前运动状态的等级,并发送给所述CPU;
所述编码器具体用于,依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式,并对所述视频帧进行编码,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
基于上面的实施例,本发明提供一种优化的实施例,其中,加速度传感器具体用于,当检测到的加速度小于第一门限值时,当前运动状态为静止;当检测到的加速度大于第三门限值时,当前运动状态为剧烈;
编码器具体用于,当前运动状态为剧烈时,采用I帧的编码方式;所述加速度所处的门限值区间越低,所述视频帧所在的一定长度的帧序列中采用B帧编码方式的视频帧越多。
本发明提供另一带摄像头的移动终端的装置实施例,包括图像传感器、编码器、加速度传感器和中央处理器CPU。其中,
加速度传感器用于以所述图像传感器的最高帧频,检测移动终端的当前运动状态,并将检测到的当前运动状态发送给CPU;
图像传感器用于从摄像头获取视频帧,将获取得视频帧发送给CPU,并接受CPU对自身的帧频调整控制;
CPU用于接收所述加速度传感器发送的移动终端当前运动状态,并根据接收到的当前运动状态,调整图像传感器的帧频;同时接收图像传感器获取的视频帧,按编码器的输出帧频向编码器发送视频帧;
编码器用于对接收到的视频帧进行编码。
另一具体实施例与上述实施例的区别在于,CPU具体用于,接收所述加速度传感器发送的移动终端当前运动状态,并根据接收到的当前运动状态,调整所述图像传感器的帧频;同时接收所述图像传感器获取的视频帧。当图像传感器的当前帧频高于编码器的输出帧频(比如输出帧频为30帧/s,图像传感器当前帧频为45帧/s)时,由于编码器只能以30帧/s的频率输出,所以CPU根据接收到的当前运动状态,判断选择或放弃当前视频帧发送给编码器。在两个相邻的帧之间,由于加速度较低的帧表明当时移动终端的运动状态较另一帧产生时更为平缓,所以CPU将选取加速度较低的帧发送给编码器。
进一步的,编码器具体用于依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对当前视频帧采取的编码方式,编码方式为帧内编码帧I帧、帧间预测编码帧P帧中,以及双向预测编码帧B帧的一种。选取的方案同方法实施例,此处不做赘述。
更优的实施例中,由于终端在Z轴向的运动对于图像的影响小于在X轴和Y轴向上的运动,所以可只考虑X轴和Y轴的运动状态,加速度传感器可以仅为二轴传感器,或当为三轴传感器时,仅考虑终端在X轴和Y轴向上的运动状态。加速度传感器用于检测平行于所述摄像头焦平面的横向和纵向加速度。上述当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间所对应的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间所对应的当前运动状态的等级;或者
横向和纵向加速度的分别所处的各自门限值区间的等级中的更高等级。
采用本发明提供的移动终端,当遇到拍摄过程中的剧烈抖动,或者是快速移动的时候,可以获得更好的图像编码效果,消除大部分的拖影现象。而且,对于目前多数智能手机(移动终端),仅需要更改一部分的软件和固件的初始化参数即可实现,不需要额外添加硬件。
通过以上的实施方式以及实施例的描述,本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一台终端设备执行本发明各个实施例所述的方法。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (14)
1.一种视频处理方法,应用于带摄像头的移动终端,其特征在于,包括:
接收图像传感器获取的视频帧;
接收加速度传感器检测到的所述视频帧获取时所述移动终端的当前运动状态;
将所述当前运动状态标识在所述视频帧上;
将携带所述移动终端的当前运动状态的所述视频帧发送给编码器;
所述编码器依据当前运动状态对收到的所述视频帧进行编码。
2.根据权利要求1所述的方法,其特征在于,所述当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级;
所述编码器依据当前运动状态对收到的视频帧进行编码具体为:依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及所述视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
3.根据权利要求2所述的方法,其特征在于,所述当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级为,当检测到的加速度小于第一门限值时,当前运动状态等级为静止;当检测到的加速度大于第三门限值时,当前运动状态等级为剧烈;
依据所述当前运动状态的等级确定对视频帧采取的编码方式为,当前运动状态为剧烈时,采用I帧的编码方式;根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式为,所述加速度所处的门限值区间越低,所述视频帧所在的一定长度的帧序列中采用B帧编码方式的视频帧越多。
4.根据权利要求2或3所述的方法,其特征在于,当所述加速度传感器检测平行于所述摄像头焦平面的横向和纵向加速度时,所述当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间划分的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间划分当前运动状态的等级;或者
获得横向和纵向加速度的分别所处的各自门限值区间的等级,取其中更高等级做为当前运动状态的等级。
5.一种视频处理方法,应用于带摄像头的移动终端,其特征在于,包括:
使所述加速度传感器以图像传感器的最高帧频,对所述移动终端的当前运动状态进行检测;
接收图像传感器获取的视频帧;
接收加速度传感器检测到的所述移动终端的当前运动状态,并标识在所述视频帧上;
根据所述当前运动状态调整所述图像传感器的帧频;
当所述图像传感器的帧频高于所述编码器的输出帧频时,根据所述当前运动状态,判断选择或放弃当前视频帧发送给所述编码器;
所述编码器对收到的视频帧进行编码。
6.根据权利要求5所述的方法,其特征在于,所述当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级;
所述编码器对收到的视频帧进行编码具体为,依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及所述视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式,并对所述视频帧进行编码,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
7.根据权利要求6所述的方法,其特征在于,当所述加速度传感器检测平行于所述摄像头焦平面的横向和纵向加速度时,所述当前运动状态按检测到的加速度所处的门限值区间划分当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间划分的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间划分当前运动状态的等级;或者
获得横向和纵向加速度的分别所处的各自门限值区间的等级,取其中更高等级做为当前运动状态的等级。
8.一种带摄像头的移动终端,包括图像传感器、编码器、加速度传感器和中央处理器CPU,其特征在于:
所述图像传感器用于从摄像头获取视频帧,并发送给CPU;
所述加速度传感器用于检测所述移动终端的当前运动状态,并发送给所述CPU;
所述CPU用于接收所述图像传感器发送的视频帧,以及加速度传感器发送的移动终端当前运动状态,将所述当前运动状态标识在所述视频帧上,并将携带所述移动终端的当前运动状态的视频帧发送给所述编码器;
所述编码器用于对接收到的视频帧进行编码。
9.根据权利要求8所述的移动终端,其特征在于,
所述加速度传感器具体用于,按照检测到的加速度所处的门限值区间划分当前运动状态的等级,并发送给所述CPU;
所述编码器具体用于,依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对所述视频帧采取的编码方式,并对所述视频帧进行编码,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
10.根据权利要求9所述的移动终端,其特征在于,所述加速度传感器具体用于,当检测到的加速度小于第一门限值时,当前运动状态为静止;当检测到的加速度大于第三门限值时,当前运动状态为剧烈;
所述编码器具体用于,当前运动状态为剧烈时,采用I帧的编码方式;所述加速度所处的门限值区间越低,所述视频帧所在的一定长度的帧序列中采用B帧编码方式的视频帧越多。
11.一种带摄像头的移动终端,包括图像传感器、编码器、加速度传感器和中央处理器CPU,其特征在于:
所述加速度传感器用于,以所述图像传感器的最高帧频,检测所述移动终端的当前运动状态,并将检测到的当前运动状态发送给所述CPU;
所述图像传感器用于从摄像头获取视频帧,将获取得视频帧发送给所述CPU,并接受所述CPU对所述图像传感器的帧频控制;
所述CPU用于接收所述加速度传感器发送的移动终端当前运动状态,并根据接收到的当前运动状态,调整所述图像传感器的帧频;同时接收所述图像传感器获取的视频帧,按所述编码器的输出帧频向所述编码器发送视频帧;
所述编码器用于对接收到的视频帧进行编码。
12.根据权利要求11所述的移动终端,其特征在于,
所述CPU具体用于,接收所述加速度传感器发送的移动终端当前运动状态,并根据接收到的当前运动状态,调整所述图像传感器的帧频;同时接收所述图像传感器获取的视频帧,当所述图像传感器的当前帧频高于所述编码器的输出帧频时,根据接收到的当前运动状态,判断选择或放弃当前视频帧发送给编码器。
13.根据权利要求11或12所述的移动终端,其特征在于,
所述编码器具体用于,依据所述当前运动状态的等级,或者根据所述当前运动状态的等级以及当前视频帧所在的一定长度的帧序列中各视频帧的编码方式,确定对当前视频帧采取的编码方式,所述编码方式为帧内编码帧I帧、帧间预测编码帧P帧或双向预测编码帧B帧。
14.根据权利要求13所述的移动终端,其特征在于,
所述加速度传感器具体用于,检测平行于所述摄像头焦平面的横向和纵向加速度;所述当前运动状态的等级为:
按检测到横向和纵向加速度的更高值所处的门限区间所对应的当前运动状态的等级;
按检测到横向加速度平方与纵向加速度平方之和的开平方根所处的门限区间所对应的当前运动状态的等级;或者
横向和纵向加速度的分别所处的各自门限值区间的等级中的更高等级。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201010617056.3A CN102546917B (zh) | 2010-12-31 | 2010-12-31 | 带摄像头的移动终端及其视频处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201010617056.3A CN102546917B (zh) | 2010-12-31 | 2010-12-31 | 带摄像头的移动终端及其视频处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102546917A true CN102546917A (zh) | 2012-07-04 |
CN102546917B CN102546917B (zh) | 2014-10-22 |
Family
ID=46352856
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201010617056.3A Expired - Fee Related CN102546917B (zh) | 2010-12-31 | 2010-12-31 | 带摄像头的移动终端及其视频处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102546917B (zh) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104285433A (zh) * | 2012-05-11 | 2015-01-14 | 高通股份有限公司 | 用于视频编码的运动传感器辅助的速率控制 |
CN104284007A (zh) * | 2013-07-08 | 2015-01-14 | 腾讯科技(深圳)有限公司 | 闹钟管理方法及移动终端 |
CN104279960A (zh) * | 2014-10-14 | 2015-01-14 | 安徽大学 | 用移动设备进行物体尺寸测量的方法 |
CN104685873A (zh) * | 2012-10-05 | 2015-06-03 | 索尼公司 | 编码控制设备以及编码控制方法 |
WO2016154816A1 (zh) * | 2015-03-27 | 2016-10-06 | 华为技术有限公司 | 数据处理方法及装置 |
CN108737825A (zh) * | 2017-04-13 | 2018-11-02 | 腾讯科技(深圳)有限公司 | 视频数据编码方法、装置、计算机设备和存储介质 |
CN110139141A (zh) * | 2019-04-28 | 2019-08-16 | 腾讯科技(深圳)有限公司 | 视频画面渲染方法、装置、存储介质及电子设备 |
CN110769277A (zh) * | 2019-10-25 | 2020-02-07 | 杭州叙简科技股份有限公司 | 执法记录仪基于加速度传感器的视频编码系统及编码方式 |
CN111641835A (zh) * | 2020-05-19 | 2020-09-08 | Oppo广东移动通信有限公司 | 视频处理方法、视频处理装置和电子设备 |
CN112805990A (zh) * | 2018-11-15 | 2021-05-14 | 深圳市欢太科技有限公司 | 视频处理方法、装置、电子设备及计算机可读存储介质 |
CN113160342A (zh) * | 2021-05-14 | 2021-07-23 | 杭州朗和科技有限公司 | 基于反馈的编码方法及装置、存储介质、电子设备 |
CN115065781A (zh) * | 2022-04-28 | 2022-09-16 | 深圳绿米联创科技有限公司 | 拍摄处理方法、装置、设备和计算机可读存储介质 |
CN117579843A (zh) * | 2024-01-17 | 2024-02-20 | 淘宝(中国)软件有限公司 | 视频编码处理方法及电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1842162A (zh) * | 2005-03-28 | 2006-10-04 | 腾讯科技(深圳)有限公司 | 一种视频编码中的运动图像处理方法 |
CN101472131A (zh) * | 2007-12-28 | 2009-07-01 | 希姆通信息技术(上海)有限公司 | 带有运动感知功能的视频电话及其图像质量增强方法 |
CN101866667A (zh) * | 2010-02-09 | 2010-10-20 | 宇龙计算机通信科技(深圳)有限公司 | 一种音乐播放方法和移动终端 |
JP2010282616A (ja) * | 2010-05-14 | 2010-12-16 | Ricoh Co Ltd | 画像情報処理システム、および画像情報処理方法 |
-
2010
- 2010-12-31 CN CN201010617056.3A patent/CN102546917B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1842162A (zh) * | 2005-03-28 | 2006-10-04 | 腾讯科技(深圳)有限公司 | 一种视频编码中的运动图像处理方法 |
CN101472131A (zh) * | 2007-12-28 | 2009-07-01 | 希姆通信息技术(上海)有限公司 | 带有运动感知功能的视频电话及其图像质量增强方法 |
CN101866667A (zh) * | 2010-02-09 | 2010-10-20 | 宇龙计算机通信科技(深圳)有限公司 | 一种音乐播放方法和移动终端 |
JP2010282616A (ja) * | 2010-05-14 | 2010-12-16 | Ricoh Co Ltd | 画像情報処理システム、および画像情報処理方法 |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104285433A (zh) * | 2012-05-11 | 2015-01-14 | 高通股份有限公司 | 用于视频编码的运动传感器辅助的速率控制 |
CN104285433B (zh) * | 2012-05-11 | 2018-04-20 | 高通股份有限公司 | 用于视频编码的运动传感器辅助的速率控制 |
CN104685873A (zh) * | 2012-10-05 | 2015-06-03 | 索尼公司 | 编码控制设备以及编码控制方法 |
CN104284007A (zh) * | 2013-07-08 | 2015-01-14 | 腾讯科技(深圳)有限公司 | 闹钟管理方法及移动终端 |
CN104284007B (zh) * | 2013-07-08 | 2019-11-26 | 腾讯科技(深圳)有限公司 | 闹钟管理方法及移动终端 |
CN104279960B (zh) * | 2014-10-14 | 2017-01-25 | 安徽大学 | 用移动设备进行物体尺寸测量的方法 |
CN104279960A (zh) * | 2014-10-14 | 2015-01-14 | 安徽大学 | 用移动设备进行物体尺寸测量的方法 |
RU2662648C1 (ru) * | 2015-03-27 | 2018-07-26 | Хуавей Текнолоджиз Ко., Лтд. | Способ и устройство для обработки данных |
WO2016154816A1 (zh) * | 2015-03-27 | 2016-10-06 | 华为技术有限公司 | 数据处理方法及装置 |
CN108737825A (zh) * | 2017-04-13 | 2018-11-02 | 腾讯科技(深圳)有限公司 | 视频数据编码方法、装置、计算机设备和存储介质 |
CN108737825B (zh) * | 2017-04-13 | 2023-05-02 | 腾讯科技(深圳)有限公司 | 视频数据编码方法、装置、计算机设备和存储介质 |
CN112805990A (zh) * | 2018-11-15 | 2021-05-14 | 深圳市欢太科技有限公司 | 视频处理方法、装置、电子设备及计算机可读存储介质 |
CN110139141B (zh) * | 2019-04-28 | 2021-10-15 | 腾讯科技(深圳)有限公司 | 视频画面渲染方法、装置、存储介质及电子设备 |
CN110139141A (zh) * | 2019-04-28 | 2019-08-16 | 腾讯科技(深圳)有限公司 | 视频画面渲染方法、装置、存储介质及电子设备 |
CN110769277A (zh) * | 2019-10-25 | 2020-02-07 | 杭州叙简科技股份有限公司 | 执法记录仪基于加速度传感器的视频编码系统及编码方式 |
CN111641835B (zh) * | 2020-05-19 | 2023-06-02 | Oppo广东移动通信有限公司 | 视频处理方法、视频处理装置和电子设备 |
CN111641835A (zh) * | 2020-05-19 | 2020-09-08 | Oppo广东移动通信有限公司 | 视频处理方法、视频处理装置和电子设备 |
CN113160342A (zh) * | 2021-05-14 | 2021-07-23 | 杭州朗和科技有限公司 | 基于反馈的编码方法及装置、存储介质、电子设备 |
CN113160342B (zh) * | 2021-05-14 | 2023-08-25 | 杭州网易智企科技有限公司 | 基于反馈的编码方法及装置、存储介质、电子设备 |
CN115065781A (zh) * | 2022-04-28 | 2022-09-16 | 深圳绿米联创科技有限公司 | 拍摄处理方法、装置、设备和计算机可读存储介质 |
CN115065781B (zh) * | 2022-04-28 | 2024-04-19 | 深圳绿米联创科技有限公司 | 拍摄处理方法、装置、设备和计算机可读存储介质 |
CN117579843A (zh) * | 2024-01-17 | 2024-02-20 | 淘宝(中国)软件有限公司 | 视频编码处理方法及电子设备 |
CN117579843B (zh) * | 2024-01-17 | 2024-04-02 | 淘宝(中国)软件有限公司 | 视频编码处理方法及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN102546917B (zh) | 2014-10-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102546917B (zh) | 带摄像头的移动终端及其视频处理方法 | |
US10186297B2 (en) | Reference and non-reference video quality evaluation | |
CN103650509B (zh) | 基于照相机和背景运动的参考帧缓冲区的自适应配置 | |
CN108495142B (zh) | 视频编码方法及装置 | |
CN103428460B (zh) | 针对影像撷取模组记录输出视讯序列的录影方法以及录影装置 | |
CN103650504B (zh) | 基于图像捕获参数对视频编码的控制 | |
CN102457675B (zh) | 防止手持式照像设备在拍照时抖动的方法 | |
US20130242120A1 (en) | Motion-state classification for camera applications | |
US10546185B2 (en) | Image processing apparatus for performing image processing according to privacy level | |
US8773542B2 (en) | Apparatus and method for adaptive camera control method based on predicted trajectory | |
US20130021483A1 (en) | Using motion information to assist in image processing | |
JP2018201189A5 (zh) | ||
US9854167B2 (en) | Signal processing device and moving image capturing device | |
US9253402B2 (en) | Video anti-shaking method and video anti-shaking device | |
US20120183055A1 (en) | Temporal Prediction Structure Aware Temporal Filter | |
JP2015501580A (ja) | 受信されたビデオの安定化 | |
JP2009501473A (ja) | モーションブラー効果を除去する方法および装置 | |
US8004597B2 (en) | Focusing control apparatus and method | |
US8194141B2 (en) | Method and apparatus for producing sharp frames with less blur | |
US11810275B2 (en) | Temporal filtering restart for improved scene integrity | |
CN104702964A (zh) | 一种图像处理方法及装置 | |
JP2011244144A (ja) | 撮像装置 | |
US20160088219A1 (en) | Image capture apparatus which controls frame rate based on motion of object, information transmission apparatus, image capture control method, information transmission method, and recording medium | |
CN110351508B (zh) | 基于录像模式的防抖处理方法和装置、电子设备 | |
CN104811601B (zh) | 一种显示预览图像的方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20141022 Termination date: 20191231 |