CN110913260B - 显示控制方法、显示控制装置和电子设备 - Google Patents

显示控制方法、显示控制装置和电子设备 Download PDF

Info

Publication number
CN110913260B
CN110913260B CN201811090235.9A CN201811090235A CN110913260B CN 110913260 B CN110913260 B CN 110913260B CN 201811090235 A CN201811090235 A CN 201811090235A CN 110913260 B CN110913260 B CN 110913260B
Authority
CN
China
Prior art keywords
image frames
image
video
display control
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811090235.9A
Other languages
English (en)
Other versions
CN110913260A (zh
Inventor
江文斐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Youku Culture Technology Beijing Co ltd
Original Assignee
Alibaba China Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba China Co Ltd filed Critical Alibaba China Co Ltd
Priority to CN201811090235.9A priority Critical patent/CN110913260B/zh
Publication of CN110913260A publication Critical patent/CN110913260A/zh
Application granted granted Critical
Publication of CN110913260B publication Critical patent/CN110913260B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

本申请涉及一种显示控制方法、显示控制装置和电子设备。该方法包括:获取视频中连续的至少两个图像帧;对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及,响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。这样,可以在不浪费系统资源的情况下改善用户对视频的观看体验。

Description

显示控制方法、显示控制装置和电子设备
技术领域
本申请总的来说涉及图像显示技术领域,且更为具体地,涉及一种显示控制方法、显示控制装置和电子设备。
背景技术
目前的显示设备通常采用固定帧率,例如PAL制式的电视的帧率为25fps(每秒显示帧数Frame Per Second),而NTSC格式的电视的帧率为30fps。
随着用户对于观看体验的要求不断提高,越来越多的显示设备采用更高的帧率。通常,更高的帧率可以带来更流畅、更逼真的运动图像。一般来说,30fps是可以接受的,但是将性能提升至60fps则可以明显提升交互感和逼真感。并且,为了提高帧率从而提升视频的观看体验,可以采用图像插帧技术。
但是,针对不同场景,实际上用户的观看感受并不相同,因此,期望提供能够动态地适应用户的观看感受的显示控制方法。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种显示控制方法、显示控制装置和电子设备,其能够根据视频的连续图像帧中的至少一部分图像的一致性运动状态来进行插帧操作,从而在不浪费系统资源的情况下改善用户对视频的观看体验。
根据本申请的一方面,提供了一种显示控制方法,包括:获取视频中连续的至少两个图像帧;对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及,响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。
在上述显示控制方法中,所述图像的至少一部分的一致性运动状态对应于以下的至少其中之一:所述图像的所有部分处于平移状态;所述图像的所有部分处于缩放状态;以及,所述图像内的物体处于运动状态。
在上述显示控制方法中,所述物体处于运动状态包括以下的至少其中之一:所述物体的大小与所述图像帧的总面积之间的比率大于预定尺寸阈值且所述物体处于运动状态;以及,所述物体的运动速度大于预定速度阈值且所述物体处于运动状态。
在上述显示控制方法中,所述物体处于的运动状态包括平移运动状态和旋转运动状态中的至少一个。
在上述显示控制方法中,对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态包括:计算所述至少两个图像帧的光流场;以及,基于所述至少两个图像帧的光流场的一致性确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。
在上述显示控制方法中,进一步包括:响应于图像的至少一部分不处于一致性运动状态,确定所述视频是否设置为固定帧率;响应于所述视频未设置为固定帧率,针对所述至少两个图像帧不插入新图像帧;以及,响应于所述视频设置为固定帧率,针对所述至少两个图像帧插入复制所述至少两个图像帧之一所获得的图像帧。
在上述显示控制方法中,进一步包括:通过帧差法确定所述视频中的多个图像帧之间的差异是否小于预定阈值;以及,响应于所述差异小于预定阈值,对所述多个图像帧进行减帧操作。
在上述显示控制方法中,响应于所述差异小于预定阈值对所述多个图像帧进行减帧操作包括:确定所述视频是否设置为固定帧率;响应于所述视频未设置为固定帧率,删除所述多个图像帧中的一个或多个图像帧;以及,响应于所述视频设置为固定帧率,复制所述多个图像帧中的一个或多个图像帧以替换所述多个图像帧中的其余图像帧。
根据本申请的另一方面,提供了一种显示控制装置,包括:获取单元,用于获取视频中连续的至少两个图像帧;分析单元,用于对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及,插帧单元,用于响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。
在上述显示控制装置中,所述图像的至少一部分的一致性运动状态对应于以下的至少其中之一:所述图像的所有部分处于平移状态;所述图像的所有部分处于缩放状态;以及,所述图像内的物体处于运动状态。
在上述显示控制装置中,所述物体处于运动状态包括以下的至少其中之一:所述物体的大小与所述图像帧的总面积之间的比率大于预定尺寸阈值且所述物体处于运动状态;以及,所述物体的运动速度大于预定速度阈值且所述物体处于运动状态。
在上述显示控制装置中,所述物体处于的运动状态包括平移运动状态和旋转运动状态中的至少一个。
在上述显示控制装置中,所述分析单元用于:计算所述至少两个图像帧的光流场;以及,基于所述至少两个图像帧的光流场的一致性确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。
在上述显示控制装置中,进一步包括:判定单元,用于响应于图像的至少一部分不处于一致性运动状态,确定所述视频是否设置为固定帧率;所述插帧单元进一步用于响应于所述视频未设置为固定帧率,针对所述至少两个图像帧不插入新图像帧,以及响应于所述视频设置为固定帧率,针对所述至少两个图像帧插入复制所述至少两个图像帧之一所获得的图像帧。
在上述显示控制装置中,进一步包括:判定单元,用于通过帧差法确定所述视频中的多个图像帧之间的差异是否小于预定阈值;以及,减帧单元,用于响应于所述差异小于预定阈值,对所述多个图像帧进行减帧操作。
在上述显示控制装置中,所述减帧单元响应于所述差异小于预定阈值对所述多个图像帧进行减帧操作包括:确定所述视频是否设置为固定帧率;响应于所述视频未设置为固定帧率,删除所述多个图像帧中的一个或多个图像帧;以及,响应于所述视频设置为固定帧率,复制所述多个图像帧中的一个或多个图像帧以替换所述多个图像帧中的其余图像帧。
根据本申请的再一方面,提供了一种电子设备,包括:处理器;以及,存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如上所述的显示控制方法。
根据本申请的又一方面,提供了一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行如上所述的显示控制方法。
本申请提供的显示控制方法、显示控制装置和电子设备,其根据视频的连续图像帧中的至少一部分图像的一致性运动状态来进行插帧操作,从而在不浪费系统资源的情况下改善用户对视频的观看体验。
附图说明
通过阅读下文优选的具体实施方式中的详细描述,本申请各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。说明书附图仅用于示出优选实施方式的目的,而并不认为是对本申请的限制。显而易见地,下面描述的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。而且在整个附图中,用相同的附图标记表示相同的部件。
图1图示了根据本申请实施例的显示控制方法的流程图。
图2图示了根据本申请实施例的一致性运动状态的第一示例的示意图。
图3图示了根据本申请实施例的一致性运动状态的第二示例的示意图。
图4图示了根据本申请实施例的一致性运动状态的第三示例的示意图。
图5图示了根据本申请实施例的插帧操作的示例的示意图。
图6图示了根据本申请实施例的显示控制装置的框图;
图7图示了根据本申请实施例的电子设备的框图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
如上所述,针对不同场景,用户的实际观看感受并不相同。例如,针对在高清晰度显示设备上显示的高清画面,如果画面处于快速运动状态下,如果采用正常帧率,则用户可能会感到画面存在卡顿。但是,如果对于整个视频都采用更高帧率,由于人眼本身的限制,即使帧率提高也无法继续感到视频流畅度的提高,而造成系统资源的浪费。
针对上述技术问题,本申请的基本构思是判断视频的连续图像帧中是否存在图像的至少一部分处于一致性运动状态,由于这种状态会造成用户在观看视频时感到画面卡顿,因此只有在判定此状态下进行插入新图像帧的操作,从而兼顾用户的观看体验和系统资源。
具体地,本申请提供了一种显示控制方法,显示控制装置和电子设备,其首先获取视频中连续的至少两个图像帧,然后对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态,最后响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。这样,可以在用户对视频的观看感到不流畅的情况下进行插帧操作从而提高视频观看的流畅度,改善用户体验。同时,又不会在不必要的情况下提高视频的帧率,而不会造成系统资源的浪费。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图1图示了根据本申请实施例的显示控制方法的流程图。
如图1所示,根据本申请实施例的显示控制方法包括:S110,获取视频中连续的至少两个图像帧;S120,对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及S130,响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。
在步骤S110中,获取视频中连续的至少两个图像帧。这里,本领域技术人员可以理解,所获取的视频中的连续图像帧的数目可以取决于下面所述的图像分析方法的需要,也可能是三个或者三个以上的连续图像帧。
在步骤S120中,对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。如上所述,为了确定所述视频的播放是否会给用户带来不流畅的观看感觉,需要对所述图像帧的显示内容的状态进行分析。以下,将具体说明会给用户带来不流畅的观看感觉的几种典型示例。
图2图示了根据本申请实施例的一致性运动状态的第一示例的示意图。如图2所示,通过分析前后的两个图像帧F1和F2,确定图像帧中的所有部分,均处于向某一方向平移的运动状态,即图中所示的向左运动状态。在这种状态下,由于在用户看来,图像内的所有显示内容,即图中所示的P1、P2、P3、P4、P5和P6均处于向同一方向的运动状态,如果帧率过低,前后两帧图像中相同显示内容的位置(P1到P1’,P2到P2’,P3到P3’,P4到P4’,P5到P5’和P6到P6’)将发生明显差异,从而带给用户不流畅的观看感觉。
因此,在如图2所示的第一示例中,判定所述至少两个连续图像帧中的图像处于一致性运动状态。并且,这种图像帧中的图像的一致性运动状态是由拍摄所述视频的图像采集设备的平移运动引起的。本领域技术人员可以理解,虽然在图2中示出图像内的所有显示内容向左移动,图像内的显示内容可以向任意方向移动,例如,向右移动、向下移动、沿对角线方向移动等,而相对应的图像采集设备的运动方向与显示内容的运动方向相反。
另外,在本申请实施例中,在确定图像内的显示内容向某方向移动的情况下,可以进一步确定连续两帧图像之间显示内容的位置差异。也就是说,如果连续两帧图像之间显示内容的位置差异小于某个阈值,可以认为显示内容基本上处于静止状态,或者移动程度并不足以让用户在帧间时间内察觉到,因此可以判定两个连续图像帧并不处于一致性运动状态。这样,可以避免在不必要的情况下进行插帧操作,导致系统资源的浪费。
图3图示了根据本申请实施例的一致性运动状态的第二示例的示意图。如图3所示,通过分析前后的两个图像帧F1和F2,确定图像帧中的所有部分均处于由中心向四周的运动状态,并且,随着显示内容由中心向四周运动,其大小也会由小变大。即,如图3所示,显示内容P1到P8分别由中心向四周运动且放大显示为P1’到P8’。或者,虽然图3没有示出,所述图像帧中的所有部分也可以处于由四周向中心的运动状态,且显示内容随着运动由大变小。因此,在这种状态下,如果帧率过低,前后两帧图像中相同显示内容的位置和大小都将发生明显差异,从而带给用户不流畅的观看感觉。
因此,在如图3所示的第二示例中,判定所述至少两个连续图像帧中的图像处于一致性运动状态。并且,这种图像帧中的图像的一致性运动状态是由拍摄所述视频的图像采集设备的缩放操作引起的。也就是说,在图像采集设备放大显示图像时,会导致如图3所示的图像帧中的所有部分由中心向四周运动且尺寸变大的状态。并且相反地,在图像采集设备缩小显示图像时,会导致图像帧中的所有部分由四周向中心运动且尺寸变小的状态。
另外,在本申请实施例中,在确定图像内的显示内容由中心向四周或者由四周向中心运动的情况下,可以进一步确定连续两帧图像之间显示内容的位置差异或者大小差异。也就是说,如果连续两帧图像之间显示内容的位置差异或者大小差异小于某个阈值,可以认为显示内容基本上处于静止状态,或者移动程度并不足以让用户在帧间时间内察觉到,因此可以判定两个连续图像帧并不处于一致性运动状态。这样,可以避免在不必要的情况下进行插帧操作,导致系统资源的浪费。
图4图示了根据本申请实施例的一致性运动状态的第三示例的示意图。如图4所示,通过分析前后的两个图像帧F1和F2,确定图像帧中的至少一部分,即图像中所包含的物体处于运动状态。具体地,在所拍摄的视频中包含运动物体的情况下,运动物体,例如图4中的机动车P在连续两个图像帧中的位置会由于物体本身的运动状态而发生变化(P到P’)。因此,如果帧率过低,前后两帧图像中运动物体的位置将发生明显差异,从而使得用户感到物体不是在连续运动,而是产生跳跃,这也将带给用户不流畅的观看感觉。
因此,在如图4所示的第三示例中,判定所述至少两个连续图像帧中的图像的一部分处于一致性运动状态。并且,这种图像帧中的图像的一部分的一致性运动状态是由作为所述图像中这部分的显示内容的物体的运动状态引起的。
另外,在本申请实施例中,在确定图像内的物体处于运动状态的情况下,可以进一步确定物体相对于整个图像的面积占比以及物体的运动速度。也就是说,如果物体相对于整个图像的面积占比低于某个阈值,则说明运动物体在图像中不处于主要地位,因此难以获得用户的主要注意力。在这种情况下,即使物体的运动由于帧率过低而产生不连续的感觉,也不容易被用户注意到,因此可以不进行插帧操作。另外,如果物体的运动速度很小,则连续两帧图像之间物体所显示的位置差异将小于预定阈值,可以认为物体基本上处于静止状态,或者移动程度并不足以让用户在帧间时间内察觉到。因此,在运动物体的占比过低或者运动速度过低的情况下,均可以判定两个连续图像帧并不处于一致性运动状态。这样,可以避免在不必要的情况下进行插帧操作,导致系统资源的浪费。
并且,在本申请实施例中,所述物体的运动状态可以包括平移运动和旋转运动。并且,本领域技术人员可以理解,在所述物体的平移运动或者旋转运动状态下,所述物体的至少一部分可能会放大或者缩小。例如,在所述物体处于垂直于显示屏幕的运动方向时,所述物体的运动会导致所述物体放大或者缩小。
因此,在根据本申请实施例的显示控制方法中,所述图像的至少一部分的一致性运动状态对应于以下的至少其中之一:所述图像的所有部分处于平移状态;所述图像的所有部分处于缩放状态;以及,所述图像内的物体处于运动状态。
并且,在上述显示控制方法中,所述物体处于运动状态包括以下的至少其中之一:所述物体的大小与所述图像帧的总面积之间的比率大于预定尺寸阈值且所述物体处于运动状态;以及所述物体的运动速度大于预定速度阈值且所述物体处于运动状态。
此外,在上述显示控制方法中,所述物体处于的运动状态包括平移运动状态和旋转运动状态中的至少一个。
另外,在根据本申请实施例的显示控制方法中,可以采用各种运动估计方法来分析图像帧,以确定所述图像的至少一部分是否处于一致性运动状态。在一个示例中,可以采用光流场来进行运动判定。具体地,首先计算所述至少两个图像帧的光流场,然后基于所述至少两个图像帧的光流场的一致性来确定所述图像的至少一部分是否处于一致性运动状态。
因此,在根据本申请实施例的显示控制方法中,对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态包括:计算所述至少两个图像帧的光流场;以及,基于所述至少两个图像帧的光流场的一致性确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。
在步骤S130中,响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。也就是,如果由于两帧图像的显示内容存在一致性运动的情况,则通过插帧操作来降低相邻两帧的图像之间的差异度,从而减少甚至消除用户体验的不流畅的观感。这里,可以采用多种方式来获得新图像帧,例如,可以通过对所述至少两个图像帧求中值以获得所述新图像帧。
图5图示了根据本申请实施例的插帧操作的示例的示意图。如图5所示,在图4所示的一致性运动状态的基础上,在图像帧F1和图像帧F2之间插入图像帧F3。且在图像帧F3中,作为运动物体的机动车处于P1和P2之间的位置P3。这样,当用户连续观看图像帧F1、F3和F2时,将减轻由于物体运动所带来的帧间切换的不流畅感觉。
另外,在步骤S130的操作中,除了将新的图像帧插入连续的两个图像帧之间之外,针对实时播放的场景,如果连续的两个图像帧已经播放结束,那么可以在如上所述判定需要进行插帧操作的情况下,在连续的两个图像帧的后一图像帧及其下一图像帧之间插入新的图像帧。也就是说,在本申请实施例中,所执行的插帧操作可以在连续的两个图像帧中的后一图像帧之前或者之后插入新的图像帧,从而分别对应于视频缓存播放和实时播放的不同场景。
另外,如果确定所述至少两个图像帧中所述图像的至少一部分不处于一致性运动状态,也就是说,所述至少两个图像帧中的图像均不处于上述平移状态、缩放状态或者图像中的物体的运动状态,则不需要针对所述至少两个图像帧执行插入新图像帧的操作。
在这种情况下,由于播放设备具有不同的播放设置,有些支持可变帧率播放,而有些仅能支持固定帧率播放。因此,针对支持可变帧率播放的播放设备,可以不插入新图像帧,而是原样地保持所述至少两个图像帧。并且,针对仅支持固定帧率播放的播放设备,由于在所述图像的至少一部分处于一致性运动状态的情况下通过插入新图像帧提高了帧率,所以在不需要插入新图像帧的情况下,也需要插入图像帧以保持提高的帧率。因此,在固定帧率的情况下,可以复制所述至少两个图像帧中的其中一帧,并插入复制的图像帧。
例如,针对两个图像帧F1和F2,可以复制两个图像帧之一,即复制F1或者F2,并在两个图像帧之间插入F1或者F2,从而生成连续图像帧F1、F1、F2或者F1、F2、F2。
也就是,在根据本申请实施例的显示控制方法中,进一步包括:响应于图像的至少一部分不处于一致性运动状态,确定所述视频是否设置为固定帧率;响应于所述视频未设置为固定帧率,针对所述至少两个图像帧不插入新图像帧;以及,响应于所述视频设置为固定帧率,针对所述至少两个图像帧插入复制所述至少两个图像帧之一所获得的图像帧。此外,相对地,在根据本申请实施例的显示控制方法中,可以判定视频的多个图像帧之间的差异,从而确定所述视频中的显示内容是否主要处于静止的状态。在这种静止状态下,可以相应地进行减帧操作,从而节省系统资源。
也就是说,在根据本申请实施例的显示控制方法中,进一步包括:通过帧差法确定所述视频中的多个图像帧之间的差异是否小于预定阈值;以及,响应于所述差异小于预定阈值,对所述多个图像帧进行减帧操作。
具体地,如上所述,由于播放设备具有不同的播放设置,有些支持可变帧率播放,而有些仅能支持固定帧率播放。因此,针对支持可变帧率播放的播放设备,可以直接减少帧率,即,删除多个图像帧中的一个或多个图像帧。例如,在包含三个图像帧F1、F2和F3的情况下,可以直接删除帧F2,从而生成连续图像帧F1和F3。
但是,对于仅支持固定帧率播放的播放设备,无法通过删除图像帧来降低帧率。因此,可以复制所述多个图像帧中的一个或多个图像帧来替代其余的图像帧。例如,在包含三个图像帧F1、F2和F3的情况下,可以将第一帧F1或者第三帧F3复制以替代第二帧F2,从而生成连续图像帧F1、F1、F3或者F1、F3、F3。这样,由于三帧当中有两帧是相同的,也可以节省用于对图像帧解码等所需的系统资源。
因此,在根据本申请实施例的显示控制方法中,响应于所述差异小于预定阈值对所述多个图像帧进行减帧操作包括:确定所述视频是否设置为帧率;响应于所述视频未设置为固定帧率,删除所述多个图像帧中的一个或多个图像帧;以及,响应于所述视频设置为固定帧率,复制所述多个图像帧中的一个或多个图像帧以替换所述多个图像帧中的其余图像帧。
示意性装置
图6图示了根据本申请实施例的显示控制装置的框图。
如图6所示,根据本申请实施例的显示控制装置200包括:获取单元210,用于获取视频中连续的至少两个图像帧;分析单元220,用于对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及,插帧单元230,用于响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作。
在一个示例中,在上述显示控制装置200中,所述图像的至少一部分的一致性运动状态对应于以下的至少其中之一:所述图像的所有部分处于平移状态;所述图像的所有部分处于缩放状态;以及,所述图像内的物体处于运动状态。
在一个示例中,在上述显示控制装置200中,所述物体处于运动状态包括以下的至少其中之一:所述物体的大小与所述图像帧的总面积之间的比率大于预定尺寸阈值且所述物体处于运动状态;以及,所述物体的运动速度大于预定速度阈值且所述物体处于运动状态。
在一个示例中,在上述显示控制装置200中,所述物体处于的运动状态包括平移运动状态和旋转运动状态中的至少一个。
在一个示例中,在上述显示控制装置200中,所述分析单元220用于:计算所述至少两个图像帧的光流场;以及,基于所述至少两个图像帧的光流场的一致性确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。
在一个示例中,在上述显示控制装置200中,进一步包括:判定单元240,用于响应于图像的至少一部分不处于一致性运动状态,确定所述视频是否设置为固定帧率;所述插帧单元230进一步用于响应于所述视频未设置为固定帧率,针对所述至少两个图像帧不插入新图像帧,以及响应于所述视频设置为固定帧率,针对所述至少两个图像帧插入复制所述至少两个图像帧之一所获得的图像帧。在一个示例中,在上述显示控制装置200中,进一步包括:判定单元240,用于通过帧差法确定所述视频中的多个图像帧之间的差异是否小于预定阈值;以及,减帧单元250,用于响应于所述差异小于预定阈值,对所述多个图像帧进行减帧操作。
在一个示例中,在上述显示控制装置200中,所述减帧单元250响应于所述差异小于预定阈值对所述多个图像帧进行减帧操作包括:确定所述视频是否设置为固定帧率;响应于所述视频未设置为固定帧率,删除所述多个图像帧中的一个或多个图像帧;以及,响应于所述视频设置为固定帧率,复制所述多个图像帧中的一个或多个图像帧以替换所述多个图像帧中的其余图像帧。
这里,本领域技术人员可以理解,上述用显示控制装置200中的各个单元和模块的具体功能和操作已经在上面参考图1到图5描述的显示控制方法中详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的显示控制装置200可以实现在各种终端设备中,例如网络视频服务商的服务器,或者用户的安装有视频播放应用的终端设备。在一个示例中,根据本申请实施例的装置200可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如,该装置200可以是该终端设备的操作系统中的一个软件模块,或者可以是针对于该终端证设备所开发的一个应用程序;当然,该装置200同样可以是该终端设备的众多硬件模块之一。
替换地,在另一示例中,该显示控制装置200与该终端设备也可以是分立的设备,并且该装置200可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
示例性电子设备
下面,参考图7来描述根据本申请实施例的电子设备。
图7图示了根据本申请实施例的电子设备的框图。
如图7所示,电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的各个实施例的显示控制方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如图像的一致性运动状态数据,要执行插帧操作的图像帧等数据。
在一个示例中,电子设备10还可以包括:输入装置13和输出装置14,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
例如,该输入装置13可以包括键盘、鼠标等。
该输出装置14可以用于向用户播放执行了插帧操作的视频,例如是显示器。该输出设备14还可以包括例如扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图7中仅示出了该电子设备10中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的显示控制方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的显示控制方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (15)

1.一种显示控制方法,包括:
获取视频中连续的至少两个图像帧;
对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及
响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作;
响应于图像的至少一部分不处于一致性运动状态,确定所述视频是否设置为固定帧率;
响应于所述视频未设置为固定帧率,针对所述至少两个图像帧不插入新图像帧;以及
响应于所述视频设置为固定帧率,在所述视频已插入新图像帧的情况下,针对所述至少两个图像帧插入复制所述至少两个图像帧之一所获得的图像帧;
其中,所述至少两个图像帧中图像的至少一部分不处于一致性运动状态表征所述至少两个图像帧中的图像均不处于所述一致性运动状态。
2.根据权利要求1所述的显示控制方法,其中,所述图像的至少一部分的一致性运动状态对应于以下的至少其中之一:
所述图像的所有部分处于平移状态;
所述图像的所有部分处于缩放状态;以及
所述图像内的物体处于运动状态。
3.根据权利要求2所述的显示控制方法,其中,所述物体处于运动状态包括以下的至少其中之一:
所述物体的大小与所述图像帧的总面积之间的比率大于预定尺寸阈值且所述物体处于运动状态;以及,
所述物体的运动速度大于预定速度阈值且所述物体处于运动状态。
4.根据权利要求2所述的显示控制方法,其中,所述物体处于的运动状态包括平移运动状态和旋转运动状态中的至少一个。
5.根据权利要求1所述的显示控制方法,其中,对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态包括:
计算所述至少两个图像帧的光流场;以及
基于所述至少两个图像帧的光流场的一致性确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。
6.根据权利要求1所述的显示控制方法,进一步包括:
通过帧差法确定所述视频中的多个图像帧之间的差异是否小于预定阈值;以及
响应于所述差异小于预定阈值,对所述多个图像帧进行减帧操作。
7.根据权利要求6所述的显示控制方法,其中,响应于所述差异小于预定阈值对所述多个图像帧进行减帧操作包括:
确定所述视频是否设置为固定帧率;
响应于所述视频未设置为固定帧率,删除所述多个图像帧中的一个或多个图像帧;以及
响应于所述视频设置为固定帧率,复制所述多个图像帧中的一个或多个图像帧以替换所述多个图像帧中的其余图像帧。
8.一种显示控制装置,包括:
获取单元,用于获取视频中连续的至少两个图像帧;
分析单元,用于对所述至少两个图像帧进行分析以确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态;以及
插帧单元,用于响应于图像的至少一部分处于一致性运动状态,针对所述至少两个图像帧执行插入新图像帧的操作;
判定单元,用于响应于图像的至少一部分不处于一致性运动状态,确定所述视频是否设置为固定帧率;
所述插帧单元进一步用于响应于所述视频未设置为固定帧率,针对所述至少两个图像帧不插入新图像帧,以及响应于所述视频设置为固定帧率,在所述视频已插入新图像帧的情况下,针对所述至少两个图像帧插入复制所述至少两个图像帧之一所获得的图像帧;
其中,所述至少两个图像帧中图像的至少一部分不处于一致性运动状态表征所述至少两个图像帧中的图像均不处于所述一致性运动状态。
9.根据权利要求8所述的显示控制装置,其中,所述图像的至少一部分的一致性运动状态对应于以下的至少其中之一:
所述图像的所有部分处于平移状态;
所述图像的所有部分处于缩放状态;以及
所述图像内的物体处于运动状态。
10.根据权利要求9所述的显示控制装置,其中,所述物体处于运动状态包括以下的至少其中之一:
所述物体的大小与所述图像帧的总面积之间的比率大于预定尺寸阈值且所述物体处于运动状态;以及,
所述物体的运动速度大于预定速度阈值且所述物体处于运动状态。
11.根据权利要求9所述的显示控制装置,其中,所述物体处于的运动状态包括平移运动状态和旋转运动状态中的至少一个。
12.根据权利要求8所述的显示控制装置,其中,所述分析单元用于:
计算所述至少两个图像帧的光流场;以及
基于所述至少两个图像帧的光流场的一致性确定所述至少两个图像帧中图像的至少一部分是否处于一致性运动状态。
13.根据权利要求8所述的显示控制装置,进一步包括:
判定单元,用于通过帧差法确定所述视频中的多个图像帧之间的差异是否小于预定阈值;以及
减帧单元,用于响应于所述差异小于预定阈值,对所述多个图像帧进行减帧操作。
14.根据权利要求13所述的显示控制装置,其中,所述减帧单元响应于所述差异小于预定阈值对所述多个图像帧进行减帧操作包括:
确定所述视频是否设置为固定帧率;
响应于所述视频未设置为固定帧率,删除所述多个图像帧中的一个或多个图像帧;以及
响应于所述视频设置为固定帧率,复制所述多个图像帧中的一个或多个图像帧以替换所述多个图像帧中的其余图像帧。
15.一种电子设备,包括:
处理器;以及
存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-7中任一项所述的显示控制方法。
CN201811090235.9A 2018-09-18 2018-09-18 显示控制方法、显示控制装置和电子设备 Active CN110913260B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811090235.9A CN110913260B (zh) 2018-09-18 2018-09-18 显示控制方法、显示控制装置和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811090235.9A CN110913260B (zh) 2018-09-18 2018-09-18 显示控制方法、显示控制装置和电子设备

Publications (2)

Publication Number Publication Date
CN110913260A CN110913260A (zh) 2020-03-24
CN110913260B true CN110913260B (zh) 2023-07-14

Family

ID=69813051

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811090235.9A Active CN110913260B (zh) 2018-09-18 2018-09-18 显示控制方法、显示控制装置和电子设备

Country Status (1)

Country Link
CN (1) CN110913260B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111447488B (zh) * 2020-04-01 2022-08-26 青岛海信传媒网络技术有限公司 一种memc控制方法及显示设备
CN112565868B (zh) * 2020-12-04 2022-12-06 维沃移动通信有限公司 视频播放方法、装置及电子设备
CN112822511A (zh) * 2020-12-31 2021-05-18 深圳康佳电子科技有限公司 视频处理方法、系统、智能终端及计算机可读存储介质
CN113225546A (zh) * 2021-04-25 2021-08-06 Oppo广东移动通信有限公司 色温调整方法及装置、电子设备、计算机可读存储介质
CN114285959A (zh) * 2021-12-28 2022-04-05 维沃移动通信有限公司 图像处理电路、方法、装置、电子设备及芯片

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005311699A (ja) * 2004-04-21 2005-11-04 Fuji Photo Film Co Ltd 撮像装置、および表示制御方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101415101A (zh) * 2007-10-19 2009-04-22 青岛海信电器股份有限公司 一种倍频方法及实现倍频的装置
CN101420606A (zh) * 2007-10-23 2009-04-29 青岛海信电器股份有限公司 图像处理方法和装置
CN102970509B (zh) * 2011-08-29 2015-11-25 晨星软件研发(深圳)有限公司 图帧速率转换的方法及影像处理装置
CN102378010A (zh) * 2011-11-15 2012-03-14 无锡港湾网络科技有限公司 一种视频数据还原的插帧方法
US20140002732A1 (en) * 2012-06-29 2014-01-02 Marat R. Gilmutdinov Method and system for temporal frame interpolation with static regions excluding
US9973707B2 (en) * 2015-07-28 2018-05-15 Mediatek Inc. Image processing method and apparatus and system for dynamically adjusting frame rate
CN106210767B (zh) * 2016-08-11 2020-01-07 上海交通大学 一种智能提升运动流畅性的视频帧率上变换方法及系统
CN108347563B (zh) * 2018-02-07 2020-12-22 Oppo广东移动通信有限公司 视频处理方法和装置、电子设备、计算机可读存储介质

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005311699A (ja) * 2004-04-21 2005-11-04 Fuji Photo Film Co Ltd 撮像装置、および表示制御方法

Also Published As

Publication number Publication date
CN110913260A (zh) 2020-03-24

Similar Documents

Publication Publication Date Title
CN110913260B (zh) 显示控制方法、显示控制装置和电子设备
US9681201B2 (en) Comment information generating apparatus and comment information generating method
CN111583886A (zh) 一种屏幕刷新率的调整方法、装置、设备及介质
JP5068440B2 (ja) ステップ画像を用いた画像ベースビデオの生成
WO2015070694A1 (zh) 屏幕拼接系统和视频数据流的处理方法
CN105979339B (zh) 一种窗口显示方法及客户端
JP2010503006A5 (zh)
JP2010503006A (ja) 適応的なビデオ呈示のための方法および装置
WO2007120337A2 (en) Selecting key frames from video frames
US9055272B2 (en) Moving image reproduction apparatus, information processing apparatus, and moving image reproduction method
CN111246270B (zh) 一种显示弹幕的方法、装置、设备和存储介质
CN113010075B (zh) 多信号源窗口交互方法、系统、可读存储介质和电子设备
JP2018521550A (ja) ビデオを再生するための方法、クライアント及びコンピュータ記憶媒体
CN113225585B (zh) 一种视频清晰度的切换方法、装置、电子设备以及存储介质
JP2022145503A (ja) ライブ配信情報処理方法、装置、電子デバイス、記憶媒体及びプログラム
CN113286181A (zh) 数据展示方法及装置
CN113891136A (zh) 一种视频播放方法、装置、电子设备和存储介质
CN114222147B (zh) 直播布局调整方法、装置、存储介质及计算机设备
CN111506241A (zh) 直播间的特效显示方法、装置、电子设备及计算机介质
KR20140133096A (ko) 가상화 웹 iptv 및 이를 이용한 동영상 스트리밍 방법
CN109859328B (zh) 一种场景切换方法、装置、设备和介质
CN108933769B (zh) 流媒体截图系统、方法及装置
CN115484490A (zh) 一种视频处理方法、装置、设备及存储介质
CN111045576A (zh) 显示控制方法、显示控制装置、终端设备和电子设备
CN112711459B (zh) 多媒体数据处理方法、装置、设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
TA01 Transfer of patent application right

Effective date of registration: 20200518

Address after: 310052 room 508, floor 5, building 4, No. 699, Wangshang Road, Changhe street, Binjiang District, Hangzhou City, Zhejiang Province

Applicant after: Alibaba (China) Co.,Ltd.

Address before: 100080 Beijing Haidian District city Haidian street A Sinosteel International Plaza No. 8 block 5 layer A, C

Applicant before: Youku network technology (Beijing) Co.,Ltd.

TA01 Transfer of patent application right
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20240624

Address after: 101400 Room 201, 9 Fengxiang East Street, Yangsong Town, Huairou District, Beijing

Patentee after: Youku Culture Technology (Beijing) Co.,Ltd.

Country or region after: China

Address before: 310052 room 508, 5th floor, building 4, No. 699 Wangshang Road, Changhe street, Binjiang District, Hangzhou City, Zhejiang Province

Patentee before: Alibaba (China) Co.,Ltd.

Country or region before: China

TR01 Transfer of patent right