CN112422873A - 插帧方法、装置、电子设备及存储介质 - Google Patents

插帧方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN112422873A
CN112422873A CN202011378998.0A CN202011378998A CN112422873A CN 112422873 A CN112422873 A CN 112422873A CN 202011378998 A CN202011378998 A CN 202011378998A CN 112422873 A CN112422873 A CN 112422873A
Authority
CN
China
Prior art keywords
frame
image frame
target image
intermediate insertion
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011378998.0A
Other languages
English (en)
Other versions
CN112422873B (zh
Inventor
王凯帆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oppo Chongqing Intelligent Technology Co Ltd
Original Assignee
Oppo Chongqing Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oppo Chongqing Intelligent Technology Co Ltd filed Critical Oppo Chongqing Intelligent Technology Co Ltd
Priority to CN202011378998.0A priority Critical patent/CN112422873B/zh
Publication of CN112422873A publication Critical patent/CN112422873A/zh
Application granted granted Critical
Publication of CN112422873B publication Critical patent/CN112422873B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Television Systems (AREA)

Abstract

本申请公开了一种插帧方法、装置、电子设备及存储介质,该插帧方法可以应用于电子设备,该插帧方法包括:在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧;对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧;根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧生成第二中间插入帧;将第二中间插入帧作为新的第一中间插入帧并存放至第一缓存区。通过采用上述方法提高了帧率的稳定性,进而提高了图像帧显示的流畅度和丝滑度。

Description

插帧方法、装置、电子设备及存储介质
技术领域
本申请涉及电子设备技术领域,更具体地,涉及一种插帧方法、装置、电子设备及存储介质。
背景技术
随着高刷新率设备的普及,人们对显示的流畅度和丝滑度要求越来越高,但一般来讲,视频和电影等每秒钟24帧即可满足人眼看到连续画面的需求,录制过高的帧率既浪费成本又浪费资源,特别对于流媒体,还会浪费网络资源。因此,插帧和补帧的方案应运而生,插帧及补帧的技术方案多应用在电视、电脑以及手机等可以播放视频,电影,动画等设备上,但是,相关技术中存在图像帧显示时帧率不够稳定,从而存在图像帧显示流畅度和丝滑度不高的问题。
发明内容
鉴于上述问题,本申请提出了一种插帧方法、装置、电子设备及存储介质。
第一方面,本申请实施例提供了一种插帧方法,所述方法包括:在缓存队列接收到垂直同步信号,且在接收到所述垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,所述第一缓存区为所述缓存队列中插入的用于存放中间插入帧的缓存区,所述中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧;对所述第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧;根据所述缓存队列的第二缓存区中存储的历史目标图像帧生成第二中间插入帧;将所述第二中间插入帧作为新的第一中间插入帧并存放至所述第一缓存区。
第二方面,本申请实施例提供了一种插帧装置,所述装置包括:第一提取模块、第一渲染模块、第一生成模块以及第一存放模块,其中,直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,所述第一缓存区为所述缓存队列中插入的用于存放中间插入帧的缓存区,所述中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧;第一渲染模块,用于对所述第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧;第一生成模块,用于根据所述缓存队列的第二缓存区中存储的历史目标图像帧生成第二中间插入帧;第一存放模块,用于将所述第二中间插入帧作为新的第一中间插入帧并存放至所述第一缓存区。
第三方面,本申请实施例提供了一种电子设备,包括:一个或多个处理器;存储器;一个或多个应用程序,其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行上述第一方面提供的插帧方法。
第四方面,本申请实施例提供了一种计算机可读取存储介质,所述计算机可读取存储介质中存储有程序代码,所述程序代码可被处理器调用执行上述第一方面提供的插帧方法。
本申请提供的方案,通过在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,可以确认需要插帧,即,需要播放存放于第一缓存区中的第一中间插入帧,并从第一缓存区中提取第一中间插入帧,以及对该第一中间图像帧进行渲染后向显示屏发送渲染后的第一中间图像帧,从而实现在显示屏在发送垂直同步信号之后,即可渲染第一缓存区中缓存的中间插入帧并发送至显示屏以进行播放,此外,通过利用第一缓存区缓存中间插入帧,可以避免中间插入帧占用第二缓存区而引起的卡顿,提高帧率的稳定性,进而提高图像帧显示的流畅度和丝滑度。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了根据本申请一个实施例的插帧方法的流程图。
图2示出了根据本申请一个实施例的插帧方法的另一流程图。
图3示出了本申请实施例提供的一种插帧的时序示意图。
图4示出了本申请实施例提供的一种缓存队列中的图像帧变化视图。
图5示出了本申请实施例提供的一种插帧的另一时序示意图。
图6示出了本申请实施例提供的一种缓存队列中的另一图像帧变化视图。
图7示出了根据本申请另一个实施例的插帧方法的流程图。
图8示出了本申请实施例提供的一种帧率调整界面示意图。
图9示出了根据本申请又一个实施例的插帧方法的流程图。
图10示出了本申请实施例提供的一种插帧的另一时序示意图。
图11示出了本申请实施例提供的一种插帧的又一时序示意图。、
图12示出了根据本申请又一个实施例的插帧装置的连接框图。
图13示出了根据本申请又一个实施例的插帧装置的另一连接框图。
图14是本申请实施例的用于执行根据本申请实施例的插帧方法的电子设备的框图。
图15是本申请实施例的用于保存或者携带实现根据本申请实施例的插帧方法的程序代码的存储单元。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
目前,电子设备(手机、电脑、平板电脑、电视等用于影音播放的播放设备)已经在市面上流行,以电子设备为手机为例,手机在用于打电话的同时,通常可以用来播放视频、短视频、办公以及聊天等。因为功能完备且非常易于携带,因此受到消费者的广泛喜爱。
其中,电子设备包括显示屏和处理器,显示屏用来显示图像和文字等信息,当显示屏为触摸屏时,还用于接收用户的触控操作等;处理器用于运行电子设备的各种应用程序,以实现不同的功能,应当理解,当电子设备在运行应用程序时,通常会加载有操作系统,例如Android操作系统、IOS操作系统、Windows操作系统以及Linux操作系统等操作系统中的一种或者多种。
相关技术中,电子设备通常被用于播放视频图像,或者用于播放游戏过程中的实时画面。当电子设备被用于播放视频时,延迟一帧或多帧用户基本不会有感知,且视频不需要和用户有交互,而电子设备在播放游戏进行中的游戏画面时,由于游戏具有实时和用户交互的特性,因此在发生掉帧,触控延迟,画面延迟,用户很容易有明显感知。且电子设备在播放游戏进行中的游戏画面时,其对应的缓存队列中通常具有3个缓存区,用于缓存相应的程序应用产生的目标图像帧,以及缓存根据目标图像帧生成的中间图像帧。相关技术中,由于游戏应用产生图像帧的速率不稳定,因此在对缓存队列中缓存的中间图像帧或者目标图像帧进行渲染后播放时,存在因帧率不稳定,导致显示的图像帧的流畅度和丝滑度不佳的问题。
针对上述问题,发明人经过长期的研究发现,并提出了本申请实施例提供的插帧方法、装置、电子设备以及存储介质,在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,可以确认需要插帧,并在确认需要插帧时提取第一缓存区中缓存的第一中间插入帧,并对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧,从而实现在显示屏在发送垂直同步信号之后,即可渲染第一缓存区中缓存的中间插入帧并发送至显示屏以进行播放,由于第一缓存区为插入的用于缓存中间插入帧的缓存区,不会影响缓存队列缓存目标应用生成的目标图像帧的效率及稳定性,因此,可以避免目标应用产生目标图像帧时速率不稳定而存在掉帧的情况,从而提高图像帧显示的流畅度和丝滑度。其中,具体的插帧方法在后续的实施例中进行详细的阐述。
请参阅图1,图1示出了本申请一个实施例提供的插帧方法的流程示意图。插帧方法应用在电子设备中的处理器时,可以执行以下步骤:
步骤S110:在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧。
其中,第一缓存区为缓存队列中插入的用于存放中间插入帧的缓存区,中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧。
具体的,当缓存队列在接收到处置同步信号时,处理器会判断缓存队列在接收到垂直同步信号之前预设时长内是否接收到目标应用生成的目标图像帧,并在未接收到该目标图像帧时,执行提取第一缓存区中缓存的第一中间插入帧的步骤。
垂直同步信号为显示屏在屏幕刷新时产生,且显示屏的屏幕刷新频率大于或等于目标应用产生视频帧的效率和用户播放视频时的帧率。
垂直同步又称场同步(Vertical Hold),从CRT显示屏的显示原理来看,单个象素组成了水平扫描线,水平扫描线在垂直方向的堆积形成了完整的画面。显示屏的刷新率受显卡DAC控制,显卡DAC完成一帧的扫描后就会产生一个垂直同步信号。显卡绘制3D图形前会等待垂直同步信号,性能强劲的显卡则会提前完成渲染,并在下个垂直信号之前进行等待。
具体的,在屏幕刷新产生垂直同步信号后,会将垂直同步信号发送至启动的目标应用和该目标应用对应的缓存队列,以使目标应用根据垂直同步信号和该目标应用对应的帧率产生目标图像帧并发送至对应的缓存队列。
其中,将垂直同步信号发送至目标应用和与该目标应用对应的缓存队列的方式可以是将垂直同步信号同时发送至目标应用和该目标应用对应的缓存队列,还可以是间隔设定时长将垂直同步信号发送至目标应用和目标应用对应的缓存队列。当间隔设定时长发送垂直同步信号时,使目标应用相比于对应的缓存队列先于设定时长接收到垂直同步信号。
预设时长可以是预先设置的时长,例如,可以是在目标应用启动是设置的时长,也可以是在目标应用使用过程中设置的时长。其中,该预设时长可以根据最终需要显示的帧率进行设置,即,不同的帧率对应有不同的预设时长。例如,当需要显示的帧率为60帧每秒时,则对应的预设时长可以是16.67毫秒,当需要显示的帧率为120帧每秒时,则对应的预设时长可以是8.33毫秒。
目标应用可以是视频应用软件,如优酷视频、爱奇艺视频、腾讯视频以及乐视视频等应用软件,也可以是游戏应用软件,例如,大型多人在线交互游戏的应用软件,还可以是浏览器或者聊天工具等应用软件。
缓存队列用于缓存中间插入帧和目标应用生成的目标图像帧。在本实施例中,缓存队列包括第一缓存区和第二缓存区。
作为一种方式,第二缓存区为多个,分别用于缓存对应的目标应用生成的目标图像,第一缓存区可以为一个,用于缓存基于目标图像生成的中间插入图像。
步骤S120:对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧。
通过对中间插入帧进行渲染,以使显示屏能够显示渲染后的图像帧。
步骤S130:根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧生成第二中间插入帧。
应当理解,缓存队列中包括的缓存区可以为多个,如16个、32个或64个等。以电子设备为加载有安卓系统为例,加载有安卓系统的电子设备中各目标应用对应的缓存队列中的缓存区的数量可以为16个,上述16个缓存区中的包括3个第二缓存区,且3个第二的缓存区分别用于缓存目标应用生成的目标图像帧。
其中,根据历史目标图像帧和第一中间插入帧生成第二中间插入帧的方式可以有多种。
作为一种方式,可以是,获取预先训练的神经网络模型,将缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧分别输入至预先训练的神经网络模型,得到第二中间插入帧。
作为另一种方式,可以是,根据第一中间图像帧和历史目标图像帧之间的运动向量,获取其中间不规则的运动向量场,对规则运动向量场进行运动补偿,获得第二中间图像帧。
步骤S140:将第二中间插入帧作为新的第一中间插入帧并存放至第一缓存区。
通过将第二中间插入帧作为新的第一中间插入帧,并在后续目标应用在接收到垂直同步信号时,若在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,再次执行上述步骤S110至步骤S130,从而保障了帧率的稳定性,从而提高图像帧显示的流畅度和丝滑度。
本申请实施例提供的一种插帧方法,在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,并对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧,从而实现插帧,且在插帧显示过程中,通过利用缓存队列中插入的第一缓存区缓存中间插入帧,使得缓存队列中第二缓存区均用于缓存目标应用生成的目标图像帧,以确保目标应用生成的目标图像帧均能够被缓存队列缓存,从而避免缓存队列在缓存目标应用生成的图像帧时,由于目标应用产生目标图像帧的速率不均匀,使得缓存队列在一个垂直同步信号周期(相邻两个垂直同步信号接收时间间隔)内接收到两个目标图像帧时,避免相关技术中仅能保存一个目标图像帧而出现丢帧的情况,而无法对丢了的图像帧进行显示而影响流畅度和丝滑度的情况。因此,本申请通过避免出现掉帧的情况,进而提升图像帧显示的流畅度和丝滑度。
具体的,通过采用本申请的插帧方法,可以有效缓解相关技术中由于缓存队列中通常只存在3个缓存区用于缓存对应的目标应用生成的目标图像帧时,由于中间插入帧会占用上述3个缓存区中的一个,且上述的3个帧中还会有一个缓存区用于存储目标应用产生的历史帧,因此只剩下一个缓存区用户缓存目标应用生成的目标图像帧,当目标应用产生帧率较快时,则可能会导致新的目标图像帧不能及时被缓存至缓存队列中出现掉帧的情况,进而提高帧率的稳定性,以及提高图像帧显示的流畅度和丝滑度。
请参阅图2,图2为一种插帧方法的另一流程示意图,该方法包括:
步骤S150:在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长接收到目标图像帧时,提取第二缓存区中缓存的历史目标图像帧。
其中,在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前接收到目标图像帧时,则表征无需显示中间插入帧。缓存队列在接收到目标图像帧时,将目标图像帧缓存于第二缓存区中。
步骤S160:对历史目标图像帧进行渲染后向显示屏发送渲染后的图像帧。
通过对历史目标图像帧进行渲染,以使显示屏能够显示渲染后的图像帧。
步骤S170:根据接收到的目标图像帧和历史目标图像帧生成第三中间插入帧。
其中,根据目标图像帧和历史目标图像帧生成第三中间插入帧的方式可以有多种。
作为一种方式,可以是,获取预先训练的神经网络模型,将接收到的目标图像帧和历史目标图像帧分别输入至预先训练的神经网络模型,得到第三中间插入帧。
作为另一种方式,可以是,根据接收到的目标图像帧和历史目标图像帧之间的运动向量,获取其中间不规则的运动向量场,对规则运动向量场进行运动补偿,获得第三中间图像帧。
步骤S180:丢弃第一缓存区中缓存的第一中间插入帧,并将第三中间插入帧作为新的第一中间插入帧存放至第一缓存区。
通过丢弃第一缓存区中缓存的第一中间插入帧,以确保后续如需显示中间插入帧时显示的中间插入帧与该中间插入帧的上一图像帧之间的差异度较小,从而进一步提高图像帧显示的流畅度和丝滑度。
请结合参阅图3和图4,作为一种方式,用户需要播放的图像帧的帧率为60帧每秒,即对应的预设时长为16.67毫秒。目标应用产生目标图像帧的效率为60帧每秒,即相邻两帧目标图像帧的产生时间间隔为16.67秒。屏幕刷新率为60次每秒,即屏幕刷新的间隔时间为16.67毫秒。显示屏幕在每次屏幕刷新时同时向目标应用和缓存队列发送垂直同步信号,且目标应用在接收到垂直同步信号的时刻与该目标应用将生成的目标图像帧发送至缓存队列的时刻之间的时长小于屏幕刷新的间隔时长。电子设备在执行上述的插帧方法时具体过程如下:
目标应用在首次接收到垂直同步信号(接收到第一个垂直同步信号)时生成第一个目标图像帧F1。由于目标应用是在接收到垂直同步信号后才能生成目标图像帧,因此缓存队列在接收到第一个垂直同步信号时,还未接收到第一个目标图像帧F1,相应的,该缓存队列会在接收到第一个垂直同步信号之后的一段时间内才能接收到该第一个目标图像帧F1,且接收到该第一个目标图像帧F1的时刻应当位于接收到第二个直至同步信号之前。相应的,目标应用在第二次接收到垂直同步信号生成第二个目标图像帧F2,则在缓存队列接收到第三个垂直同步信号之前预设时长内接收到目标应用发送的第二个目标图像帧F2时,提取第二缓存区中存储的历史目标图像帧(第一个目标图像帧F1),将该历史目标图像帧进行渲染,以及依据历史目标图像帧和第二个目标图像帧F2生成第一中间插入帧F1.5,并将第一中间插入帧F1.5保存在第一缓存区中,以及将第二个目标图像帧F2作为新的历史目标图像帧并保存在第二缓存区中,从而使显示屏在进行屏幕刷新产生第四个垂直同步信号时显示渲染的图像帧。
若在目标应用在接收到第三个垂直同步信号时因为网络卡顿等原因,造成未能及时生成新的目标图像帧,使得缓存队列在接收到第四个垂直同步信号之前预设时长内未接收到新的目标图像帧,处理器会在缓存队列接收到第四个垂直同步信号时提取第一缓存区中缓存的第一中间插入帧F1.5,对第一中间插入帧F1.5进行渲染后向显示屏发送渲染后的第一中间插入帧;并根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧F1.5生成第二中间插入帧F1.55;将第二中间插入帧F1.55作为新的第一中间插入帧并存放至第一缓存区。
若目标应用在接收到第四个垂直同步信号时产生第三个目标图像时,缓存队列会在接收到第五个垂直同步信号之前预设时长内接收到第三个目标图像帧F3处理器则提取第二缓存区中缓存的历史目标图像帧(第二个目标图像帧F2)进行渲染后向显示屏发送渲染后的历史目标图像帧并根据第三个目标图像帧F3和历史目标图像帧生成第三中间插入帧F2.5,并丢弃第一缓存区中缓存的第一中间插入帧,并将第三中间插入帧F2.5作为新的第一中间插入帧存放至第一缓存区,显示屏在进行屏幕刷新产生第六个垂直同步信号时显示渲染后历史目标图像帧。
请结合参阅图5和图6,作为一种方式,用户需要播放的图像帧的帧率为120帧每秒,即对应的预设时长为8.33毫秒。目标应用产生目标图像帧的效率为60帧每秒,即相邻两帧目标图像帧的产生时间间隔为16.67秒。屏幕刷新率为120次每秒,即相邻两次刷新时间为8.33毫秒。显示屏幕在每次屏幕刷新时同时向目标应用和缓存队列发送垂直同步信号。电子设备在执行上述的插帧方法时具体过程如下:
目标应用在首次接收到垂直同步信号(第一个垂直同步信号)时生成第一个目标图像帧F1,由于目标应用的产生目标图像帧的效率为60帧每秒,相邻两帧目标图像帧的产生时间间隔为16.67秒,而接收到垂直同步信号的间隔时长为8.335毫秒,因此,目标应用在每间隔一个垂直同步信号才会产生一个目标图像帧,相应的在接收到第二个垂直同步信号时,不会生成目标图像帧,而在接收到第三个垂直同步信号时,会生成第二个目标图像帧F2。缓存队列在接收到第一个垂直同步信号之后接收到第一目标图像帧F1时将其作为历史图像保存在缓存队列的第二缓存区,以及在接收到第三个垂直同步信号之后接收到第二个目标图像帧F2,且在接收到第四个垂直同步信号之前预设时长内接收到该第二个目标图像帧F2,处理器提取第二缓存区中存储的历史目标图像帧(第一个目标图像帧F1),将该历史目标图像帧进行渲染,以及依据历史目标图像帧和第二个目标图像帧F2生成第一中间插入帧F1.5,并将第一中间插入帧F1.5保存在第一缓存区中,以及将第二个目标图像帧F2作为新的历史目标图像帧并保存在第二缓存区中,从而使显示屏在进行屏幕刷新产生第五个垂直同步信号时显示渲染的图像帧。
由于目标应用在接收到第四个垂直同步信号时因不会生成新的目标图像帧,使得缓存队列在接收到第四个垂直同步信号之前预设时长内未接收到新的目标图像帧,处理器会在缓存队列接收到第四个垂直同步信号时提取第一缓存区中缓存的第一中间插入帧F1.5,对第一中间插入帧F1.5进行渲染后向显示屏发送渲染后的第一中间插入帧;并根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧F1.5生成第二中间插入帧F1.55;将第二中间插入帧F1.55作为新的第一中间插入帧并存放至第一缓存区,以使显示屏在进行屏幕刷新产生第五个垂直同步信号时显示渲染后的第一中间插入帧。
当目标应用在接收到第五个垂直同步信号时产生第三个目标图像F3时,缓存队列会在接收到第六个垂直同步信号之前预设时长内接收到第三个目标图像帧F3,处理器则提取第二缓存区中缓存的历史目标图像帧,对历史目标图像帧进行渲染后向显示屏发送渲染后的历史目标图像帧并根据第三个目标图像帧F3和历史目标图像帧生成第三中间插入帧F2.5,丢弃第一缓存区中缓存的第一中间插入帧,并将第三中间插入帧F2.4作为新的第一中间插入帧存放至第一缓存区,显示屏在进行屏幕刷新产生第七个垂直同步信号时显示渲染后历史目标图像帧。
通过采用上述的插帧方法,可以实现使电子设备通过插帧的方式突破游戏帧率限制,对比同等帧率的高帧率游戏,还可以降低功耗,延长游戏时间。
请参阅图7,本申请另一实施例提供了一种插帧方法,该方法可以应用于电子设备中的处理器,方法包括:
步骤S210:响应于帧率调整指令,获取显示屏当前播放的图像帧的属性信息。
其中,上述步骤可以是在接收到用户选取的帧率时生成帧率调整指令,并响应于该帧率调整指令获取显示屏当前播放的图像帧的属性信息。
属性信息可以包括尺寸、透明度以及硬件加速度等参数信息中的一种或多种。
帧率调整指令中还包括目标帧率,其中该目标帧率为最终播放图像帧时的帧率,该目标帧率可以大于或等于当前播放图像帧的帧率,也可以小于当前播放图像帧的帧率。
请结合参阅图8,以目标应用为游戏应用为例,该游戏应用可以具有系统相关游戏管理UI界面,用于针对该游戏应用提供是否开启插帧功能的选项,若用户选择开启,子菜单可以提供目标帧率选项给用户选择,若用户选择目标帧率等于游戏当前设置的帧率,则系统认为用户使用的是补帧功能,若用户选择目标帧率高于游戏当前设置帧率,则认为用户开启的是插帧功能.一种可能的界面如图8所示,但不限于此种方式,也可以支持无极帧率选择,凡能满足设置需求的界面方式都可以。
步骤S220:在根据属性信息确认当前播放的图像帧为目标应用生成的图像帧时,向该当前播放的图像帧对应的缓存队列中分配第一缓存区。
其中,不同的目标应用生成的图像帧的属性信息,电子设备中可以存储有不同的目标应用生成的图像帧对应的属性信息,根据当前播放的图像帧的属性信息以及电子设备中存储的不同的目标应用生成的图像帧对应的属性信息即可判断当前播放的图像帧是否为目标应用生成的图像帧。
上述分配的第一缓存区的数量可以是一个,该第一缓存区用于缓存在视频帧播放过程中产生的中间插入帧。
步骤S230:获取帧率调整指令对应的目标帧率,根据目标帧率得到与该目标帧率对应的帧间隔时长,该帧间隔时长为预设时长。
步骤S230:在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧。
第一缓存区为缓存队列中插入的用于存放中间插入帧的缓存区,中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧;
步骤S240:对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧。
步骤S250:根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧生成第二中间插入帧。
步骤S260:将第二中间插入帧作为新的第一中间插入帧并存放至第一缓存区。
本申请实施例提供的一种插帧方法,方法包括,响应于帧率调整指令,获取显示屏当前播放的图像帧的属性信息,在根据属性信息确认当前播放的图像帧为目标应用生成的图像帧时,向该当前播放的图像帧对应的缓存队列中分配第一缓存区。在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,并对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧,从而实现插帧,且在插帧显示过程中,通过利用缓存队列中插入的第一缓存区缓存中间插入帧,使得缓存队列中第二缓存区均用于缓存目标应用生成的目标图像帧,以确保目标应用生成的目标图像帧均能够被缓存队列缓存,从而避免缓存队列在缓存目标应用生成的图像帧时,由于目标应用产生目标图像帧的速率不均匀,使得缓存队列在一个垂直同步信号周期(相邻两个垂直同步信号接收时间间隔)内接收到两个目标图像帧时,避免相关技术中仅能保存一个目标图像帧而出现丢帧的情况,而无法对丢了的图像帧进行显示而影响流畅度和丝滑度的情况。因此,本申请通过避免出现掉帧的情况,进而提升图像帧显示的流畅度和丝滑度。
请结合参阅图9,本申请又一实施例提供了插帧方法,该方法被电子设备的处理器执行时,实现以下步骤:
步骤S310:获取目标应用在接收到垂直同步信号时生成的目标图像帧,并向缓存队列中发送目标图像帧,其中,垂直同步信号为显示屏在屏幕刷新时生成,且由显示屏间隔设定时长分别发送至目标应用和缓存队列。
其中,显示屏间隔设定时长向目标应用和缓存队列分别发送垂直同步信号时,具体可以是显示屏在屏幕刷新生成一垂直同步信号时,先向目标应用发送该垂直同步信号并在间隔设定时长后向缓存队列发送该垂直同步信号。
步骤S320:获取目标应用在接收到N个历史垂直同步信号时分别对应的第一接收时刻,获取缓存队列在接收到与每个历史垂直同步信号对应历史目标图像帧时的第二接收时刻。
其中,历史目标图像帧为目标应用基于目标历史时刻发送的垂直同步信号生成,N为大于或等于1的自然数。
步骤S330:根据每个历史垂直同步信号对应的第一接收时刻和第二接收时刻调整设定时长。
其中,根据每个历史垂直同步信号对应的第一时刻和第二时刻调整设定时长的方式可以有多种。
作为一种方式,可以是,根据每个历史垂直同步信号对应的第一时刻和第二时刻得到每个历史垂直同步信号对应的接收时延,对N个历史垂直同步信号对应的接收时延求取均值得到平均时延,并根据该平均时延调整设定时长。
其中,根据平均时延调整设定时长的方式可以是:在平均时延大于设定时长时,将平均时延作为设定时长,在平均时延小于设定时长时,将平均时延与设定时长的均值作为设定时长。根据平均时延调整设定时长的方式还可以是:将平均时延与设定时长进行加权求和,并将求和得到的时长作为设定时长。
作为一种方式,可以是,根据每个历史垂直同步信号对应的第一时刻和第二时刻得到每个历史垂直同步信号对应的接收时延,从N个历史垂直同步信号对应的接收时延中选取最大时延,并根据最大时延调整设定时长。
其中,根据最大时延调整设定时长的方式可以是,将最大时延作为设定时长,也可以是,将最大时延与设定时长进行加权求和,并将求和得到的时长作为设定时长。
由于不同的目标应用生成目标图像帧的时间不同,相应的,渲染图像所需的时长也不同,通过采用步骤S130,可以实现依据前N个目标图像帧的生成时间来推断向目标应用和缓存队列发送垂直同步信号延迟时间。
步骤S340:在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧。
第一缓存区为缓存队列中插入的用于存放中间插入帧的缓存区,中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧。
步骤S350:对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧。
步骤S360:根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧生成第二中间插入帧。
步骤S370:将第二中间插入帧作为新的第一中间插入帧并存放至第一缓存区。
请请结合参阅图4和图10,作为一种方式,用户需要播放的图像帧的帧率为60帧每秒,即对应的预设时长为16.67毫秒。目标应用产生目标图像帧的效率为60帧每秒,即相邻两帧目标图像帧的产生时间间隔为16.67秒。屏幕刷新率为60次每秒,即相邻两次刷新时间为16.67毫秒。显示屏幕在每次屏幕刷新时间隔5毫秒向目标应用和缓存队列分别发送垂直同步信号,且在发送相同垂直同步信号时向目标应用发送的时间早于向缓存队列的发送时间,缓存队列在接收到垂直同步信号之前即可接收到目标应用基于该垂直同步信号发送的目标图像帧。电子设备在执行插帧方法时的具体执行过程如下:
目标应用在首次接收到垂直同步信号(接收到第一个垂直同步信号)时生成第一个目标图像帧F1,并向缓存队列发送该第一个目标图像帧F1。由于目标应用是在接收到垂直同步信号后才能生成目标图像帧,且生成目标图像帧的时长少于5毫秒,因此缓存队列在接收到第一个垂直同步信号时,已经接收到了第一个目标图像帧F1,相应的,当目标应用在接收到第二个垂直同步信号生成第二个目标图像帧F2时,缓存队列会在接收到第二个垂直同步信号之前预设时长内接收到目标应用发送的第二个目标图像帧F2,当缓存队列在接收到第二个垂直同步信号F2时,处理器提取第二缓存区中存储的历史目标图像帧(第一个目标图像帧F1),将该历史目标图像帧进行渲染,以及依据历史目标图像帧和第二个目标图像帧F2生成第一中间插入帧F1.5,并将第一中间插入帧F1.5保存在第一缓存区中,以及将第二个目标图像帧F2作为新的历史目标图像帧并保存在第二缓存区中,从而使显示屏在进行屏幕刷新产生第三个垂直同步信号时即可显示渲染的图像帧。
若在目标应用在接收到第三个垂直同步信号时因为网络卡顿等原因,造成未能及时生成新的目标图像帧,使得缓存队列在接收到第三个垂直同步信号之前预设时长内未接收到新的目标图像帧,处理器会在缓存队列接收到第三个垂直同步信号时提取第一缓存区中缓存的第一中间插入帧F1.5,对第一中间插入帧F1.5进行渲染后向显示屏发送渲染后的第一中间插入帧;并根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧F1.5生成第二中间插入帧F1.55;将第二中间插入帧F1.55作为新的第一中间插入帧并存放至第一缓存区,以使显示屏在进行屏幕刷新产生第四个垂直同步信号时显示渲染后的第一中间插入帧,从而实现插帧。
若目标应用在接收到第四个垂直同步信号时生成第三个目标图像F3时,缓存队列会在接收到第四个垂直同步信号之前预设时长内接收到第三个目标图像帧F3,处理器则提取第二缓存区中缓存的历史目标图像帧,对历史目标图像帧进行渲染后向显示屏发送渲染后的历史目标图像帧并根据第三个目标图像帧F3和历史目标图像帧生成第三中间插入帧F2.5;丢弃第一缓存区中缓存的第一中间插入帧,并将第三中间插入帧F2.5作为新的第一中间插入帧存放至第一缓存区,显示屏在进行屏幕刷新产生第五个垂直同步信号时显示渲染后历史目标图像帧。
通过使显示屏幕在每次屏幕刷新时间隔5毫秒向目标应用和缓存队列分别发送垂直同步信号,且在发送相同垂直同步信号时向目标应用发送的时间早于向缓存队列的发送时间,缓存队列在接收到垂直同步信号之前即可接收到目标应用基于该垂直同步信号发送的目标图像帧,以使缓存队列在接收到目标应用发送的目标图像帧即可尽快进行处理,从而减少了图像帧的延迟时长,实现了在在满足掉帧时及时补帧的同时,降低了图像帧的延迟时长,提升了图像帧显示的实时性能。
请结合参阅图6和图11,作为另一种方式,用户需要播放的图像帧的帧率为120帧每秒,即对应的预设时长为8.33毫秒。目标应用产生目标图像帧的效率为60帧每秒,即相邻两帧目标图像帧的产生时间间隔为16.67秒。屏幕刷新率为120次每秒,即相邻两次刷新时间为8.33毫秒。显示屏幕在每次屏幕刷新时间隔5毫秒向目标应用和缓存队列分别发送垂直同步信号,且在发送相同垂直同步信号时向目标应用发送的时间早于向缓存队列的发送时间,缓存队列在接收到垂直同步信号之前即可接收到目标应用基于该垂直同步信号发送的目标图像帧。电子设备在执行上述的插帧方法时具体过程如下:
目标应用在首次接收到垂直同步信号(接收到第一个垂直同步信号)生成第一个目标图像帧F1,并向缓存队列发送该第一个目标图像帧F1,由于目标应用是在接收到垂直同步信号后才能生成目标图像帧,且生成目标图像帧的时长少于5毫秒,因此缓存队列在接收到第一个垂直同步信号时,已经接收到了第一个目标图像帧F1,并存储在第二缓存区中作为历史目标图像帧。此外,由于目标应用的产生目标图像帧的效率为60帧每秒,相邻两帧目标图像帧的产生时间间隔为16.67秒,而接收到垂直同步信号的间隔时长为8.335毫秒,因此,目标应用在每间隔一个垂直同步信号才会产生一个目标图像帧,相应的在接收到第二个垂直同步信号时,不会生成目标图像帧,而在接收到第三个垂直同步信号时,会生成第二个目标图像帧F2。因此缓存队列在接收到第二个垂直同步信号时会继续等待,直至收到第二个目标图像帧F2,且在接收到第三个垂直同步信号之前预设时长内即可接收到目标应用发送的第二个目标图像帧F2,处理器提取第二缓存区中存储的第一个目标图像帧F1,将该第一个目标图像帧F1进行渲染,以及依据第一个目标图像帧F1和第二个目标图像帧F2生成第一中间插入帧F1.5,并将第一中间插入帧F1.5保存在第一缓存区中,以及将第二个目标图像F2帧作为新的历史目标图像帧并保存在第二缓存区中,从而使显示屏在进行屏幕刷新产生第四个垂直同步信号时显示渲染的图像帧。
由于目标应用在接收到第四个垂直同步信号时因不会生成新的目标图像帧,使得缓存队列在接收到第四个垂直同步信号之前预设时长内未接收到新的目标图像帧,处理器会在缓存队列接收到第四个垂直同步信号时提取第一缓存区中缓存的第一中间插入帧F1.5,对第一中间插入帧F1.5进行渲染后向显示屏发送渲染后的第一中间插入帧;并根据缓存队列的第二缓存区中存储的第二个目标图像帧F2和第一中间插入帧F1.5生成第二中间插入帧F1.55;将第二中间插入帧F1.55作为新的第一中间插入帧并存放至第一缓存区,以使显示屏在进行屏幕刷新产生第五个垂直同步信号时显示渲染后的第一中间插入帧。
当目标应用在接收到第五个垂直同步信号时产生第三个目标图像F3时,缓存队列会在接收到第五个垂直同步信号之前预设时长内接收到第三个目标图像帧F3,处理器则提取第二缓存区中缓存的第二个目标图像帧F2,对第二个目标图像帧F2进行渲染后向显示屏发送渲染后的第二个目标图像帧并根据第三个目标图像帧F3和第二个目标图像帧F2生成第三中间插入帧F2.5;丢弃第一缓存区中缓存的第一中间插入帧,并将第三中间插入帧作为新的第一中间插入帧存放至第一缓存区,显示屏在进行屏幕刷新产生第六个垂直同步信号时显示渲染后第二个目标图像帧。
通过使显示屏幕在每次屏幕刷新时间隔5毫秒向目标应用和缓存队列分别发送垂直同步信号,且在发送相同垂直同步信号时向目标应用发送的时间早于向缓存队列的发送时间,缓存队列在接收到垂直同步信号之前即可接收到目标应用基于该垂直同步信号发送的目标图像帧,以使缓存队列在接收到目标应用发送的目标图像帧即可尽快进行处理,从而减少了图像帧的延迟时长,实现了在在满足掉帧时及时补帧的同时,降低了图像帧的延迟时长,提升了图像帧显示的实时性能。综上,本实施例通过添加第一缓冲区,来实现游戏实时的插补帧的同时避免掉帧的情况,并通过将垂直同步信号的延迟发送至缓存队列,有效缓解了渲染后的图像帧显示的延迟,从而减少插补帧对触控带来的延迟影响,使得在用户无感知的状态下保持帧率稳定,及满足用于对高帧率的要求。
本申请实施例提供的一种插帧方法,通过由显示屏间隔设定时长分别发送至目标应用和缓存队列,使目标应用在接收到垂直同步信号时生成目标图像帧,以及使缓存队列接收到垂直同步信号之前预设时长内即可接收到目标应用生成的目标图像帧,进而在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内接收到目标图像帧时,即可提取第二缓存区中缓存的历史目标图像帧,对历史目标图像帧进行渲染后向显示屏发送渲染后的图像帧,以显示渲染后的图像帧时,有效缩短了帧延迟时间,提高了图像帧显示的实时性。从而有效缓解了屏幕刷新时产生的垂直同步信号同时被发送至缓存队列和目标应用时,缓存队列需要延迟一个屏幕刷新时间间隔才能接收到对目标应用发送的目标图像帧,以及对历史目标图像帧进行渲染,从而造成在显示渲染后的图像帧时,也需要延迟一个屏幕刷新时间间隔才能显示的问题。
请参阅图12,其示出了本申请实施例提供的一种插帧装置400的结构框图。该插帧装置400应用上述的电子设备,该插帧装置400包括:第一提取模块410、第一渲染模块420、第一生成模块430以及第一存放模块440。
第一提取模块410,用于在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,第一缓存区为缓存队列中插入的用于存放中间插入帧的缓存区,中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧。第一渲染模块420,用于对第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧。第一生成模块430,用于根据缓存队列的第二缓存区中存储的历史目标图像帧和第一中间插入帧生成第二中间插入帧。第一存放模块440,用于将第二中间插入帧作为新的第一中间插入帧并存放至第一缓存区。
请参阅图13,在一些实施方式中,插帧装置400还包括:第二提取模块450、第二渲染模块460、第二生成模块470以及第二存放模块480。第二提取模块450用于在缓存队列接收到垂直同步信号,且在接收到垂直同步信号之前预设时长接收到目标图像帧时,提取第二缓存区中缓存的历史目标图像帧。第二渲染模块460,用于对历史目标图像帧进行渲染后向显示屏发送渲染后的图像帧。第二生成模块470,用于根据接收到的目标图像帧和历史目标图像帧生成第三中间插入帧。第二存放模块480,用于丢弃第一缓存区中缓存的第一中间插入帧,并将第三中间插入帧作为新的第一中间插入帧存放至第一缓存区。
作为一种方式,插帧装置400还包括:属性信息获取模块和缓存区分配模块。属性信息获取模块,用于响应于帧率调整指令,获取显示屏当前播放的图像帧的属性信息。缓存区分配模块,用于在根据属性信息确认当前播放的图像帧为目标应用生成的图像帧时,向该当前播放的图像帧对应的缓存队列中分配第一缓存区。
在该种方式下,插帧装置400还包括时长设置模块。时长设置模块用于获取帧率调整指令对应的目标帧率,根据目标帧率得到与该目标帧率对应的帧间隔时长,该帧间隔时长为预设时长。
作为一种方式,垂直同步信号为显示屏在屏幕刷新时生成,且由显示屏间隔设定时长分别发送至目标应用和缓存队列,插帧装置还包括:图像帧生成模块,用于获取目标应用在接收到垂直同步信号时生成的目标图像帧,并向缓存队列中发送目标图像帧。
在该种方式下,插帧装置400还包括时刻获取模块和时长调整模块。时刻获取模块,用于获取目标应用在接收到N个历史垂直同步信号时分别对应的第一接收时刻,获取缓存队列在接收到与每个历史垂直同步信号对应历史目标图像帧时的第二接收时刻,其中,历史目标图像帧为目标应用基于目标历史时刻发送的垂直同步信号生成,N为大于或等于1的自然数。时长调整模块,用于根据每个历史垂直同步信号对应的第一接收时刻和第二接收时刻调整设定时长。
在该种方式下,时长调整模块具体用于根据每个历史垂直同步信号对应的第一接收时刻和第二接收时刻,得到每个历史垂直同步信号对应的接收时延;对N个历史垂直同步信号对应的接收时延求取均值得到平均时延,根据该平均时延调整设定时长。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述装置和模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,模块相互之间的耦合可以是电性,机械或其它形式的耦合。
另外,在本申请各个实施例中的各功能模块可以集成在一个处理模块中,也可以是各个模块单独物理存在,也可以两个或两个以上模块集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
请参阅图14,其示出了本申请实施例提供的一种电子设备100的结构框图。该电子设备100可以是手机、电脑以及平板电脑等能够运行应用程序的电子设备。本申请中的电子设备100可以包括一个或多个如下部件:处理器110、存储器120、显示屏130、惯性传感器140以及一个或多个应用程序,其中一个或多个应用程序可以被存储在存储器120中并被配置为由一个或多个处理器110执行,一个或多个程序配置用于执行如前述方法实施例所描述的方法。
其中,处理器110可以包括一个或者多个处理核。处理器110利用各种接口和线路连接整个电子设备100内的各个部分,通过运行或执行存储在存储器120内的指令、程序、代码集或指令集,以及调用存储在存储器120内的数据,执行电子设备100的各种功能和处理数据。可选地,处理器110可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(ProgrammableLogic Array,PLA)中的至少一种硬件形式来实现。处理器110可集成中央处理器(CentralProcessing Unit,CPU)、图形处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责待显示内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器110中,单独通过一块通信芯片进行实现。
存储器120可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。存储器120可用于存储指令、程序、代码、代码集或指令集。存储器120可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于实现至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现下述各个方法实施例的指令等。存储数据区还可以存储电子设备100在使用中所创建的数据(比如电话本、音视频数据、聊天记录数据)等。
显示屏130用于显示由用户输入的信息、提供给用户的信息以及电子设备100的各种图形用户接口,这些图形用户接口可以由图形、文本、图标、数字、视频和其任意组合来构成,在一个实例中,该显示屏130在屏幕刷新时生成垂直同步信号,并间隔设定时长向缓存队列和目标应用发送该垂直同步信号,以及显示合成后的图像帧。该显示屏130可以为液晶显示器(Liquid Crystal Display,LCD),也可以为有机发光二极管(Organic Light-Emitting Diode,OLED),在此不做限定。
请参考图15,其示出了本申请实施例提供的一种计算机可读存储介质的结构框图。该计算机可读介质500中存储有程序代码,程序代码可被处理器调用执行上述方法实施例中所描述的方法。
计算机可读存储介质500可以是诸如闪存、EEPROM(电可擦除可编程只读存储器)、EPROM、硬盘或者ROM之类的电子存储器。可选地,计算机可读存储介质500包括非易失性计算机可读介质(non-transitory computer-readable storage medium)。计算机可读存储介质500具有执行上述方法中的任何方法步骤的程序代码510的存储空间。这些程序代码可以从一个或者多个计算机程序产品中读出或者写入到这一个或者多个计算机程序产品中。程序代码可以以适当形式进行压缩。
最后应说明的是:以上实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不驱使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (11)

1.一种插帧方法,其特征在于,包括:
在缓存队列接收到垂直同步信号,且在接收到所述垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,所述第一缓存区为所述缓存队列中插入的用于存放中间插入帧的缓存区,所述中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧;
对所述第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧;
根据所述缓存队列的第二缓存区中存储的历史目标图像帧生成第二中间插入帧;
将所述第二中间插入帧作为新的第一中间插入帧并存放至所述第一缓存区。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在缓存队列接收到垂直同步信号,且在接收到所述垂直同步信号之前预设时长接收到目标图像帧时,提取所述第二缓存区中缓存的所述历史目标图像帧;
对所述历史目标图像帧进行渲染后向显示屏发送渲染后的图像帧;
根据接收到的目标图像帧和所述历史目标图像帧生成第三中间插入帧;
丢弃所述第一缓存区中缓存的第一中间插入帧,并将所述第三中间插入帧作为新的第一中间插入帧存放至所述第一缓存区。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于帧率调整指令,获取所述显示屏当前播放的图像帧的属性信息;
在根据所述属性信息确认所述当前播放的图像帧为目标应用生成的图像帧时,向该当前播放的图像帧对应的缓存队列中分配所述第一缓存区。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
获取所述帧率调整指令对应的目标帧率,根据所述目标帧率得到与该目标帧率对应的帧间隔时长,该帧间隔时长为所述预设时长。
5.根据权利要求1所述的方法,其特征在于,所述垂直同步信号为所述显示屏在屏幕刷新时生成,且由所述显示屏间隔设定时长分别发送至所述目标应用和所述缓存队列,在执行提取所述第一缓存区中缓存的所述第一中间插入帧的步骤之前,所述方法还包括:
获取目标应用在接收到所述垂直同步信号时生成的目标图像帧,并向所述缓存队列中发送所述目标图像帧。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
获取所述目标应用在接收到N个历史垂直同步信号时分别对应的第一接收时刻,获取所述缓存队列在接收到与每个所述历史垂直同步信号对应历史目标图像帧时的第二接收时刻,其中,所述历史目标图像帧为目标应用基于目标历史时刻发送的垂直同步信号生成,N为大于或等于1的自然数;
根据每个所述历史垂直同步信号对应的第一接收时刻和第二接收时刻调整所述设定时长。
7.根据权利要求6所述的方法,其特征在于,所述根据每个所述历史垂直同步信号对应的第一接收时刻和第二接收时刻调整所述设定时长,包括;
根据每个所述历史垂直同步信号对应的第一接收时刻和第二接收时刻,得到每个所述历史垂直同步信号对应的接收时延;
对N个所述历史垂直同步信号对应的接收时延求取均值得到平均时延,根据该平均时延调整所述设定时长。
8.一种插帧装置,其特征在于,所述装置包括:
第一提取模块,用于在缓存队列接收到垂直同步信号,且在接收到所述垂直同步信号之前预设时长内未接收到目标应用生成的目标图像帧时,提取第一缓存区中缓存的第一中间插入帧,所述第一缓存区为所述缓存队列中插入的用于存放中间插入帧的缓存区,所述中间插入帧为依据目标应用生成的历史目标图像帧得到的图像帧;
第一渲染模块,用于对所述第一中间插入帧进行渲染后向显示屏发送渲染后的图像帧;
第一生成模块,用于根据所述缓存队列的第二缓存区中存储的历史目标图像帧生成第二中间插入帧;
第一存放模块,用于将所述第二中间插入帧作为新的第一中间插入帧并存放至所述第一缓存区。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储器;
一个或多个程序,其中所述一个或多个程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行,所述一个或多个程序配置用于执行如权利要求1-7中任意一项所述的方法。
10.根据权利要求9所述的电子设备,其特征在于,所述电子设备还包括显示屏,该显示屏在屏幕刷新时生成垂直同步信号,并间隔设定时长向缓存队列和目标应用发送该垂直同步信号,以及显示合成后的图像帧。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有程序代码,所述程序代码可被处理器调用执行如权利要求1-7中任意一项所述的方法。
CN202011378998.0A 2020-11-30 2020-11-30 插帧方法、装置、电子设备及存储介质 Active CN112422873B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011378998.0A CN112422873B (zh) 2020-11-30 2020-11-30 插帧方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011378998.0A CN112422873B (zh) 2020-11-30 2020-11-30 插帧方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN112422873A true CN112422873A (zh) 2021-02-26
CN112422873B CN112422873B (zh) 2022-09-16

Family

ID=74829065

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011378998.0A Active CN112422873B (zh) 2020-11-30 2020-11-30 插帧方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN112422873B (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113727142A (zh) * 2021-09-02 2021-11-30 北京沃东天骏信息技术有限公司 云渲染方法及装置、计算机可存储介质
CN113852776A (zh) * 2021-09-08 2021-12-28 维沃移动通信有限公司 插帧方法及电子设备
CN113946400A (zh) * 2021-10-29 2022-01-18 四川长虹教育科技有限公司 在智能交互大屏上降低Windows端书写延迟的方法
CN113986107A (zh) * 2021-10-22 2022-01-28 北京鲸鲮信息系统技术有限公司 基于图形显示系统的触控处理方法及装置、电子设备、存储介质
CN114584835A (zh) * 2022-02-10 2022-06-03 百果园技术(新加坡)有限公司 一种视频处理方法、装置、设备及存储介质
CN114740965A (zh) * 2022-05-05 2022-07-12 Oppo广东移动通信有限公司 降低终端功耗的处理方法及其装置、终端和可读存储介质
CN114974171A (zh) * 2022-03-09 2022-08-30 康佳集团股份有限公司 基于显示装置的刷新率控制方法、装置、显示终端及介质
CN115048173A (zh) * 2022-06-17 2022-09-13 Oppo广东移动通信有限公司 插帧方法、装置、存储介质及电子设备
CN116069187A (zh) * 2023-01-28 2023-05-05 荣耀终端有限公司 一种显示方法及电子设备
CN116095220A (zh) * 2022-08-08 2023-05-09 荣耀终端有限公司 参数确定方法及相关装置
WO2023093792A1 (zh) * 2021-11-26 2023-06-01 华为技术有限公司 一种图像帧的渲染方法及相关装置
WO2024078121A1 (zh) * 2022-10-13 2024-04-18 荣耀终端有限公司 图像处理方法和电子设备

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5134484A (en) * 1989-06-01 1992-07-28 Mindseye Educational Systems, Inc. Superimposing method and apparatus useful for subliminal messages
US20080165888A1 (en) * 1998-12-02 2008-07-10 Northern Telecom Limited Flow control of frame based data over a synchronous digital network
US20080192060A1 (en) * 2007-02-13 2008-08-14 Sony Computer Entertainment Inc. Image converting apparatus and image converting method
US20120115601A1 (en) * 2002-12-10 2012-05-10 Dietrich Jr Douglas Sim System amd method for improving the graphics performance of hosted applications
JP2013191957A (ja) * 2012-03-13 2013-09-26 Jvc Kenwood Corp 映像信号処理装置、映像信号処理方法、映像信号処理プログラム
CN104917990A (zh) * 2014-03-12 2015-09-16 索尼电脑娱乐美国公司 通过调整垂直消隐进行视频帧速率补偿
US20160357493A1 (en) * 2013-10-30 2016-12-08 Barco Control Rooms Gmbh Synchronization of videos in a display wall
CN106296566A (zh) * 2016-08-12 2017-01-04 南京睿悦信息技术有限公司 一种虚拟现实移动端动态时间帧补偿渲染系统及方法
CN111367741A (zh) * 2020-02-28 2020-07-03 Oppo广东移动通信有限公司 用户界面卡顿检测方法与装置、电子设备
EP3681143A1 (en) * 2017-09-08 2020-07-15 ZTE Corporation Method and apparatus for improving image fluency
CN111696186A (zh) * 2019-02-27 2020-09-22 杭州海康威视系统技术有限公司 界面渲染方法及装置
CN111752520A (zh) * 2020-06-28 2020-10-09 Oppo广东移动通信有限公司 图像显示方法、装置、电子设备和计算机可读存储介质
CN111901666A (zh) * 2020-07-01 2020-11-06 腾讯科技(深圳)有限公司 图像处理方法、装置、电子设备以及存储介质

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5134484A (en) * 1989-06-01 1992-07-28 Mindseye Educational Systems, Inc. Superimposing method and apparatus useful for subliminal messages
US20080165888A1 (en) * 1998-12-02 2008-07-10 Northern Telecom Limited Flow control of frame based data over a synchronous digital network
US20120115601A1 (en) * 2002-12-10 2012-05-10 Dietrich Jr Douglas Sim System amd method for improving the graphics performance of hosted applications
US20080192060A1 (en) * 2007-02-13 2008-08-14 Sony Computer Entertainment Inc. Image converting apparatus and image converting method
JP2013191957A (ja) * 2012-03-13 2013-09-26 Jvc Kenwood Corp 映像信号処理装置、映像信号処理方法、映像信号処理プログラム
US20160357493A1 (en) * 2013-10-30 2016-12-08 Barco Control Rooms Gmbh Synchronization of videos in a display wall
CN104917990A (zh) * 2014-03-12 2015-09-16 索尼电脑娱乐美国公司 通过调整垂直消隐进行视频帧速率补偿
CN106296566A (zh) * 2016-08-12 2017-01-04 南京睿悦信息技术有限公司 一种虚拟现实移动端动态时间帧补偿渲染系统及方法
EP3681143A1 (en) * 2017-09-08 2020-07-15 ZTE Corporation Method and apparatus for improving image fluency
CN111696186A (zh) * 2019-02-27 2020-09-22 杭州海康威视系统技术有限公司 界面渲染方法及装置
CN111367741A (zh) * 2020-02-28 2020-07-03 Oppo广东移动通信有限公司 用户界面卡顿检测方法与装置、电子设备
CN111752520A (zh) * 2020-06-28 2020-10-09 Oppo广东移动通信有限公司 图像显示方法、装置、电子设备和计算机可读存储介质
CN111901666A (zh) * 2020-07-01 2020-11-06 腾讯科技(深圳)有限公司 图像处理方法、装置、电子设备以及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吴君钦等: "基于S3C6410和ADV7180的嵌入式视频采集系统设计与实现", 《计算机工程与科学》 *

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113727142A (zh) * 2021-09-02 2021-11-30 北京沃东天骏信息技术有限公司 云渲染方法及装置、计算机可存储介质
CN113852776A (zh) * 2021-09-08 2021-12-28 维沃移动通信有限公司 插帧方法及电子设备
CN113852776B (zh) * 2021-09-08 2024-06-04 维沃移动通信有限公司 插帧方法及电子设备
CN113986107A (zh) * 2021-10-22 2022-01-28 北京鲸鲮信息系统技术有限公司 基于图形显示系统的触控处理方法及装置、电子设备、存储介质
CN113946400A (zh) * 2021-10-29 2022-01-18 四川长虹教育科技有限公司 在智能交互大屏上降低Windows端书写延迟的方法
CN113946400B (zh) * 2021-10-29 2023-04-25 四川长虹教育科技有限公司 在智能交互大屏上降低Windows端书写延迟的方法
WO2023093792A1 (zh) * 2021-11-26 2023-06-01 华为技术有限公司 一种图像帧的渲染方法及相关装置
WO2023151489A1 (zh) * 2022-02-10 2023-08-17 百果园技术(新加坡)有限公司 一种视频处理方法、装置、设备及存储介质
CN114584835A (zh) * 2022-02-10 2022-06-03 百果园技术(新加坡)有限公司 一种视频处理方法、装置、设备及存储介质
CN114584835B (zh) * 2022-02-10 2024-04-02 百果园技术(新加坡)有限公司 一种视频处理方法、装置、设备及存储介质
CN114974171A (zh) * 2022-03-09 2022-08-30 康佳集团股份有限公司 基于显示装置的刷新率控制方法、装置、显示终端及介质
CN114974171B (zh) * 2022-03-09 2024-01-26 康佳集团股份有限公司 基于显示装置的刷新率控制方法、装置、显示终端及介质
CN114740965B (zh) * 2022-05-05 2023-12-08 Oppo广东移动通信有限公司 降低终端功耗的处理方法及其装置、终端和可读存储介质
CN114740965A (zh) * 2022-05-05 2022-07-12 Oppo广东移动通信有限公司 降低终端功耗的处理方法及其装置、终端和可读存储介质
CN115048173A (zh) * 2022-06-17 2022-09-13 Oppo广东移动通信有限公司 插帧方法、装置、存储介质及电子设备
CN116095220B (zh) * 2022-08-08 2023-10-31 荣耀终端有限公司 参数确定方法及相关装置
CN116095220A (zh) * 2022-08-08 2023-05-09 荣耀终端有限公司 参数确定方法及相关装置
WO2024078121A1 (zh) * 2022-10-13 2024-04-18 荣耀终端有限公司 图像处理方法和电子设备
CN116069187B (zh) * 2023-01-28 2023-09-01 荣耀终端有限公司 一种显示方法及电子设备
CN116069187A (zh) * 2023-01-28 2023-05-05 荣耀终端有限公司 一种显示方法及电子设备

Also Published As

Publication number Publication date
CN112422873B (zh) 2022-09-16

Similar Documents

Publication Publication Date Title
CN112422873B (zh) 插帧方法、装置、电子设备及存储介质
US11706484B2 (en) Video processing method, electronic device and computer-readable medium
CN112235626B (zh) 视频渲染方法、装置、电子设备及存储介质
CN108921951B (zh) 虚拟现实图像显示方法及其装置、虚拟现实设备
CN109992232B (zh) 图像更新方法、装置、终端及存储介质
CN110769302B (zh) 直播互动方法、装置、系统、终端设备、存储介质
CN110018874B (zh) 垂直同步方法、装置、终端及存储介质
CN109819232B (zh) 一种图像处理方法及图像处理装置、显示装置
US20180199041A1 (en) Altering streaming video encoding based on user attention
CN113347466B (zh) 一种数据处理方法、装置和存储介质
EP2892239A1 (en) Living room computer with small form-factor pluggable port
CN114758045A (zh) 调整虚拟现实内容的视频渲染速率和立体图像的处理
EP3644614A1 (en) Video data processing method and video data processing device
WO2012006907A1 (zh) 一种实现移动终端界面动态切换的方法和装置
CN111064863B (zh) 图像数据的处理方法及相关装置
US20200252581A1 (en) Video data processing method and video data processing device
CN112291587A (zh) 远程桌面的动态视频帧处理方法、系统、介质及服务器
JP7494293B2 (ja) クラウドゲームアプリケーション用のサーバ表示バッファの高速スキャンアウト
CN111464828A (zh) 虚拟特效显示方法、装置、终端及存储介质
WO2021139359A1 (zh) 图像处理方法、装置、电子设备及存储介质
CN114613306A (zh) 显示控制芯片、显示面板及相关设备、方法和装置
CN113301355A (zh) 视频传输、直播与播放方法、设备及存储介质
CN114302092A (zh) 独显插帧电路、方法、装置、芯片、电子设备及介质
CN111918098A (zh) 视频处理方法、装置、电子设备、服务器及存储介质
EP4406632A1 (en) Image frame rendering method and related apparatus

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant