CN114071190B - 云应用视频流处理方法、相关装置及计算机程序产品 - Google Patents
云应用视频流处理方法、相关装置及计算机程序产品 Download PDFInfo
- Publication number
- CN114071190B CN114071190B CN202111357164.6A CN202111357164A CN114071190B CN 114071190 B CN114071190 B CN 114071190B CN 202111357164 A CN202111357164 A CN 202111357164A CN 114071190 B CN114071190 B CN 114071190B
- Authority
- CN
- China
- Prior art keywords
- resolution
- application
- picture
- abnormal
- video stream
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 26
- 238000004590 computer program Methods 0.000 title abstract description 15
- 230000005856 abnormality Effects 0.000 claims abstract description 54
- 238000000034 method Methods 0.000 claims abstract description 26
- 230000002159 abnormal effect Effects 0.000 claims description 64
- 238000012360 testing method Methods 0.000 claims description 23
- 238000011056 performance test Methods 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 20
- 230000004044 response Effects 0.000 claims description 3
- 230000000007 visual effect Effects 0.000 claims description 3
- 238000005457 optimization Methods 0.000 abstract description 6
- 238000004891 communication Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234381—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the temporal resolution, e.g. decreasing the frame rate by frame skipping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/004—Diagnosis, testing or measuring for television systems or their details for digital television systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234309—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by transcoding between formats or standards, e.g. from MPEG-2 to MPEG-4 or from Quicktime to Realvideo
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本公开提供了云应用视频流处理方法、相关装置及计算机程序产品,涉及云应用、视频流编解码等媒体云技术领域,可应用于云游戏等场景。该方法包括:根据接收到的云应用使用请求,确定目标应用和客户端的第一分辨率;当目标应用在第一分辨率下存在画面异常时,确认使目标应用不存在画面异常的、大于第一分辨率的第二分辨率;按第二分辨率编码目标应用的视频流,并将得到的编码后视频流发给客户端;控制客户端按第一分辨率解码编码后视频流。该方法在确认目标应用在第一分辨率下存在画面异常时,转而采用不会出现画面异常的第二分辨率对视频流进行编码、控制客户端按其第一分辨率进行解码,避免了某些应用在低分辨率时的较差优化带来的较差体验。
Description
技术领域
本公开涉及数据处理技术领域,具体涉及云应用、视频流编解码等媒体云技术领域,尤其涉及一种云应用视频流处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。
背景技术
随着音视频编解码技术、5G网络的建设发展,云游戏、云电脑业务得到了快速发展。云游戏系统包括了主机端和客户端,游戏运行在主机端,通过将主机端的画面、音频、键鼠信息发送到客户端,在客户端实时显示并更新主机端的画面,并将客户端的音频、键鼠操作发送到主机端,形成实时的交互,达到如同本地环境的操作体验。
受限于客户端显示组件的分辨率,主机端在编码要传输至客户端的游戏或应用的视频流时,通常按客户端所支持的分辨率进行编码,以避免浪费运算性能。
发明内容
本公开实施例提出了一种云应用视频流处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。
第一方面,本公开实施例提出了一种云应用视频流处理方法,包括:接收客户端发来的云应用使用请求;根据云应用使用请求确定目标应用和客户端的第一分辨率;响应于目标应用在第一分辨率下存在画面异常,确认使目标应用不存在画面异常的第二分辨率,第二分辨率大于第一分辨率;按第二分辨率编码目标应用的视频流,并将得到的编码后视频流发送给客户端;控制客户端按第一分辨率解码编码后视频流。
第二方面,本公开实施例提出了一种云应用视频流处理装置,包括:云应用使用请求接收单元,被配置成接收客户端发来的云应用使用请求;目标应用及第一分辨率确定单元,被配置成根据云应用使用请求确定目标应用和客户端的第一分辨率;第二分辨率确定单元,被配置成响应于目标应用在第一分辨率下存在画面异常,确认使目标应用不存在画面异常的第二分辨率,第二分辨率大于第一分辨率;高分辨率编码及发送单元,被配置成按第二分辨率编码目标应用的视频流,并将得到的编码后视频流发送给客户端;低分辨率解码单元,被配置成控制客户端按第一分辨率解码编码后视频流。
第三方面,本公开实施例提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的云应用视频流处理方法。
第四方面,本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质,该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的云应用视频流处理方法。
第五方面,本公开实施例提供了一种包括计算机程序的计算机程序产品,该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的云应用视频流处理方法。
本公开所提供的技术方案,在确定目标应用和客户端的第一分辨率的基础上,通过判断目标应用是否会在较低的第一分辨率下存在画面异常的问题,来更换视频流编码所采用的实际分辨率。即在确认目标应用在较低的第一分辨率下存在画面异常时,转而采用不会出现画面异常的较高的第二分辨率对视频流进行编码,并最终通过控制客户端仍按其支持的较低的第一分辨率进行解码,避免了某些应用因其对低分辨率的较差优化为用户带来的较差使用体验。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本公开的其它特征、目的和优点将会变得更明显:
图1是本公开可以应用于其中的示例性系统架构;
图2为本公开实施例提供的一种云应用视频流处理方法的流程图;
图3为本公开实施例提供的一种特殊编码应用表的生成方法的流程图;
图4为本公开实施例提供的另一种特殊编码应用表的生成方法的流程图;
图5为本公开实施例提供的一种云应用视频流处理装置的结构框图;
图6为本公开实施例提供的一种适用于执行云应用视频流处理方法的电子设备的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。需要说明的是,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
本公开的技术方案中,所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
图1示出了可以应用本公开的云应用视频流处理方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
在本公开所处的云应用使用场景下,终端设备101、102、103将充当不直接运行云应用、仅接收传入视频流进行解码显示的客户端,服务器105则将充当实际运行云应用、将展示云应用运行的视频流经编码后发给客户端的主机端。用户可以使用终端设备101、102、103通过网络104与服务器105交互,以实现云应用的使用等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用,例如云游戏类应用、云办公类应用、云手机类应用等。
终端设备101、102、103通常表现为形态各异的硬件,例如可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。服务器105可以表现为独立的硬件也可以表现为基于硬件构建出的软件,当服务器105为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器;服务器为软件时,可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块,在此不做具体限定。
服务器105通过内置的各种应用可以提供各种服务,以可以提供云游戏服务的云游戏类应用为例,服务器105在运行该云游戏类应用时可实现如下效果:首先,通过网络104接收用户控制终端设备设备101(或102、103)发来的云游戏使用请求;然后,根据云游戏使用请求确定目标游戏和终端设备101(或102、103)的第一分辨率;接下来,当获知目标游戏在第一分辨率下存在画面异常时,确认使目标游戏不存在画面异常的第二分辨率,第二分辨率大于第一分辨率;下一步,按第二分辨率编码目标游戏的视频流,并将得到的编码后视频流发送给终端设备101(或102、103);最后,控制终端设备101(或102、103)按第一分辨率解码编码后视频流并显示在显示屏上。
本公开后续各实施例所提供的云应用视频流处理方法一般由能够提供云服务、拥有强大运算能力的服务器105来执行,相应地,云应用视频流处理装置一般也设置于服务器105中。但同时也需要指出的是,在某些终端设备101、102、103也具有满足要求的运算能力和运算资源时,终端设备101、102、103也可以通过其上安装的云游戏类应用完成上述本交由服务器105做的各项运算,进而输出与服务器105同样的结果,即可以作为新的服务器105。相应的,云应用视频流处理装置也可以设置于终端设备101、102、103中。在此种情况下,示例性系统架构100也可以不包括服务器105和网络104。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
请参考图2,图2为本公开实施例提供的一种云应用视频流处理方法的流程图,其中流程200包括以下步骤:
步骤201:接收客户端发来的云应用使用请求;
本步骤旨在由云应用视频流处理方法的执行主体(例如图1所示的服务器105)接收客户端(例如图1所示的终端设备101、102或103)发来的云应用使用请求。
其中,云应用使用请求除表达客户端有使用应用的意愿外,为了节省交互次数,通常还包含有用于确定客户端想要使用的目标应用的相关信息,例如目标应用的名称、包名、特定编码串、代号、版本号、操作系统类型等。以及为了向客户端返回目标应用能够在客户端上正常显示的运行画面,还可以要求客户端也同时将客户端的设备信息、型号信息一并包含于云应用使用请求中,以便于根据设备信息、型号信息等确定视频流的编码参数,例如分辨率、显示比例等。
步骤202:根据云应用使用请求确定目标应用和客户端的第一分辨率;
在步骤201的基础上,本步骤旨在由上述执行主体根据云应用使用请求中包含的信息,分别确定客户端要使用的目标应用和客户端的第一分辨率。其中,客户端的第一分辨率通常为客户端的显示组件所能够支持的最高分辨率,可以在显示组件所支持的所有分辨率选取分辨率最高的作为该第一分辨率。一种包括且不限于的实现方式可以为:
从云应用使用请求中提取客户端的型号信息;确定与型号信息对应的支持分辨率列表;将支持分辨率列表中的最高分辨率确定为第一分辨率。
步骤203:响应于目标应用在第一分辨率下存在画面异常,确认使目标应用不存在画面异常的第二分辨率;
针对在确认目标应用在第一分辨率下存在画面异常的情况,本步骤旨在由上述执行主体确认使目标应用不存在画面异常的第二分辨率。
其中,画面异常是能够使应用运行时所呈现的画面区别于正常画面的各种原因的统称,例如包括画面失真、噪点、显示错误、比例错误、颜色异常等,以及图标缺失、图标错位、页面变形等。
需要说明的是,本申请所描述的画面异常的产生原因是目标应用在第一分辨率下运行时所产生的,该第一分辨率通常是一个较低的分辨率,也就是说一些应用会在按较低分辨率渲染时出现一些画面异常。其根本原因是随着图像渲染设备性能的提升,一些出于为用户提供高画质画面的应用(例如专业工具类应用、视频播放类应用、游戏类应用)通常使用了最新的图像渲染引擎进行开发,而这些最新的图像渲染引擎由于包含一些新技术,往往对低分辨率设备(例如将所支持的最高分辨率不超过720P的设备称为低分辨率设备)的支持不够友好,进而使得在低分辨率下出现一些在高分辨率下不会出现的画面异常问题。
而云应用的使用场景或卖点正是用户所持的客户端性能较弱,而性能较弱的客户端设备往往为老款设备、有更大的概率属于低分辨率设备,因此在非云应用使用场景下难以暴露的上述问题将会更大概率的暴露在云应用使用场景中。
为解决上述问题,本步骤将由上述执行主体确定使目标应用不会出现画面异常的第二分辨率,也就是一个较高的分辨率。为了提升确定出第二分辨率的效率,不同的应用哪些分辨率下会出现画面异常、哪些分辨率下不会出现画面异常,均可以实现以测试的方式确定得到,并记录、存储起来,以便后续需要时直接查询即可。
步骤204:按第二分辨率编码目标应用的视频流,并将得到的编码后视频流发送给客户端;
步骤205:控制客户端按第一分辨率解码编码后视频流。
步骤204旨在由上述执行主体将目标应用的视频流按不会出现画面异常的第二分辨率进行编码,并将编码后视频流发送给客户端。步骤205则是由上述执行主体控制客户端仍按照其所支持的最高分辨率(即第一分辨率)来解码该编码后视频流。也就是说,虽然客户端的显示组件的素质达不到呈现出按较高的第二分辨率进行编码的视频画面精细度(即画质),但再按较低的第一分辨率进行解码至少可以保证客户端处呈现的画面不会存在画面异常。
本公开实施例提供的云应用视频流处理方法,在确定目标应用和客户端的第一分辨率的基础上,通过判断目标应用是否会在较低的第一分辨率下存在画面异常的问题,来更换视频流编码所采用的实际分辨率。即在确认目标应用在较低的第一分辨率下存在画面异常时,转而采用不会出现画面异常的较高的第二分辨率对视频流进行编码,并最终通过控制客户端仍按其支持的较低的第一分辨率进行解码,避免了某些应用因其对低分辨率的较差优化为用户带来的较差使用体验。
为明确如何确定出使目标应用不出现画面异常的第二分辨率,本实施例还通过图3给出了一种特殊编码应用表的生成方法的流程图,以通过流程300所示的各步骤展示如何预先生成该特殊编码应用表,以便于在后续使用中可直接通过查表快速确定第二分辨率:
步骤301:分别测试各应用在不同分辨率下的画面表现;
步骤302:根据画面表现确定存在画面异常的异常应用和对应的异常分辨率;
步骤301-步骤302旨在由上述执行主体分别对每个应用进行在不同分辨率下的画面表现测试,进而根据画面表现的测试结果确定出存在画面异常的异常应用以及该异常应用具体是在哪些分辨率下存在画面异常,进而确定出异常分辨率。
步骤303:将异常应用除异常分辨率外的其它分辨率,确定为正常分辨率;
在步骤302的基础上,本步骤旨在由上述执行主体根据排除法确定出异常应用的正常分辨率,即该异常应用在正常分辨率下不会出现画面异常。
步骤304:根据异常应用、对应的异常分辨率、对应的正常分辨率,生成特殊编码应用表。
在步骤303的基础上,本步骤旨在由上述执行主体根据异常应用、对应的异常分辨率、对应的正常分辨率,生成一个记录异常应用—异常分辨率—正常分辨率之间对应关系的特殊编码应用表,用于表征该特殊编码应用中记录的应用应当在云应用使用场景下不再采用客户端的分辨率进行编码,而是按照其记录的正常分辨率进行编码。
为进一步明确如何更好、更科学的得到更准确的测试结果,以及如何定义画面异常,本实施例在图3所示实施例的基础上,通过流程400示出了另一种包含更具体实现方式的流程图:
步骤401:确定与不同种类应用对应的画面表现测试标准;
步骤402:分别对每个应用按其对应的画面表现测试标准,在不同分辨率下进行画面表现测试,得到测试结果;
针对流程300中的步骤301,本实施例通过步骤401-步骤402提供了一种按应用种类选用不同的画面表现测试标准的画面表现测试方式,原理为不同种类的应用在其画面展示给用户时,用户的关注重点、影响用户观看体验的因素可能不同,因此为了全面、准确的保证测试结果的准确性,本实施例预先为不同种类的应用制定了不同的画面表现测试标准。
其中,画面表现测试标准可以包括:画面复杂度、测试时长、控制指令种类中的至少一项,旨在通过上述各具体标准的自由组合来模拟用户对此类应用的操作习惯,进而避免在相同操作习惯下不出现应用用户操作的画面异常。
步骤403:将包含画面失真、噪点、显示错误、比例错误、颜色异常中至少一项的测试结果,确定为存在画面异常;
步骤404:将存在画面异常的应用确定为异常应用、存在画面异常的分辨率确定为异常分辨率;
针对流程300中的步骤302,本实施例通过步骤403-步骤404提供了一种具体的画面表现测试方式,即将包含画面失真、噪点、显示错误、比例错误、颜色异常中至少一项的测试结果,确定为存在画面异常,然后将存在画面异常的应用确定为异常应用、存在画面异常的分辨率确定为异常分辨率。
步骤405:将异常应用除异常分辨率外的其它分辨率,确定为正常分辨率;
步骤406:根据异常应用、对应的异常分辨率、对应的正常分辨率,生成特殊编码应用表;
以上步骤405-406与如图3所示的步骤203-204一致,相同部分内容请参见上一实施例的相应部分,此处不再进行赘述。
需要说明的是,本实施例针对步骤301给出的下位实施方案与针对步骤302给出的下位实施方案,两个不同的下位实施方案之间并不存在依赖或因果关系,进而两个下位实施方案完全可以分别以替代对应上位方案的方式形成不同的独立实施例,本实施例仅作为一个同时包含两个下位实施方案的优选实施例存在。
在上述任意实施例的基础上,为了尽可能的减少因上述执行主体采用较高的分辨率编码、而客户端采用较低的分辨率解码所造成的运算资源浪费,还可以将使目标应用不存在画面异常的最低分辨率,确定为第二分辨率。
为加深理解,本公开还结合一个具体的云游戏使用场景,给出了一种具体的实现方案:
1)用户通过其旧款手机A上安装的云游戏应用发起了针对游戏X的云游戏使用请求,该云游戏使用请求中包含了旧款手机A的型号信息;
2)服务器根据接收到的云游戏使用请求确定游戏X为目标游戏、根据型号信息在手机型号与所支持最高分辨率的库中查询得到与手机A对应的最高分辨率为720P;
3)服务器通过查询预先生成的特殊应用编码表,确认最近刚公测的游戏X因低分辨率优化不佳导致其在720P分辨率下存在图标错位问题,导致用户在其旧款手机A点击其上看到的技能图标时将无法正常激发技能,因此服务器进一步将略高于720P分辨率的、不出现图标错误问题的1080P作为实际的编码分辨率;
4)服务器将游戏X的视频流按1080P进行编码,得到1080P码流;
5)服务器持续向旧款手机A传输1080P码流;
6)旧款手机A由于内置解码器的性能限制,仅能将1080P码流解码为720P码流进行显示,并最终将720P码流对照旧款手机A的画面尺寸进行缩放。
进一步参考图5,作为对上述各图所示方法的实现,本公开提供了一种云应用视频流处理装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的云应用视频流处理装置500可以包括:云应用使用请求接收单元501、目标应用及第一分辨率确定单元502、第二分辨率确定单元503、高分辨率编码及发送单元504、低分辨率解码单元505。其中,云应用使用请求接收单元501,被配置成接收客户端发来的云应用使用请求;目标应用及第一分辨率确定单元502,被配置成根据云应用使用请求确定目标应用和客户端的第一分辨率;第二分辨率确定单元503,被配置成响应于目标应用在第一分辨率下存在画面异常,确认使目标应用不存在画面异常的第二分辨率,第二分辨率大于第一分辨率;高分辨率编码及发送单元504,被配置成按第二分辨率编码目标应用的视频流,并将得到的编码后视频流发送给客户端;低分辨率解码单元505,被配置成控制客户端按第一分辨率解码编码后视频流。
在本实施例中,云应用视频流处理装置500中:云应用使用请求接收单元501、目标应用及第一分辨率确定单元502、第二分辨率确定单元503、高分辨率编码及发送单元504、低分辨率解码单元505的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-205的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,目标应用及第一分辨率确定单元502可以包括被配置成根据云应用使用请求确定客户端的第一分辨率的第一分辨率确定子单元,第一分辨率确定子单元可以被进一步配置成:
从云应用使用请求中提取客户端的型号信息;
确定与型号信息对应的支持分辨率列表;
将支持分辨率列表中的最高分辨率确定为第一分辨率。
在本实施例的一些可选的实现方式中,第二分辨率确定单元503可以被进一步配置成:
将使目标应用不存在画面异常的最低分辨率,确定为第二分辨率。
在本实施例的一些可选的实现方式中,云应用视频流处理装置500还可以包括:
画面表现测试单元,被配置成分别测试各应用在不同分辨率下的画面表现;
异常应用及异常分辨率确定单元,被配置成根据画面表现确定存在画面异常的异常应用和对应的异常分辨率;
正常分辨率确定单元,被配置成将异常应用除异常分辨率外的其它分辨率,确定为正常分辨率;
特殊编码应用表生成单元,被配置成根据异常应用、对应的异常分辨率、对应的正常分辨率,生成特殊编码应用表;
第二分辨率确定单元503可以被进一步配置成:
在特殊编码应用表中查询与目标应用对应的正常分辨率,得到第二分辨率。
在本实施例的一些可选的实现方式中,异常应用及异常分辨率确定单元可以包括被配置成根据画面表现确定存在画面异常的异常应用的异常应用确定子单元,异常应用确定子单元可以被进一步配置成:
将包含画面失真、噪点、显示错误、比例错误、颜色异常中至少一项的画面表现,确定为画面异常;
将存在画面异常的应用确定为异常应用。
在本实施例的一些可选的实现方式中,画面表现测试单元可以被进一步配置成:
确定与不同种类应用对应的画面表现测试标准;其中,画面表现测试标准包括:画面复杂度、测试时长、控制指令种类中的至少一项;
分别对每个应用按其对应的画面表现测试标准,在不同分辨率下进行画面表现测试,得到测试结果。
本实施例作为对应于上述方法实施例的装置实施例存在,本实施例提供的云应用视频流处理装置,在确定目标应用和客户端的第一分辨率的基础上,通过判断目标应用是否会在较低的第一分辨率下存在画面异常的问题,来更换视频流编码所采用的实际分辨率。即在确认目标应用在较低的第一分辨率下存在画面异常时,转而采用不会出现画面异常的较高的第二分辨率对视频流进行编码,并最终通过控制客户端仍按其支持的较低的第一分辨率进行解码,避免了某些应用因其对低分辨率的较差优化为用户带来的较差使用体验。
根据本公开的实施例,本公开还提供了一种电子设备,该电子设备包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,该指令被至少一个处理器执行,以使至少一个处理器执行时能够实现上述任意实施例所描述的云应用视频流处理方法。
根据本公开的实施例,本公开还提供了一种可读存储介质,该可读存储介质存储有计算机指令,该计算机指令用于使计算机执行时能够实现上述任意实施例所描述的云应用视频流处理方法。
根据本公开的实施例,本公开还提供了一种计算机程序产品,该计算机程序在被处理器执行时能够实现上述任意实施例所描述的云应用视频流处理方法。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,设备600包括计算单元601,其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序,来执行各种适当的动作和处理。在RAM 603中,还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605,包括:输入单元606,例如键盘、鼠标等;输出单元607,例如各种类型的显示器、扬声器等;存储单元608,例如磁盘、光盘等;以及通信单元609,例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理,例如云应用视频流处理方法。例如,在一些实施例中,云应用视频流处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元608。在一些实施例中,计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时,可以执行上文描述的云应用视频流处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元601可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行云应用视频流处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(VPS,Virtual Private Server)服务中存在的管理难度大,业务扩展性弱的缺陷。
根据本公开实施例的技术方案,在确定目标应用和客户端的第一分辨率的基础上,通过判断目标应用是否会在较低的第一分辨率下存在画面异常的问题,来更换视频流编码所采用的实际分辨率。即在确认目标应用在较低的第一分辨率下存在画面异常时,转而采用不会出现画面异常的较高的第二分辨率对视频流进行编码,并最终通过控制客户端仍按其支持的较低的第一分辨率进行解码,避免了某些应用因其对低分辨率的较差优化为用户带来的较差使用体验。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (12)
1.一种云应用视频流处理方法,包括:
接收客户端发来的云应用使用请求;
根据所述云应用使用请求确定目标应用和所述客户端的第一分辨率;
响应于所述目标应用在所述第一分辨率下存在画面异常,确认使所述目标应用不存在画面异常的第二分辨率,所述第二分辨率大于所述第一分辨率;
按所述第二分辨率编码所述目标应用的视频流,并将得到的编码后视频流发送给所述客户端;
控制所述客户端按所述第一分辨率解码所述编码后视频流;
其中,所述确认使所述目标应用不存在画面异常的第二分辨率,包括:
在预设的特殊编码应用表中查询与所述目标应用对应的正常分辨率,得到所述第二分辨率;其中,所述特殊编码应用表通过如下方式预先生成得到:分别测试各应用在不同分辨率下的画面表现;根据所述画面表现确定存在画面异常的异常应用和对应的异常分辨率;将所述异常应用除所述异常分辨率外的其它分辨率,确定为正常分辨率;根据所述异常应用、对应的异常分辨率、对应的正常分辨率,生成所述特殊编码应用表。
2.根据权利要求1所述的方法,其中,根据所述云应用使用请求确定所述客户端的第一分辨率,包括:
从所述云应用使用请求中提取客户端的型号信息;
确定与所述型号信息对应的支持分辨率列表;
将所述支持分辨率列表中的最高分辨率确定为所述第一分辨率。
3.根据权利要求1所述的方法,其中,所述确认使所述目标应用不存在画面异常的第二分辨率,包括:
将使所述目标应用不存在画面异常的最低分辨率,确定为所述第二分辨率。
4.根据权利要求1-3任一项所述的方法,其中,所述根据所述画面表现确定存在画面异常的异常应用,包括:
将包含画面失真、噪点、显示错误、比例错误、颜色异常中至少一项的画面表现,确定为所述画面异常;
将存在所述画面异常的应用确定为所述异常应用。
5.根据权利要求1-3任一项所述的方法,其中,所述分别测试各应用在不同分辨率下的画面表现,包括:
确定与不同种类应用对应的画面表现测试标准;其中,所述画面表现测试标准包括:画面复杂度、测试时长、控制指令种类中的至少一项;
分别对每个应用按其对应的画面表现测试标准,在不同分辨率下进行画面表现测试,得到测试结果。
6.一种云应用视频流处理装置,包括:
云应用使用请求接收单元,被配置成接收客户端发来的云应用使用请求;
目标应用及第一分辨率确定单元,被配置成根据所述云应用使用请求确定目标应用和所述客户端的第一分辨率;
第二分辨率确定单元,被配置成响应于所述目标应用在所述第一分辨率下存在画面异常,确认使所述目标应用不存在画面异常的第二分辨率,所述第二分辨率大于所述第一分辨率;
高分辨率编码及发送单元,被配置成按所述第二分辨率编码所述目标应用的视频流,并将得到的编码后视频流发送给所述客户端;
低分辨率解码单元,被配置成控制所述客户端按所述第一分辨率解码所述编码后视频流;
所述第二分辨率确定单元被进一步配置成在预设的特殊编码应用表中查询与所述目标应用对应的正常分辨率,得到所述第二分辨率;其中,所述特殊编码应用表通过如下方式预先生成得到:分别测试各应用在不同分辨率下的画面表现;根据所述画面表现确定存在画面异常的异常应用和对应的异常分辨率;将所述异常应用除所述异常分辨率外的其它分辨率,确定为正常分辨率;根据所述异常应用、对应的异常分辨率、对应的正常分辨率,生成所述特殊编码应用表。
7.根据权利要求6所述的装置,其中,所述目标应用及第一分辨率确定单元包括被配置成根据所述云应用使用请求确定所述客户端的第一分辨率的第一分辨率确定子单元,所述第一分辨率确定子单元被进一步配置成:
从所述云应用使用请求中提取客户端的型号信息;
确定与所述型号信息对应的支持分辨率列表;
将所述支持分辨率列表中的最高分辨率确定为所述第一分辨率。
8.根据权利要求6所述的装置,其中,所述第二分辨率确定单元被进一步配置成:
将使所述目标应用不存在画面异常的最低分辨率,确定为所述第二分辨率。
9.根据权利要求6-8任一项所述的装置,其中,所述异常应用及异常分辨率确定单元包括被配置成根据所述画面表现确定存在画面异常的异常应用的异常应用确定子单元,所述异常应用确定子单元被进一步配置成:
将包含画面失真、噪点、显示错误、比例错误、颜色异常中至少一项的画面表现,确定为所述画面异常;
将存在所述画面异常的应用确定为所述异常应用。
10.根据权利要求6-8任一项所述的装置,其中,所述画面表现测试单元被进一步配置成:
确定与不同种类应用对应的画面表现测试标准;其中,所述画面表现测试标准包括:画面复杂度、测试时长、控制指令种类中的至少一项;
分别对每个应用按其对应的画面表现测试标准,在不同分辨率下进行画面表现测试,得到测试结果。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的云应用视频流处理方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的云应用视频流处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111357164.6A CN114071190B (zh) | 2021-11-16 | 2021-11-16 | 云应用视频流处理方法、相关装置及计算机程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111357164.6A CN114071190B (zh) | 2021-11-16 | 2021-11-16 | 云应用视频流处理方法、相关装置及计算机程序产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114071190A CN114071190A (zh) | 2022-02-18 |
CN114071190B true CN114071190B (zh) | 2023-10-31 |
Family
ID=80273092
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111357164.6A Active CN114071190B (zh) | 2021-11-16 | 2021-11-16 | 云应用视频流处理方法、相关装置及计算机程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114071190B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115086284B (zh) * | 2022-05-20 | 2024-06-14 | 阿里巴巴(中国)有限公司 | 云应用的流媒体数据传输方法 |
CN117891971B (zh) * | 2024-03-18 | 2024-05-14 | 吉林省通泰信息技术有限公司 | 一种视频编辑系统管理方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111681167A (zh) * | 2020-06-03 | 2020-09-18 | 腾讯科技(深圳)有限公司 | 画质调整方法和装置、存储介质及电子设备 |
CN111966311A (zh) * | 2020-07-15 | 2020-11-20 | 北京视博云信息技术有限公司 | 云游戏的显示设置方法、装置、可读存储介质及设备 |
CN112533059A (zh) * | 2020-11-20 | 2021-03-19 | 腾讯科技(深圳)有限公司 | 图像渲染方法、装置、电子设备以及存储介质 |
CN112911013A (zh) * | 2021-02-20 | 2021-06-04 | 百度在线网络技术(北京)有限公司 | 云应用的处理方法、装置、计算机设备和存储介质 |
CN112929624A (zh) * | 2021-01-21 | 2021-06-08 | 杭州雾联科技有限公司 | 一种编码方法、装置、电子设备及计算机可读存储介质 |
CN113101654A (zh) * | 2021-05-11 | 2021-07-13 | 江苏视博云信息技术有限公司 | 一种云游戏画面的显示方法、装置及存储介质 |
CN113411637A (zh) * | 2021-07-05 | 2021-09-17 | 北京海誉动想科技股份有限公司 | 画面处理方法与装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101807176B1 (ko) * | 2011-07-21 | 2017-12-08 | 주식회사 케이티 | 클라우드 게임 서비스 제공 시스템 및 방법 |
CN106162316A (zh) * | 2015-04-15 | 2016-11-23 | 腾讯科技(深圳)有限公司 | 一种视频流的数据处理方法、装置和系统 |
CN108282664B (zh) * | 2018-01-30 | 2020-12-29 | 深圳创维-Rgb电子有限公司 | 图像处理方法、装置、系统及计算机可读存储介质 |
-
2021
- 2021-11-16 CN CN202111357164.6A patent/CN114071190B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111681167A (zh) * | 2020-06-03 | 2020-09-18 | 腾讯科技(深圳)有限公司 | 画质调整方法和装置、存储介质及电子设备 |
CN111966311A (zh) * | 2020-07-15 | 2020-11-20 | 北京视博云信息技术有限公司 | 云游戏的显示设置方法、装置、可读存储介质及设备 |
CN112533059A (zh) * | 2020-11-20 | 2021-03-19 | 腾讯科技(深圳)有限公司 | 图像渲染方法、装置、电子设备以及存储介质 |
CN112929624A (zh) * | 2021-01-21 | 2021-06-08 | 杭州雾联科技有限公司 | 一种编码方法、装置、电子设备及计算机可读存储介质 |
CN112911013A (zh) * | 2021-02-20 | 2021-06-04 | 百度在线网络技术(北京)有限公司 | 云应用的处理方法、装置、计算机设备和存储介质 |
CN113101654A (zh) * | 2021-05-11 | 2021-07-13 | 江苏视博云信息技术有限公司 | 一种云游戏画面的显示方法、装置及存储介质 |
CN113411637A (zh) * | 2021-07-05 | 2021-09-17 | 北京海誉动想科技股份有限公司 | 画面处理方法与装置 |
Non-Patent Citations (1)
Title |
---|
高效视频编码关键技术研究;张世彦;《中国优秀硕士学位论文全文数据库》;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN114071190A (zh) | 2022-02-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114071190B (zh) | 云应用视频流处理方法、相关装置及计算机程序产品 | |
US8775545B1 (en) | Image hosting for cross-platform display over a communication network | |
US8856262B1 (en) | Cloud-based image hosting | |
CN113808231B (zh) | 信息处理方法及装置、图像渲染方法及装置、电子设备 | |
CN113655975B (zh) | 图像显示方法、装置、电子设备和介质 | |
CN113453073B (zh) | 一种图像渲染方法、装置、电子设备及存储介质 | |
US20220076476A1 (en) | Method for generating user avatar, related apparatus and computer program product | |
CN112015468A (zh) | 一种接口文档处理方法、装置、电子设备以及存储介质 | |
KR102583112B1 (ko) | 이미지를 처리하는 방법, 장치, 전자 기기, 저장 매체 및 프로그램 | |
CN114125498A (zh) | 视频数据处理方法、装置、设备以及存储介质 | |
CN113873318A (zh) | 视频播放方法、装置、设备和存储介质 | |
CN111813407A (zh) | 游戏开发方法、游戏运行方法、装置和电子设备 | |
CN113905040B (zh) | 文件传输方法、装置、系统、设备以及存储介质 | |
CN114501084B (zh) | 播放器的起播方法、装置、设备和介质 | |
CN113542802B (zh) | 视频的转场方法和装置 | |
CN113542888B (zh) | 视频的处理方法、装置、电子设备及存储介质 | |
CN114125135B (zh) | 一种视频内容呈现方法、装置、电子设备和存储介质 | |
CN113556621B (zh) | 码流切换的方法、服务器、客户端、设备以及存储介质 | |
CN111930356B (zh) | 用于确定图片格式的方法和装置 | |
CN114500505B (zh) | 文本处理方法、装置和电子设备 | |
CN113438428B (zh) | 用于视频自动化生成的方法、装置、设备和计算机可读存储介质 | |
CN113691866B (zh) | 视频处理方法、装置、电子设备和介质 | |
US11647153B1 (en) | Computer-implemented method, device, and computer program product | |
US9454617B1 (en) | Client rendering | |
CN111797933B (zh) | 模板匹配的方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |