CN113766146B - 音视频处理方法、装置、电子设备及存储介质 - Google Patents

音视频处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113766146B
CN113766146B CN202111044166.XA CN202111044166A CN113766146B CN 113766146 B CN113766146 B CN 113766146B CN 202111044166 A CN202111044166 A CN 202111044166A CN 113766146 B CN113766146 B CN 113766146B
Authority
CN
China
Prior art keywords
audio
video
data stream
processing
distribution module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111044166.XA
Other languages
English (en)
Other versions
CN113766146A (zh
Inventor
李明路
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202111044166.XA priority Critical patent/CN113766146B/zh
Publication of CN113766146A publication Critical patent/CN113766146A/zh
Priority to KR1020220062665A priority patent/KR20220077899A/ko
Priority to JP2022091970A priority patent/JP2022111205A/ja
Priority to US17/879,421 priority patent/US11863842B2/en
Priority to EP22189691.3A priority patent/EP4145839A1/en
Application granted granted Critical
Publication of CN113766146B publication Critical patent/CN113766146B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65—Transmission of management data between client and server
    • H04N21/658—Transmission by the client directed to the server
    • H04N21/6587—Control parameters, e.g. trick play commands, viewpoint selection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4344—Remultiplexing of multiplex streams, e.g. by modifying time stamps or remapping the packet identifiers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/426—Internal components of the client ; Characteristics thereof
    • H04N21/42607—Internal components of the client ; Characteristics thereof for processing the incoming bitstream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/222—Secondary servers, e.g. proxy server, cable television Head-end
    • H04N21/2223—Secondary servers, e.g. proxy server, cable television Head-end being a public access point, e.g. for downloading to or uploading from clients
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368—Multiplexing of audio and video streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/414—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/4143—Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a Personal Computer [PC]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4341—Demultiplexing of audio and video streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439—Processing of audio elementary streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44004—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/854—Content authoring
    • H04N21/8547—Content authoring involving timestamps for synchronizing content
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628—Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/765—Interface circuits between an apparatus for recording and another apparatus
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/91—Television signal processing therefor

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • General Engineering & Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本公开提供了一种音视频处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及媒体云技术领域。该方法包括：获取包含目标音视频数据流的目标处理请求；确定与目标处理请求对应的目标音视频管线，音视频管线基于按链式结构排列的多个功能组件构成，各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据；调用目标音视频管线持续处理目标音视频数据流，并持续输出经处理后得到的处理后音视频数据流。该方法通过控制由数据流分发模块提供的统一分发机制，得以将执行时序上的各功能组件解耦、无需执行时序在前的功能组件来调用执行时序在后的功能组件，在提升音视频流的处理效率的同时也降低了运维复杂度。

Description

音视频处理方法、装置、电子设备及存储介质
技术领域
本公开涉及数据处理技术领域，具体涉及媒体云技术领域，尤其涉及一种音视频处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。
背景技术
移动端的音视频数据处理框架与用于处理其它类别的数据处理框架相比有很大不同。音视频处理框架首先要立足移动端提供的系统能力，包括系统层面定义的软件框架和硬件能力。
而与其它移动端应用框架相比音视频框架最特别的地方就是管线部分，因为音视频SDK(Software Development Kit，软件开发工具包外文名)的产品与其它产品不太一样，首先需要的是实时处理，数据流是不断在各个功能组件/模块之间穿梭的。
因此，如何保证音视频数据流得以在各个功能组件间高效传输，是处理音视频数据的关键。
发明内容
本公开实施例提出了一种音视频处理方法、装置、电子设备、计算机可读存储介质及计算机程序产品。
第一方面，本公开实施例提出了一种音视频处理方法，包括：获取包含目标音视频数据流的目标处理请求；确定与目标处理请求对应的目标音视频管线，音视频管线基于按链式结构排列的多个功能组件构成，各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据；调用目标音视频管线持续处理目标音视频数据流，并持续输出经处理后得到的处理后音视频数据流。
第二方面，本公开实施例提出了一种音视频处理装置，包括：请求获取单元，被配置成获取包含目标音视频数据流的目标处理请求；目标管线确定单元，被配置成确定与目标处理请求对应的目标音视频管线，音视频管线基于按链式结构排列的多个功能组件构成，各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据；目标管线调用及输出返回单元，被配置成调用目标音视频管线持续处理目标音视频数据流，并持续输出经处理后得到的处理后音视频数据流。
第三方面，本公开实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的音视频处理方法。
第四方面，本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的音视频处理方法。
第五方面，本公开实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的音视频处理方法。
为更好的在移动端设备上处理音视频数据，本公开提供了一种将多个用于处理音视频数据流的多个功能组件按链式结构排列、采用预设的数据流分发模块统一向链上的各功能组件派发输入数据、回收输出数据的新式音视频管线构建方案，通过控制由该数据流分发模块提供的统一分发机制，得以将执行时序上的各功能组件解耦、无需由执行时序在前的功能组件来调用执行时序在后的功能组件，使功能组件仅需专注于其自身的数据处理，不仅提升了音视频流的处理效率也降低了运维复杂度，同时通过数据流分布模块也能够更好的监测音视频流在各功能组件间的流转情况。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：
图1为本公开实施例提供的一种音视频处理方法的流程图；
图2为本公开实施例提供的一种音视频数据的异步处理方法的流程图；
图3为本公开实施例提供的一种确定功能组件运行状态的方法的流程图；
图4为本公开实施例提供的一种基于处理耗时确定功能组件运行状态的方法的流程图；
图5为本公开实施例提供的一种音视频处理框架的结构示意图；
图6为本公开实施例提供的一种封装的特效中间件的结构示意图；
图7为本公开实施例提供的一种音视频处理装置的结构框图；
图8为本公开实施例提供的一种适用于执行音视频处理方法的电子设备的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
为便于理解，本公开首先描述可以应用本公开的音视频处理方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构，本公开所提供的技术方案的应用对象为移动终端，例如智能手机、平板电脑、智能眼镜等处理性能有限的可移动终端，旨在针对需要在移动终端上呈现的音视频流提供更好的处理方案。
该移动终端上可以包括音视频数据生产模块、音视频数据处理模块、处理后数据呈现模块，其中，音视频数据生成模块用于通过拍摄组件或采集模块得到最原始的音视频数据，例如设置在智能手机上的摄像头、拾音器、麦克风等；音视频数据处理模块则用于处理音视频数据生产模块持续传入的数据流，并将处理后的数据发送至处理后数据呈现模块来最终呈现给移动终端的使用者，例如以硬件方式存在的控制器、运算器、存储器，可以软件、虚拟形式存在的音视频管线；处理后数据呈现模块则通常表现为移动终端上的显示屏、扬声器、投影模块等。
上述各功能模块之间可采用有线或无线的方式进行数据处理传输，此处不再一一列举。
用户可以通过移动终端对录制到的音视频数据流进行实时处理，并实时查看到处理后的画面和音频。上述提及的各种操作和过程均可以通过安装在移动终端上的应用来实现，以通过应用来调用上述各功能模块，例如拍摄类应用、音视频处理类应用等。
音视频数据处理模块可通过响应音视频处理类应用下发的控制指令，实现对音视频数据的处理，例如：首先，获取由音视频数据生产模块传入的包含目标音视频数据流的目标处理请求；然后，确定与目标处理请求对应的目标音视频管线，音视频管线基于按链式结构排列的多个功能组件构成，各功能组件统一由预设的数据流分发模块派发输入数据流、回收输出数据流；最后，调用目标音视频管线持续处理目标音视频数据流，并持续输出经处理后得到的处理后音视频数据流至处理后数据呈现模块。
需要指出的是，包含目标音视频数据流的目标处理请求除可以直接从相同移动终端的音视频数据生产模块获取到之外，也可以通过网络获取得到，此种情况下，移动终端上也可以不包括音视频数据生产模块。
应该理解，上述内容提及的音视频数据生产模块、音视频数据处理模块、处理后数据呈现模块仅是一种示意性的功能模块划分方式，可根据实际需要对划分方式进行调整。
请参考图1，图1为本公开实施例提供的一种音视频处理方法的流程图，其中流程100包括以下步骤：
步骤101：获取包含目标音视频数据流的目标处理请求；
本步骤旨在由音视频处理方法的执行主体(例如上述系统架构中提及的设置在移动终端中的音视频数据处理模块)获取包含目标音视频数据流的目标处理请求。
其中，除直接将目标音视频数据流包含在请求的这种形式外，也存在不直接包含目标音视频数据流的情况，此种情况下，目标处理请求将指示持续的目标音视频流将如何传入或告知上述执行主体从哪里获取目标音视频数据流。
目标处理请求通常由有对音视频数据进行处理的需求的用户发起，发起的方式不限于直接在触摸屏上点选、发出语音指令、通过其它设备将上述执行主体转发控制命令等。
步骤102：确定与目标处理请求对应的目标音视频管线；
在步骤101的基础上，本步骤旨在由上述执行主体确定与目标处理请求对应的目标音视频管线。
其中，本公开中描述的音视频管线是基于按链式结构排列的多个功能组件构成、各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据的新式音视频管线，区别于传统的直接由时序链上的在先执行的功能组件直接调用在后执行的功能组件的现有音视频管线。
其中，该数据流分发模块可以具体为基于Dispatcher机制来实现， Dispatcher机制可以理解为一种事件分发机制，体现该机制的功能模块可以命名为事件分发器，例如Symfony EventDispatcher就是一种应用在插件系统中让系统和插件不会耦合在一起的一种事件分发器。
而本公开也是利用该机制解除现有音视频管线中各功能组件之间的耦合，即控制每个功能组件都将经自身处理后的音视频数据给到该数据流分发模块，而该数据流分发模块再将自己接收到的音视频数据根据链上的顺序派发给下一个功能模块，因此在本公开所提供的链式管线中，各功能组件不需要了解执行好自己的本质工作即可，简单的说，对于每个功能组件而言就是接收到数据就处理，然后输出给统一的数据流分发模块即可，不需要关心其它功能组件，充分实现了功能组件间的解耦。
另外，不同的音视频管线往往对应于不同的处理目的，例如为实现将视频画面转换为灰度、美颜、放大某个区域的目的，将可以分别对应3个不同的音视频管线，且每个不同的音视频管线出于不同的处理目的，往往由不同的功能组件构成。为能够在本步骤确定出与目标处理请求对应的目标音视频管线，还可以要求处理请求中用便于识别的格式在预设字段记录其处理目的。当然，处理请求中还可以根据实际情况记录其它信息。
步骤103：调用目标音视频管线持续处理目标音视频数据流，并持续输出经处理后的处理后音视频数据流。
在步骤102的基础上，本步骤旨在由上述执行主体调用目标音视频管线持续处理目标音视频数据流，并将通过目标音视频管线处理后持续输出的处理后音视频数据流传递至显示单元，例如移动终端的显示屏、扬声器等。
为更好的在移动端设备上处理音视频数据，本公开实施例提供的音视频处理方法，提供了一种将多个用于处理音视频数据流的多个功能组件按链式结构排列、采用预设的数据流分发模块统一向链上的各功能组件派发输入数据、回收输出数据的新式音视频管线构建方案，通过控制由该数据流分发模块提供的统一分发机制，得以将执行时序上的各功能组件解耦、无需由执行时序在前的功能组件来调用执行时序在后的功能组件，使功能组件仅需专注于其自身的数据处理，不仅提升了音视频流的处理效率也降低了运维复杂度，同时通过数据流分布模块也能够更好的监测音视频流在各功能组件间的流转情况。
为体现本公开上述实施例提供的新式音视频管线中的各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据的优势，本实施例结合图2给出了一种借助数据流分发模块来实现的异步处理方案，以通过该异步处理方案避免对无效音视频帧进行的无效处理，从而减少画面内容跳变大的问题，其中流程200包括以下步骤：
步骤201：控制数据流分发模块检测接收到的音视频数据的时间戳；
通常情况下，数据流分发模块的分发单位为帧，即每次派发的都是一个音视频数据帧，而每个音视频数据帧上附加的时间戳将能够表示该帧音视频数据的生成时间，并由此计算出已生成时长。
当然，也不排除可采用其它的分发单位来进行的可能性，例如每次以1秒的音视频片段来派发。
步骤202：控制数据流分发模块根据时间戳判断是否有新音视频数据先于旧音视频数据被处理；
其中，新音视频数据和旧音视频数据对应相同的生成源，且新音视频数据的已生成时长小于旧音视频数据的已生成时长。
在步骤201的基础上，本步骤旨在由上述执行主体控制数据流分发模块来根据检测到的时间戳来确定是否有新音视频数据先于旧音视频数据被处理的现象发生，从而根据判断结果选择不同的处理分支。
需要说明的是，绝大多数情况下音视频处理框架对流式的音视频数据的处理都是同步的，即严格遵照时间顺序，先发来指示处理的一定先进行、后续来的将一定后进行，但其忽略了有时可能因为中央处理器的“抖动”或其它问题导致某个线程在执行卡顿造成的异常情况，在此种异常情况下，有可能导致某个较晚生成的音视频帧早于某个较早声场的音视频被相同的功能组件处理，例如某个由摄像头于10分 01秒拍摄得到的第二图像帧先于摄像头于09分58秒拍摄到的第一图像帧被灰度转换组件处理。
在上述情况下，对于灰度转换组件来说，第二图像帧是先来的，第一图像帧反而是后来的，因此最终将会导致呈现在显示屏的情况是：用户觉得图像内容出现了跳帧和倒退的情况。
为解决这一问题，本实施例充分利用该数据流分发模块来基于时间戳来确定是否存在上述问题，并在发现存在该问题时，提供更合理的处理方式。
步骤203：控制数据流分发模块丢弃未处理的旧音视频数据；
本步骤建立在步骤202的判断结果为有新音视频数据先于旧音视频数据被处理的基础上，因此为了避免出现“跳帧和倒退”的情况，上述执行主体将控制数据流分发模块将不再将旧音视频数据进行派发，并将其丢弃。
进一步的，在用于画面呈现的连续帧音视频数据的时间戳差超过预设时长时，还可以对连续帧音视频数据进行画面内容的连贯性处理，以尽可能的消除跳帧感。
步骤204：控制数据流分发模块按时序正常处理当前的音视频数据。
本步骤建立在步骤202的判断结果为每有新音视频数据先于旧音视频数据被处理的基础上，因此上述执行主体将控制数据流分发模块按时序正常处理当前的音视频数据。
为体现本公开上述实施例提供的新式音视频管线中的各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据的优势，本实例通过图3提供了一种具体的实现方案，以凸显数据流分发模块可根据音视频流在各功能组件之间的流转情况确定出各功能组件的实际运行状态，从而实现根据实际运行状态更好的进行管线内精细化调整的效果，其中流程300包括以下步骤：
步骤301：控制数据流分发模块确定各功能组件的实际运行状态；
具体的，数据流分发模块可以通过多种方式来确定功能组件的实际运行状态，例如可通过自己在向其派发输入数据和从其回收输出数据的时间差来确定实际运行状态，还可以通过功能组件的对派发的输入数据的积攒、挂起情况来确定其实际运行状态，还可以通过对输出数据的正确性、有效性进行检验来确定实际运行状态等等。
可根据实际情况，选择最符合实际情况的需求的确定方式。
步骤302：控制数据流分发模块根据实际运行状态调整与相应的功能组件存在关联关系的其它功能组件的功能参数。
在步骤301的基础上，本步骤旨在由上述执行主体控制数据流分发模块根据实际运行状态调整与相应的功能组件存在关联关系的其它功能组件的功能参数。
因为每个管线都是按链式结构将其中的不同功能组件排列得到的，因此关联关系主要体现在其上游或下游，而涉及到的可调整的功能参数则可以包括：采样率、编码率、处理效率、分辨率、数量等可以影响处理效率的各式参数。
进一步的，若实际运行状态超出了功能参数的调整上限(即某个功能组件的实际运行状态差到难以通过调整功能组件的方式来解决)，还可以控制数据流分发模块上报功能组件异常通知，以寻求更具有针对性、更直接的功能组件的修复策略。
图4为图3所示实施例中提及的一种基于处理耗时确定功能组件运行状态的方法的流程图，其中流程400包括以下步骤：
步骤401：控制数据流分发模块计算向每个功能组件派发输入数据和从每个功能组件回收输出数据的时间差；
步骤402：控制数据流分发模块分别根据时间差确定相应的功能组件的实际处理耗时；
步骤403：控制数据流分发模块根据实际处理耗时确定相应的功能组件的实际运行状态。
一种包括且不限于的实现方式可以为：
判断实际处理耗时是否处于与相同的功能组件对应的正常处理耗时区间中；
若实际处理耗时处于与相同的功能组件对应的正常处理耗时区间中，则控制数据流分发模块确定对应实际处理耗时的功能组件处于正常运行状态；
若实际处理耗时未处于与相同的功能组件对应的正常处理耗时区间中，则控制数据流分发模块确定对应实际处理耗时的功能组件处于异常运行状态。
其中，正常处理耗时区间基于确定处于正常运行状态的相同功能组件的历史处理耗时情况确定得到。
除上述采用判断实际处理耗时是否落在某个区间的方式外，还可以直接设定一个临界值来简化判断步骤，该临界值可以为该正常处理耗时区间的上限值，也可以通过其它方式来确定，此处不做具体确定。
在上述任意实施例的基础上，还可以根据实际需求，将音视频管线分为单一音视频管线和复合音视频管线两类或者多类，其中，复合音视频管线基于多个单一音视频管线封装得到，以通过此种封装的方式来为调用方提供更便捷的调用操作(即提升易用性)，例如高级美颜功能实际上就涉及对人脸面部图像进行多个不同的图像处理，例如提升图像亮度、放大眼部、去除图像噪点、改变部分图像内容的形状等等，如果不进行二次封装，那么上述的每一个处理项都对应一个单一音视频管线，就需要前后的多次调用，而经过封装后则只需要对外呈现一个调用接口。
为加深理解，本公开还结合一个具体应用场景，给出了一种具体的实现方案，请参见图5所示的音视频处理框架的结构示意图：
通过对现有的GPUImage(一种开源的图像处理库或图像处理框架)结构的思考，本实施例将首先为新音视频处理框架的设计如下的目标：协议比较简单、用起来比较容易上手、对开发者友好，以及要支持对音视频数据的异步处理、调度是安全的、链路配置是简单可依赖的。
为实现上述设计目标，本实施例仍然选择将链式作为新音视频处理框架的核心思想，并基于该核心思想构建新的音视频管线：
首先制定数据协议，以解决基本功能组件间数据能够高效、稳定的进行传递。如图6所示，提供了AVOutput(可直译为音视频输出) 模块和AVInput(可直译为音视频输入)模块来构建数据的传输接收协议，并单纯的记录和管理这条链条上的各个的功能组件，并将其命名为Target。然后通过Dispatcher的机制，分发从生产端(即图6中的 Camera/media，即摄像头/多媒体)上报的视频帧，并将视频帧不断的传递到各个链路的Target当中，而每个Target实现AVInput其中的协议方法。例如frame(框架)跟type(类型)两个函数，type函数用于做一些音视频的音频跟视频的区分。
然后，还设计支持一些二进制场景的分发，主要是为了配合像直播这种对数据有分发要求的场景做了一些协议的升级。在链条的最末端，实现了AVControl模块(可直译为音视频控制)，并在该AVControl 模块中内置了控制协议，该控制协议主要是为了更精细化的控制数据的流入和流出。以期在持续、不断传递的音视频流过程中，避免因某个模块出现异常却没有一种机制能保护它、进而导致整个SDK运行不稳定的问题出现。比如在直播场景分发的时候发现网络有抖动，此时可以通过该AVControl模块来调整发送的速率、速度等。
另外，还结合实际需求设计了基于二次封装的中间件：
这是因为发现只是简单的设计单一音视频管线其实并不能很好的对业务场景开发提供帮助。因为只是解决了各个模块数据之间的传递问题，但是并不能对最终产品的场景开发落地解决所有的问题，因为场景跟模块是有很大差异的，以大众所了解的像点播、直播、甚至特效等，它其实都是通用性的能力。但是实际场景就涉及到各个模块之间的组合，所以数据的传递并不能说传递一个数据，就能把一个场景串联起来。
比如对于点播的画质优化，会发现类型转换不是那么通畅和简单。对于连麦场景，如何能够让产品用起来更简单是非常关键的；像人脸特效，比如说涉及到能力的多样化，如何做到兼容性等，这些都不只是靠数据链路或模块搭载就能解决的。因此本实施例提到了一个中间件(等同于上述实施例提及的复合音视频管线)的概念，即把音视频数据进行桥接实现资源的共享，在各个模块或业务输出或使用的时候，就能提高整体数据采集或处理的应用性。这部分主要用于结合实际应用层面。
以图7所示的用于实现高级美颜功能的特效中间件为例，将具体解释将如何具体工作：
特效模块通常是典型的PaaS(Platform as a Service的缩写，指平台即服务)结构，它上面存在多种模型，而且模型之间是可以进行插拔；它还有另外一个特点就是耗资源。
本实施例在音视频SDK中将这个模块更好的运用起来，去对外提供相应功能的方式为：
以人脸特效的高级美颜接口为例，高级美颜中涉及到的特征点非常多，像大眼、瘦脸、下巴等，而且这些特征点并不是通过一次迭代或是一个模型就能解决的，它可能会涉及到多次的迭代和多种模型的组合叠加。这样就会带来一个问题，在集成特效模块的时候，如果这些能力都是不断变化的，对于模块的使用来说，就存在一个不安全不稳定的因素。
首先在调用能力的时候，不直接去调用，而是把这些能力做进行抽象、封装，然后这些封装的模型，用来关联后面的一些不同的算法。因为实际使用者在用SDK的时候，不一定按照你所有东西来集成，可能只使用其中部分能力，这样就有可能会导致一些特效的SDK存在版本不一致。如果没有这个代理层，当出现版本不一致的情况，对于上层来说可能就会出现大量接口的调整和修改，会比较耗时耗力。
通过数据管线我们可以看到，从录制模块把数据传到Effect接口，再把数据再给到AR SDK(用于增强现实的软件开发工具包)的时候，每个AR SDK都会有一个处理检测能力，会定时的检测主屏指标等，以借助该处理检测能力包保证每帧的处理和整体链路的稳定。其中， UpDate模块用于持续接收新的到来的图像数据，而Callback模块则用于实现上述实施例提及的判断是否有新图像帧早于旧图像帧被处理的判断以及丢弃操作，实现异步控制。
即通过不断做一些性能指标的监测，这些指标监测需要不断的反馈给上层的调用。比如当前数据传输的速度较快，或者传递帧太多处理不完，由此就可以通过数据管线进行回传，进行控制。甚至可以调整录制模块采集的帧率等，这样再把数据返回给录制模块，录制模块再将数据传递给其它模块，像预览进行渲染等。通过数据管线加代理的方案，就可以很好的整合不同AR版本、能力，对外保持接口的统一。
本实施例通过开放自身数据管线的能力，用户可以更加稳定(在同步处理方案上增加实现异步处理方案)、高效的方式集成到数据管线当中，实现功能。并且相对开源产品来说，可提供更加简洁、易懂的接入方案，让用户实现及维护成本也相对减少；其次相对开源的数据管线来说，本实施例引入了控制接口，可以更加方便的控制数据在管线中的流动，可以从底层接口控制模块间数据的流转，给用户提供了更多可能的业务设计；最后数据管线提供一些封装中间件的最佳实践，帮助用户打通了模块间的数据流转，而这些中间件是经过反复验证，质量和性能都是可控，减少客户二次开发的成本。
进一步参考图7，作为对上述各图所示方法的实现，本公开提供了一种音视频处理装置的一个实施例，该装置实施例与图1所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图7所示，本实施例的音视频处理装置700可以包括：请求获取单元701、目标管线确定单元702、目标管线调用及输出返回单元703。其中，请求获取单元701，被配置成获取包含目标音视频数据流的目标处理请求；目标管线确定单元702，被配置成确定与目标处理请求对应的目标音视频管线；其中，音视频管线基于按链式结构排列的多个功能组件构成，各功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据；目标管线调用及输出返回单元703，被配置成调用目标音视频管线持续处理目标音视频数据流，并持续输出经处理后的处理后音视频数据流。
在本实施例中，音视频处理装置700中：请求获取单元701、目标管线确定单元702、目标管线调用及输出返回单元703的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤201-203的相关说明，在此不再赘述。
在本实施例的一些可选的实现方式中，音视频处理装置700中还可以包括：
时间戳检测单元，被配置成控制数据流分发模块检测接收到的音视频数据的时间戳；
异步处理单元，被配置成响应于根据时间戳确定有新音视频数据先于旧音视频数据被处理，丢弃未处理的旧音视频数据；其中，新音视频数据和旧音视频数据对应相同的生成源，且新音视频数据的已生成时长小于旧音视频数据的已生成时长。
在本实施例的一些可选的实现方式中，音视频处理装置700中还可以包括：
连贯性处理单元，被配置成响应于用于画面呈现的连续帧音视频数据的时间戳差超过预设时长，对连续帧音视频数据进行画面内容的连贯性处理。
在本实施例的一些可选的实现方式中，音视频处理装置700中还可以包括：
组件运行状态确定单元，被配置成控制数据流分发模块确定各功能组件的实际运行状态；
功能参数调整单元，被配置成控制数据流分发模块根据实际运行状态调整与相应的功能组件存在关联关系的其它功能组件的功能参数。
在本实施例的一些可选的实现方式中，功能参数调整单元包括：
时间差计算子单元，被配置成控制数据流分发模块计算向每个功能组件派发输入数据和从每个功能组件回收输出数据的时间差；
实际处理耗时确定子单元，被配置成控制数据流分发模块分别根据时间差确定相应的功能组件的实际处理耗时；
实际运行状态确定子单元，被配置成控制数据流分发模块根据实际处理耗时确定相应的功能组件的实际运行状态。
在本实施例的一些可选的实现方式中，实际运行状态确定子单元被进一步配置成：
响应于实际处理耗时处于与相同的功能组件对应的正常处理耗时区间中，控制数据流分发模块确定对应实际处理耗时的功能组件处于正常运行状态；其中，正常处理耗时区间基于确定处于正常运行状态的相同功能组件的历史处理耗时情况确定得到；
响应于实际处理耗时未处于与相同的功能组件对应的正常处理耗时区间中，控制数据流分发模块确定对应实际处理耗时的功能组件处于异常运行状态。
在本实施例的一些可选的实现方式中，音视频处理装置700中还可以包括：
异常通知上报单元，被配置成响应于实际运行状态超出了功能参数的调整上限，控制数据流分发模块上报功能组件异常通知。
在本实施例的一些可选的实现方式中，目标音视频管线包括单一音视频管线和复合音视频管线，复合音视频管线基于多个单一音视频管线封装得到。
本实施例作为对应于上述方法实施例的装置实施例存在。
为更好的在移动端设备上处理音视频数据，本公开实施例提供的音视频处理装置，借助上述各功能单元提供了一种将多个用于处理音视频数据流的多个功能组件按链式结构排列、采用预设的数据流分发模块统一向链上的各功能组件派发输入数据、回收输出数据的新式音视频管线构建方案，通过控制由该数据流分发模块提供的统一分发机制，得以将执行时序上的各功能组件解耦、无需由执行时序在前的功能组件来调用执行时序在后的功能组件，使功能组件仅需专注于其自身的数据处理，不仅提升了音视频流的处理效率也降低了运维复杂度，同时通过数据流分布模块也能够更好的监测音视频流在各功能组件间的流转情况。
根据本公开的实施例，本公开还提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现上述任意实施例所描述的音视频处理方法。
根据本公开的实施例，本公开还提供了一种可读存储介质，该可读存储介质存储有计算机指令，该计算机指令用于使计算机执行时能够实现上述任意实施例所描述的音视频处理方法。
本公开实施例提供了一种计算机程序产品，该计算机程序在被处理器执行时能够实现上述任意实施例所描述的音视频处理方法。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如音视频处理方法。例如，在一些实施例中，音视频处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的音视频处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行音视频处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT (阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统 (例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络) 来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理复杂度大，业务扩展性弱的缺陷。
为更好的在移动端设备上处理音视频数据，本公开实施例提供了一种将多个用于处理音视频数据流的多个功能组件按链式结构排列、采用预设的数据流分发模块统一向链上的各功能组件派发输入数据、回收输出数据的新式音视频管线构建方案，通过控制由该数据流分发模块提供的统一分发机制，得以将执行时序上的各功能组件解耦、无需由执行时序在前的功能组件来调用执行时序在后的功能组件，使功能组件仅需专注于其自身的数据处理，不仅提升了音视频流的处理效率也降低了运维复杂度，同时通过数据流分布模块也能够更好的监测音视频流在各功能组件间的流转情况。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (16)

1.一种音视频处理方法，包括：
获取包含目标音视频数据流的目标处理请求；其中，所述目标处理请求用便于识别的格式在预设字段记录其处理目的；
确定与所述目标处理请求对应的目标音视频管线；其中，音视频管线基于按链式结构排列的多个功能组件构成，各所述功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据；
调用所述目标音视频管线持续处理所述目标音视频数据流，并持续输出经处理后得到的处理后音视频数据流；
控制所述数据流分发模块检测接收到的音视频数据的时间戳；
响应于根据所述时间戳确定有新音视频数据先于旧音视频数据被处理，丢弃未处理的旧音视频数据；其中，所述新音视频数据和所述旧音视频数据对应相同的生成源，且所述新音视频数据的已生成时长小于所述旧音视频数据的已生成时长。
2.根据权利要求1所述的方法，还包括：
响应于用于画面呈现的连续帧音视频数据的时间戳差超过预设时长，对所述连续帧音视频数据进行画面内容的连贯性处理。
3.根据权利要求1所述的方法，还包括：
控制所述数据流分发模块确定各所述功能组件的实际运行状态；
控制所述数据流分发模块根据所述实际运行状态调整与相应的功能组件存在关联关系的其它功能组件的功能参数。
4.根据权利要求3所述的方法，其中，所述控制所述数据流分发模块确定各所述功能组件的实际运行状态，包括：
控制所述数据流分发模块计算向每个所述功能组件派发输入数据和从每个所述功能组件回收输出数据的时间差；
控制所述数据流分发模块分别根据所述时间差确定相应的功能组件的实际处理耗时；
控制所述数据流分发模块根据所述实际处理耗时确定相应的功能组件的实际运行状态。
5.根据权利要求4所述的方法，其中，所述控制所述数据流分发模块根据所述实际处理耗时确定相应的功能组件的实际运行状态，包括：
响应于所述实际处理耗时处于与相同的功能组件对应的正常处理耗时区间中，控制所述数据流分发模块确定对应所述实际处理耗时的功能组件处于正常运行状态；其中，所述正常处理耗时区间基于确定处于正常运行状态的相同功能组件的历史处理耗时情况确定得到；
响应于所述实际处理耗时未处于与相同的功能组件对应的正常处理耗时区间中，控制所述数据流分发模块确定对应所述实际处理耗时的功能组件处于异常运行状态。
6.根据权利要求3所述的方法，还包括：
响应于所述实际运行状态超出了所述功能参数的调整上限，控制所述数据流分发模块上报功能组件异常通知。
7.根据权利要求1-6任一项所述的方法，其中，所述目标音视频管线包括单一音视频管线和复合音视频管线，所述复合音视频管线基于多个所述单一音视频管线封装得到。
8.一种音视频处理装置，包括：
请求获取单元，被配置成获取包含目标音视频数据流的目标处理请求；其中，所述目标处理请求用便于识别的格式在预设字段记录其处理目的；
目标管线确定单元，被配置成确定与所述目标处理请求对应的目标音视频管线；其中，音视频管线基于按链式结构排列的多个功能组件构成，各所述功能组件统一由预设的数据流分发模块派发输入数据、回收输出数据；
目标管线调用及输出返回单元，被配置成调用所述目标音视频管线持续处理所述目标音视频数据流，并持续输出经处理后得到的处理后音视频数据流；
时间戳检测单元，被配置成控制所述数据流分发模块检测接收到的音视频数据的时间戳；
异步处理单元，被配置成响应于根据所述时间戳确定有新音视频数据先于旧音视频数据被处理，丢弃未处理的旧音视频数据；其中，所述新音视频数据和所述旧音视频数据对应相同的生成源，且所述新音视频数据的已生成时长小于所述旧音视频数据的已生成时长。
9.根据权利要求8所述的装置，还包括：
连贯性处理单元，被配置成响应于用于画面呈现的连续帧音视频数据的时间戳差超过预设时长，对所述连续帧音视频数据进行画面内容的连贯性处理。
10.根据权利要求8所述的装置，还包括：
组件运行状态确定单元，被配置成控制所述数据流分发模块确定各所述功能组件的实际运行状态；
功能参数调整单元，被配置成控制所述数据流分发模块根据所述实际运行状态调整与相应的功能组件存在关联关系的其它功能组件的功能参数。
11.根据权利要求10所述的装置，其中，所述功能参数调整单元包括：
时间差计算子单元，被配置成控制所述数据流分发模块计算向每个所述功能组件派发输入数据和从每个所述功能组件回收输出数据的时间差；
实际处理耗时确定子单元，被配置成控制所述数据流分发模块分别根据所述时间差确定相应的功能组件的实际处理耗时；
实际运行状态确定子单元，被配置成控制所述数据流分发模块根据所述实际处理耗时确定相应的功能组件的实际运行状态。
12.根据权利要求11所述的装置，其中，所述实际运行状态确定子单元被进一步配置成：
响应于所述实际处理耗时处于与相同的功能组件对应的正常处理耗时区间中，控制所述数据流分发模块确定对应所述实际处理耗时的功能组件处于正常运行状态；其中，所述正常处理耗时区间基于确定处于正常运行状态的相同功能组件的历史处理耗时情况确定得到；
响应于所述实际处理耗时未处于与相同的功能组件对应的正常处理耗时区间中，控制所述数据流分发模块确定对应所述实际处理耗时的功能组件处于异常运行状态。
13.根据权利要求10所述的装置，还包括：
异常通知上报单元，被配置成响应于所述实际运行状态超出了所述功能参数的调整上限，控制所述数据流分发模块上报功能组件异常通知。
14.根据权利要求8-13任一项所述的装置，其中，所述目标音视频管线包括单一音视频管线和复合音视频管线，所述复合音视频管线基于多个所述单一音视频管线封装得到。
15.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的音视频处理方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的音视频处理方法。
CN202111044166.XA 2021-09-07 2021-09-07 音视频处理方法、装置、电子设备及存储介质 Active CN113766146B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202111044166.XA CN113766146B (zh) 2021-09-07 2021-09-07 音视频处理方法、装置、电子设备及存储介质
KR1020220062665A KR20220077899A (ko) 2021-09-07 2022-05-23 오디오 및 비디오 처리 방법, 장치, 전자 기기, 저장 매체 및 프로그램
JP2022091970A JP2022111205A (ja) 2021-09-07 2022-06-07 オーディオ／ビデオの処理方法、処理装置、電子機器、記憶媒体およびコンピュータプログラム
US17/879,421 US11863842B2 (en) 2021-09-07 2022-08-02 Method and apparatus for processing audio and video, electronic device and storage medium
EP22189691.3A EP4145839A1 (en) 2021-09-07 2022-08-10 Method and apparatus for processing audio and video using pipelines, electronic device, storage medium and program product

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111044166.XA CN113766146B (zh) 2021-09-07 2021-09-07 音视频处理方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN113766146A CN113766146A (zh) 2021-12-07
CN113766146B true CN113766146B (zh) 2022-09-16

Family

ID=78793398

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111044166.XA Active CN113766146B (zh) 2021-09-07 2021-09-07 音视频处理方法、装置、电子设备及存储介质

Country Status (5)

Country Link
US (1) US11863842B2 (zh)
EP (1) EP4145839A1 (zh)
JP (1) JP2022111205A (zh)
KR (1) KR20220077899A (zh)
CN (1) CN113766146B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116074465B (zh) * 2023-03-10 2023-10-24 共道网络科技有限公司 跨网庭审系统、方法、设备及计算机可读存储介质
CN116756444B (zh) * 2023-06-14 2024-08-06 北京百度网讯科技有限公司 图像处理方法、装置、设备以及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103412812A (zh) * 2013-08-23 2013-11-27 北京奇虎科技有限公司 浏览器运行状态监测方法及装置
CN108737874A (zh) * 2018-06-05 2018-11-02 武汉斗鱼网络科技有限公司 一种视频播放方法及电子设备
CN111147801A (zh) * 2019-12-31 2020-05-12 视联动力信息技术股份有限公司 一种视联网终端的视频数据处理方法和装置
CN112665711A (zh) * 2020-12-21 2021-04-16 陕西宝光集团有限公司 设备运行状态的检测方法、装置、电子设备及存储介质
CN112995596A (zh) * 2021-02-18 2021-06-18 咪咕文化科技有限公司 全景视频传输方法、装置、电子设备和存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9167296B2 (en) 2012-02-28 2015-10-20 Qualcomm Incorporated Customized playback at sink device in wireless display system
US8791980B2 (en) * 2012-06-05 2014-07-29 Tangome, Inc. Controlling CPU usage to balance fast and slow devices
WO2014046648A1 (en) * 2012-09-19 2014-03-27 Thomson Licensing Control command forwarding in multimedia applications network
US9426439B2 (en) * 2013-03-12 2016-08-23 Intel Corporation Exposing media processing features
JP6275506B2 (ja) * 2014-02-21 2018-02-07 ルネサスエレクトロニクス株式会社 コンテンツ出力装置
US10380253B2 (en) * 2014-03-04 2019-08-13 International Business Machines Corporation Natural language processing with dynamic pipelines
CN105898541B (zh) * 2014-11-12 2019-11-26 恩智浦美国有限公司 降低多媒体系统中等待时间的方法和装置
US9532099B2 (en) * 2015-03-24 2016-12-27 Intel Corporation Distributed media stream synchronization control
JP6834766B2 (ja) * 2017-05-16 2021-02-24 住友電気工業株式会社 コンテンツ再生装置
CN112887745B (zh) * 2021-01-22 2023-02-28 广州虎牙科技有限公司 数据处理方法、系统、电子设备和计算机可读存储介质
CN113242358A (zh) * 2021-04-25 2021-08-10 百度在线网络技术（北京）有限公司 音频数据处理方法、装置、系统、电子设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103412812A (zh) * 2013-08-23 2013-11-27 北京奇虎科技有限公司 浏览器运行状态监测方法及装置
CN108737874A (zh) * 2018-06-05 2018-11-02 武汉斗鱼网络科技有限公司 一种视频播放方法及电子设备
CN111147801A (zh) * 2019-12-31 2020-05-12 视联动力信息技术股份有限公司 一种视联网终端的视频数据处理方法和装置
CN112665711A (zh) * 2020-12-21 2021-04-16 陕西宝光集团有限公司 设备运行状态的检测方法、装置、电子设备及存储介质
CN112995596A (zh) * 2021-02-18 2021-06-18 咪咕文化科技有限公司 全景视频传输方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
US20220377433A1 (en) 2022-11-24
JP2022111205A (ja) 2022-07-29
KR20220077899A (ko) 2022-06-09
US11863842B2 (en) 2024-01-02
CN113766146A (zh) 2021-12-07
EP4145839A1 (en) 2023-03-08

Similar Documents

Publication Publication Date Title
EP3417380B1 (en) Recording web conferences
US10938725B2 (en) Load balancing multimedia conferencing system, device, and methods
JP6582100B2 (ja) 音声サービスを提供するための方法および装置
CN109089130B (zh) 一种调整直播视频的时间戳的方法和装置
CN113766146B (zh) 音视频处理方法、装置、电子设备及存储介质
WO2020042350A1 (zh) 一种桌面投屏方法、装置、设备及存储介质
US8922713B1 (en) Audio and video synchronization
CN106488265A (zh) 一种发送媒体流的方法和装置
CN113556584B (zh) 云手机的截图传输方法、装置、电子设备和存储介质
CN113794909A (zh) 视频流传输系统、方法、服务器、装置以及存储介质
CN114222195A (zh) 一种直播推流方法、装置、电子设备和存储介质
CN115941907A (zh) 一种rtp数据包发送方法、系统、电子设备及存储介质
CN113810629B (zh) 一种融合平台多媒体信号的视频帧处理方法及装置
CN114416013A (zh) 数据发送方法、装置、电子设备及计算机可读存储介质
CN114401254B (zh) 流媒体服务的处理方法、装置、电子设备及存储介质
CN111787418B (zh) 基于人工智能ai的音视频流的对接处理方法及相关设备
CN113727183B (zh) 直播推流方法、装置、设备、存储介质及计算机程序产品
CN113364672B (zh) 媒体网关信息确定方法、装置、设备和计算机可读介质
CN114449095B (zh) 云手机截图方法、装置、电子设备和存储介质
TWI823146B (zh) 用於即時mr互動應用之邊緣渲染運算方法及系統
CN112839243B (zh) 码流中转方法、装置、电子设备及存储介质
CN111966510B (zh) 一种计算数据流的方法、系统、设备及介质
WO2023108468A1 (zh) 一种流媒体处理方法、系统及设备
CN115373833A (zh) 多媒体处理方法、云端服务器和多媒体处理系统
CN114639389A (zh) 语音通信回声消除的方法、设备及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant