WO2022033379A1 - 一种媒体信息传输方法及装置 - Google Patents

一种媒体信息传输方法及装置 Download PDF

Info

Publication number
WO2022033379A1
WO2022033379A1 PCT/CN2021/110698 CN2021110698W WO2022033379A1 WO 2022033379 A1 WO2022033379 A1 WO 2022033379A1 CN 2021110698 W CN2021110698 W CN 2021110698W WO 2022033379 A1 WO2022033379 A1 WO 2022033379A1
Authority
WO
WIPO (PCT)
Prior art keywords
media information
transmission
message
transmission interface
interface
Prior art date
Application number
PCT/CN2021/110698
Other languages
English (en)
French (fr)
Inventor
提纯利
韦家毅
Original Assignee
华为技术有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN202011323678.5A external-priority patent/CN114143365A/zh
Application filed by 华为技术有限公司 filed Critical 华为技术有限公司
Publication of WO2022033379A1 publication Critical patent/WO2022033379A1/zh

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/1066Session management
    • H04L65/1069Session establishment or de-establishment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/10Architectures or entities
    • H04L65/1059End-user terminal functionalities specially adapted for real-time communication
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/762Media network packet handling at the source 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/43615Interfacing a Home Network, e.g. for connecting the client to a plurality of peripherals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/4508Management of client data or end-user data
    • H04N21/4516Management of client data or end-user data involving client characteristics, e.g. Set-Top-Box type, software version or amount of memory available
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/654Transmission by server directed to the client
    • H04N21/6547Transmission by server directed to the client comprising parameters, e.g. for client setup

Abstract

本申请提供一种媒体信息传输方法及装置,应用于第一设备时,该方法包括:采集第一媒体信息;所述第一媒体信息为原始媒体信息;通过第一设备的第一传输接口向第二设备发送所述第一媒体信息;所述第一设备的第一传输接口为支持原始媒体信息传输的接口。从而,无需编码后再传输媒体信息,避免了传输媒体信息时的编解码的开销,降低系统传输媒体信息的时延,提高传输效果。

Description

一种媒体信息传输方法及装置
相关申请的交叉引用
本申请要求在2020年08月14日提交中国专利局、申请号为202010819872.6、申请名称为“分布式语音交互系统”的中国专利申请的优先权,其全部内容通过引用结合在本申请中;本申请要求在2020年11月23日提交中国专利局、申请号为202011323678.5、申请名称为“一种媒体信息传输方法及装置”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。
技术领域
本申请实施例涉及媒体技术领域,尤其涉及一种媒体信息传输方法及装置。
背景技术
现有的流媒体传输协议和专利技术(如高清多媒体接口(high definition multimedia interface,HDMI)、显示接口(DisplayPort,DP)等)主要针对面向人主观观看的场景进行设计,以采集、编码、传输、解码、显示为基本架构。例如,通过图像采集设备采集原始的视频或图像资源,通过将原始的视频或图像资源进行处理(具体需要通过图像采集设备进行媒体信息处理、媒体编码、物理层协议转换、压缩转码等处理),生成视频流,再通过相应的接口传输给其他设备,这些设备对接收到的视频流进行解码或解压后恢复出标准的音视频信号。上述过程中,需要大量的解码或解压缩的过程,对图像采集设备的要求很高,并且导致计算资源的浪费和传输带宽资源的浪费。
发明内容
本申请提供了一种媒体信息传输方法及装置,用以解决现有技术中采用媒体信息传输过程中,对图像采集设备的要求很高,并占用较大的带宽资源,不利于媒体信息传输的应用。
第一方面,本申请一种媒体信息传输方法,应用于第一设备;所述方法包括:
采集第一媒体信息;所述第一媒体信息为原始媒体信息;通过第一设备的第一传输接口向第二设备发送所述第一媒体信息;所述第一设备的第一传输接口为支持原始媒体信息传输的接口。
其中,执行上述方法的设备可以是第一设备,也可以是具有相应功能的模块或部件,例如,芯片。下面以第一设备执行该方法为例,第一设备可以为具有采集媒体信息能力的设备。第一设备可以包括第一传输接口,该第一传输接口支持传输原始媒体信息,从而,实现将原始媒体信息通过第一传输接口传输给第二设备,避免了现有技术中需要在发送端对媒体信息进行压缩编码,并需要在媒体信息的接收端进行恢复传输的媒体信息,编解码过程较为复杂,降低了计算资源的开销,并整体降低系统的延迟。尤其是在带宽受限的短距传输场景中,或者,第一设备的媒体信息处理能力较弱的场景下,通过第一设备和第二设备的媒体传输协同,利用第二设备对媒体信息处理,实现更多的媒体信息处理的应用, 提高用户协同使用第一设备和第二设备的体验。
一种可能的实现方式,第一设备和第二设备之间传输原始媒体信息的方式,可以通过建立媒体传输协同实现。建立媒体传输协同可以由第一设备触发,也可以由第二设备触发。建立媒体传输协同可以为通过预先设置的配置条件触发的,也可以是用户发起的,在此不做限定。以用户在媒体传输协同设置界面触发建立媒体传输协同为例,该媒体传输协同设置界面可以为在第一设备上显示,也可以在第二设备上显示,在此不做限定。下面以用户触发并在第一设备上显示媒体传输协同设置界面为例,用户可以在媒体传输协同设置界面触发与第二设备建立媒体传输协同的请求,例如,用户对第一设备上的媒体传输协同设置界面的建立媒体传输协同的控件进行第一操作,从而,响应于在第一设备上的第一操作,向所述第二设备发送第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;第一设备接收所述第二设备返回的第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。可选的,第一设备上还可以显示成功建立媒体传输协同的通知消息。
另一种可能的实现方式,可以是用户在第二设备上触发建立媒体传输协同。例如,响应于在第二设备上的第三操作,向所述第一设备发送第一通知消息;相应的,第一设备接收所述第一通知消息,所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;响应于第一通知消息,向第二设备发送第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。可选的,第二设备上还可以显示成功建立媒体传输协同的通知消息。
通过上述方法,可以通过第一设备上的第一操作,触发第一设备和第二设备建立媒体传输协同的过程,并通过第二设备确认是否开启媒体传输协同。媒体传输协同可以是第一设备通过所述第一传输接口向第二设备发送原始媒体信息,第二设备对原始媒体信息进行处理的协同过程,提升用户使用第一设备和第二设备协同处理媒体信息的体验。
建立媒体传输协同的方式可以包括对第一设备和第二设备进行能力协商的方式,还可以包括对第一设备和第二设备进行鉴权认证的方式。
一种可能的实现方式,所述通过第一设备的传输接口向第二设备发送所述第一媒体信息之前,还包括:通过所述第一传输接口接收所述第二设备发送的能力协商请求消息;所述能力协商请求消息用于请求所述第一设备的传输接口支持的传输协议,所述第一设备的传输协议用于指示所述第一设备支持传输原始媒体信息;通过所述第一传输接口向所述第二设备发送能力协商响应消息;所述能力协商响应消息用于确认所述第一设备支持传输原始媒体信息的传输协议。
一种可能的实现方式,所述通过第一设备的传输接口向第二设备发送所述第一媒体信息之前,还包括:通过所述第一传输接口向所述第二设备发送能力协商请求消息;所述能力协商请求消息用于请求所述第二设备的传输接口支持的传输协议,所述第二设备的传输协议用于指示所述第二设备支持传输原始媒体信息;通过所述第一传输接口接收所述第二设备发送的能力协商响应消息;所述能力协商响应消息用于确认所述第二设备支持传输原始媒体信息的传输协议。
通过上述方法,可以通过能力协商的方式,例如,第一设备发起协商请求消息,或者 第二设备发起协商请求消息,从而,确认第一设备是否具备传输原始媒体信息的能力,及第二设备是否支持接收原始媒体信息的能力,使得第一设备和第二设备确认是否支持传输原始媒体信息,从而协同实现对原始媒体信息的采集和处理,提升相应原始媒体信息的处理和采集性能,提升用户体验。
一种可能的实现方式,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体处理能力、所述第一设备的原始媒体信息采集模块的参数、所述第一设备的原始媒体信息采集能力、所述第一设备的传输接口的传输能力;或者,所述能力协商请求消息还包括以下至少一项:所述第二设备的媒体处理能力、或所述第二设备的传输接口的传输能力。
通过上述方法,还可以通过能力协商,确认第一设备和第二设备之间的其他能力,例如,第二设备处理原始媒体信息的能力,第一设备采集原始媒体信息的能力,从而,确定是否需要建立媒体传输协同的相应功能,提高协同效果。
一种可能的实现方式,所述方法还包括:
通过所述第一传输接口接收所述第二设备发送的第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第一传输接口向所述第二设备发送第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
一种可能的实现方式,所述方法还包括:
通过所述第一传输接口向所述第二设备发送第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第一传输接口接收来自所述第二设备发送的第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
通过上述方法,可以通过认证第一设备和第二设备的方式,提高传输原始媒体信息的安全性。
一种可能的实现方式,所述方法还包括:
通过所述第一传输接口接收所述第二设备发送的第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;通过所述第一传输接口向所述第二设备发送第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
一种可能的实现方式,所述方法还包括:
通过所述第一传输接口向所述第二设备发送第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;通过所述第一传输接口接收所述第二设备发送的第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
通过上述方法,可以通过第一设备和第二设备之间的认证,确认第二设备是否可以获得控制第一设备的权限,从而,在第二设备根据第一原始媒体信息获得原始媒体信息的处理结果后,调整第一设备采集媒体信息,有助于获取更好的媒体信息的处理结果。
一种可能的实现方式,所述方法还包括:
通过所述第一传输接口接收所述第二设备发送的认证成功消息;所述认证成功消息包括以下至少一项:第一设备和所述第二设备所在的分布式系统的标识,所述第一设备在所述分布式系统中对应的设备标识;所述设备标识及所述分布式系统的标识用于所述第一设 备和所述第二设备进行通信。
通过上述方法,还可以将第一设备和第二设备设置为分布式系统中的设备,以实现对第一设备和第二设备更好的管理,有利于利用多个设备实现媒体传输协同。
一种可能的实现方式,所述第一设备包括第一模块;所述认证成功消息还包括以下至少一项:所述第一设备的第一模块的标识,及所述第一模块在所述分布式系统中的标识。
通过上述方法,还可以将第一设备中的模块(例如,第一模块)设置为分布式系统中的模块,从而,为第二设备控制各设备中的模块,协同完成媒体传输做好准备。
一种可能的实现方式,所述第一设备包括对所述第一媒体信息进行预处理的第三模块;所述方法还包括:
通过所述第二模块,对所述第一媒体信息进行预处理,生成第二媒体信息;
通过所述第一设备的传输接口向所述第二设备发送所述第二媒体信息。
通过上述方法,第一设备还可以对第一媒体信息进行预处理,提升传输的原始媒体信息的灵活性。
一种可能的实现方式,所述第一传输接口还支持传输媒体编码后的数据;所述方法还包括:
通过所述第一传输接口向第二设备发送媒体编码后的数据。
通过上述方法,可以使得第一设备和第二设备的传输接口兼容媒体编码后的数据,在无法建立媒体传输协同时,第一设备也可以向第二设备传媒体信息,提高媒体传输的适应性。
一种可能的实现方式,所述第一设备包括至少一个原始媒体信息采集模块,所述第一媒体信息包括所述至少一个原始媒体信息采集模块采集的原始媒体信息;所述方法还包括:
通过所述第一设备的传输接口接收来自所述第二设备的第一消息;所述第一消息用于指示所述第一设备中所述原始媒体信息采集模块采集原始媒体信息的状态;响应于所述第一消息,设置所述第一设备中所述原始媒体信息采集模块采集原始媒体信息的状态。
通过上述方法,第一设备可以根据第二设备发送的第一消息,调整第一设备采集媒体信息的状态,以更好的获得媒体传输协同所需采集的媒体信息,提升媒体传输协同的效果。
一种可能的实现方式,所述第一设备中所述原始媒体信息采集模块采集媒体信息的状态包括以下至少一项:开启状态、关闭状态或采集媒体信息的参数。
一种可能的实现方式,所述方法还包括:通过所述第一传输接口接收来自所述第二设备的第二消息;所述第二消息用于指示所述第一设备获取第一数据;响应于所述第二消息,获取所述第一数据,或者,采集所述第一数据;向所述第二设备发送所述第一数据;所述第一数据为以下一项:所述第一设备采集到的媒体信息,所述第一设备的参数,所述第一设备存储的数据,第一设备接收的数据。
通过上述方法,可以通过第二设备发送第二消息,以控制第一设备采集媒体信息,例如,可以通过对第一媒体信息的处理结果或相应的应用的需要,确定需采集的媒体信息,从而灵活的调整第一设备采集的媒体信息,从而,整体提高媒体传输协同的效果。
一种可能的实现方式,所述方法还包括:通过所述第一传输接口向所述第二设备发送所述第一数据。
通过上述方法,可以通过第二设备发送第二消息,以控制第一设备获取第一数据后,还可以指示第一设备传输相应的第一数据。
一种可能的实现方式,所述第一设备还包括显示模块;所述方法还包括:通过所述第一传输接口接收来自所述第二设备的第三消息;所述第三消息为所述第二设备根据所述第一媒体信息确定的;所述第三消息用于指示所述第一设备显示的内容;响应于所述第三消息,通过显示模块显示所述第三消息中用于指示所述第一设备显示的内容。
通过上述方法,可以通过第三消息,获得待显示的内容,该内容可以是第一媒体信息的处理结果,也可以是其他第二设备需要第一设备显示的内容,从而,使得第一设备和第二设备更好的实现媒体传输协同,提升用户的体验。
一种可能的实现方式,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第一设备发送的数据为通过所述第一传输接口封装为第一比特流数据后,通过所述第三传输接口发送的;所述数据包括以下至少一项:所述第一媒体信息、所述第二媒体信息、所述第一消息、所述第二消息或所述第三消息。
通过上述方法,通过第一传输接口封装原始媒体信息,并通过第三传输接口向第二设备发送封装后的比特流数据,从而,通过第三传输接口,可以兼容多种传输协议(例如,兼容传输原始媒体信息的传输协议,还可以兼容传输编码后的媒体信息的传输协议(例如,HDMI等)),也可以实现聚合传输等功能,从而提升第一设备的传输能力和传输各种类型的媒体信息的兼容性。
一种可能的实现方式,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第一设备接收的所述第一消息、所述第二消息或所述第三消息中的至少一项为通过所述第三传输接口接收的第二比特流数据,并通过所述第一传输接口将所述第二比特流数据解封装后得到的。
通过上述方法,通过第一传输接口解封装第三传输接口接收的来自第二设备的数据,通过第三传输接口,可以兼容多种传输协议,也可以实现聚合传输等功能,从而提升第一设备的传输能力和传输多种类型的媒体信息的兼容性。
第二方面,本申请提供一种媒体信息传输方法,应用于第二设备;所述方法包括:通过所述第二设备的第二传输接口接收来自第一设备采集的第一媒体信息;所述第一媒体信息为原始媒体信息;所述第二传输接口为支持原始媒体信息传输的接口;对所述第一媒体信息进行处理,获得所述第一媒体信息的处理结果。
执行上述方法的设备可以是第二设备,也可以是具有相应功能的模块或部件,例如,芯片。下面以第二设备执行该方法为例,第二设备可以为具有接收原始媒体信息能力和对原始媒体信息处理能力的设备。第二设备可以包括第二传输接口,该第二传输接口支持传输原始媒体信息,从而,实现将原始媒体信息通过第一传输接口传输给第二设备,避免了现有技术中需要在发送端对媒体信息进行压缩编码,并需要在媒体信息的接收端进行恢复传输的媒体信息,编解码过程较为复杂,降低了计算资源的开销,并整体降低系统的延迟。尤其是在带宽受限的短距传输场景中,或者,第一设备的媒体信息处理能力较弱的场景下,通过第一设备和第二设备的媒体传输协同,利用第二设备对媒体信息处理,实现更多的媒体信息处理的应用,提高用户协同使用第一设备和第二设备的体验。
一种可能的实现方式,第一设备和第二设备之间传输原始媒体信息的方式,可以通过建立媒体传输协同实现。建立媒体传输协同可以由第一设备触发,也可以由第二设备触发。建立媒体传输协同可以为通过预先设置的配置条件触发的,也可以是用户发起的,在此不做限定。以用户在媒体传输协同设置界面触发建立媒体传输协同为例,该媒体传输协同设 置界面可以为在第一设备上显示,也可以在第二设备上显示,在此不做限定。下面以用户触发并在第一设备上显示媒体传输协同设置界面为例,用户可以在媒体传输协同设置界面触发与第二设备建立媒体传输协同的请求,例如,用户对第一设备的媒体传输协同设置界面的建立媒体传输协同的控件进行第一操作,从而,响应于在第一设备上的第一操作,向所述第二设备发送第一通知消息;相应的,第二设备接收来自第一设备的第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;响应于第一通知消息,第二设备向第一设备发送第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。可选的,第二设备上还可以显示成功建立媒体传输协同的通知消息。
另一种可能的实现方式,可以是用户在第二设备上触发建立媒体传输协同。例如,响应于在第二设备的媒体传输协同设置界面的建立媒体传输协同的控件进行第二操作,向所述第一设备发送第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;第二设备接收来自第一设备发送的第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。可选的,第二设备上还可以显示成功建立媒体传输协同的通知消息。
通过上述方法,可以通过第一设备上的第一操作,触发第一设备和第二设备建立媒体传输协同的过程,并通过第二设备确认是否开启媒体传输协同。媒体传输协同可以是第一设备通过所述第一传输接口向第二设备发送原始媒体信息,第二设备对原始媒体信息进行处理的协同过程,提升用户使用第一设备和第二设备协同处理媒体信息的体验。
建立媒体传输协同的方式可以包括对第一设备和第二设备进行能力协商的方式,还可以包括对第一设备和第二设备进行鉴权认证的方式。
一种可能的实现方式,所述通过传输接口向第二设备发送所述第一媒体信息之前,还包括:通过所述第二传输接口向所述第一设备发送能力协商请求消息;所述能力协商请求消息用于请求所述第一设备的传输接口支持的传输协议,所述第一设备的传输协议用于指示所述第一设备是否支持传输原始媒体信息;通过所述第二传输接口接收所述第一设备发送的能力协商响应消息;所述能力协商响应消息用于确认所述第一设备支持传输原始媒体信息的传输协议。
一种可能的实现方式,所述通过传输接口向第二设备发送所述第一媒体信息之前,还包括:通过所述第二传输接口接收来自所述第一设备发送的能力协商请求消息;所述能力协商请求消息用于请求所述第二设备的传输接口支持的传输协议,所述第二设备的传输协议用于指示所述第二设备支持传输原始媒体信息;通过所述第二传输接口向所述第一设备发送能力协商响应消息;所述能力协商响应消息用于确认所述第二设备支持传输原始媒体信息的传输协议。
通过上述方法,可以通过能力协商的方式,例如,第一设备发起协商请求消息,或者第二设备发起协商请求消息,从而,确认第一设备是否具备传输原始媒体信息的能力,及第二设备是否支持接收原始媒体信息的能力,使得第一设备和第二设备确认是否支持传输原始媒体信息,从而协同实现对原始媒体信息的采集和处理,提升相应原始媒体信息的处理和采集性能,提升用户体验。
一种可能的实现方式,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体处理能力、所述第一设备的原始媒体信息采集模块的参数、所述第一设备的原始媒体信息采集能力、所述传输接口的传输能力;或者,所述能力协商请求消息还包括以下至少一项:所述第二设备的媒体处理能力、或所述数据处理能力的传输接口的传输能力。
通过上述方法,还可以通过能力协商,确认第一设备和第二设备之间的其他能力,例如,第二设备处理原始媒体信息的能力,第一设备采集原始媒体信息的能力,从而,确定是否需要建立媒体传输协同的相应功能,提高协同效果。
一种可能的实现方式,所述方法还包括:通过所述第二传输接口向所述第一设备发送第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第二传输接口接收所述第一设备发送的第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
一种可能的实现方式,所述方法还包括:通过所述第二传输接口接收所述第一设备发送的第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第二传输接口向所述第一设备发送第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
通过上述方法,可以通过认证第一设备和第二设备的方式,提高传输原始媒体信息的安全性。
一种可能的实现方式,所述方法还包括:
通过所述第二传输接口向所述第一设备发送第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;通过所述第二传输接口接收所述第一设备发送的第二认证响应消息;所述第二认证响应消息用于确认所述二设备控制所述第一设备的权限。
一种可能的实现方式,所述方法还包括:
通过所述第二传输接口接收所述第一设备发送的第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;通过所述第二传输接口向所述第一设备发送第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
通过上述方法,可以通过第一设备和第二设备之间的认证,确认第二设备是否可以获得控制第一设备的权限,从而,在第二设备根据第一原始媒体信息获得原始媒体信息的处理结果后,调整第一设备采集媒体信息,有助于获取更好的媒体信息的处理结果。
一种可能的实现方式,所述方法还包括:
向所述第一设备发送认证成功消息;所述认证成功消息包括:所述第一设备和所述第二设备所在的分布式系统的标识,所述第一设备在所述分布式系统内对应的设备标识;所述设备标识及所述分布式系统的标识用于所述第一设备和所述第二设备进行通信。
通过上述方法,还可以将第一设备和第二设备设置为分布式系统中的设备,以实现对第一设备和第二设备更好的管理,有利于利用多个设备实现媒体传输协同。
一种可能的实现方式,所述第二设备包括第二模块;所述认证成功消息还包括以下至少一项:所述第二模块的标识,及所述第二模块在所述分布式系统中的标识。
通过上述方法,还可以将第二设备中的模块(例如,第二模块)设置为分布式系统中的模块,从而,为第二设备控制各设备中的模块,协同完成媒体传输做好准备。
一种可能的实现方式,所述第二设备包括对所述第一媒体信息进行预处理的第三模块;所述对所述第一媒体信息进行处理之前,还包括:通过所述第三模块,对所述第一媒体信息进行预处理,生成第二媒体信息;所述对所述第一媒体信息进行处理,包括:对所述第二媒体信息进行媒体编码。
通过上述方法,第一设备还可以对第一媒体信息进行预处理,提升传输的原始媒体信息的灵活性。
一种可能的实现方式,所述第二传输接口还支持传输媒体编码后的数据;所述方法还包括:通过所述第二传输接口接收所述第一设备发送的媒体编码后的数据。
通过上述方法,可以使得第一设备和第二设备的传输接口兼容媒体编码后的数据,在无法建立媒体传输协同时,第一设备也可以向第二设备传媒体信息,提高媒体传输的适应性。
一种可能的实现方式,所述方法还包括:通过所述第二传输接口向所述第一设备发送第一消息;所述第一消息用于指示所述第一设备采集原始媒体信息的状态。
通过上述方法,第一设备可以根据第二设备发送的第一消息,调整第一设备采集媒体信息的状态,以更好的获得媒体传输协同所需采集的媒体信息,提升媒体传输协同的效果。
一种可能的实现方式,所述第一设备采集原始媒体信息的状态包括以下至少一项:开启状态、关闭状态或采集媒体信息的参数。
一种可能的实现方式,所述方法还包括:通过所述第二传输接口向所述第一设备发送第二消息;所述第二消息用于指示所述第一设备获取第一数据;所述第一数据为以下一项:所述第一设备采集到的原始媒体信息,所述第一设备的参数,所述第一设备存储的数据,第一设备接收的数据。
一种可能的实现方式,所述第二消息还用于指示所述第一设备向所述第二设备发送所述第一数据。
一种可能的实现方式,所述第一设备还包括显示模块;所述方法还包括:通过所述第二传输接口向所述第一设备发送第三消息;所述第三消息用于指示所述第一设备显示的内容。
一种可能的实现方式,所述第一设备的数量为N个;所述方法还包括:通过所述第二传输接口接收第四消息;所述第四消息包括所述N个第一设备的M个第一媒体信息;M,N为正整数;M大于或等于N;对所述M个第一媒体信息进行处理。
通过上述方法,可以实现传输多个第一设备中的M个第一媒体信息,并在第二设备中处理M个第一媒体信息,在M个第一媒体信息为不同类型的媒体信息时,第二设备可以利用不同类型的媒体信息应用到更多应用场景中,例如,在AI应用场景中,通过单一传感器采集的传感器数据不足以完成准确的识别,通过采集多种类型传感器的数据,可以有效提升识别的精度,因此,通过多个第一设备(其中,第一设备还可以包括多个模块)和第二设备之间的多种媒体传输协同,提升第一应用协同的效果。
一种可能的实现方式,所述第二设备还包括显示模块,所述方法还包括:通过所述显示模块显示所述第一媒体信息的媒体编码数据。
通过上述方法,可以通过第三消息,获得待显示的内容,该内容可以是第一媒体信息 的媒体编码数据,也可以是其他第二设备需要第一设备显示的内容,提升媒体传输协同的使用体验。
一种可能的实现方式,所述第二设备还包括第三传输接口;所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第二设备发送的所述第一消息、所述第二消息或所述第三消息中的至少一项为通过所述第二传输接口封装为第二比特流数据后,通过所述第三传输接口发送的。
一种可能的实现方式,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第二设备接收的数据为通过所述第三传输接口接收的第一比特流数据,并通过所述第二传输接口将所述第二比特流数据解封装后获得的;所述数据包括以下至少一项:所述第一媒体信息、所述第二媒体信息、所述第一消息、所述第二消息或所述第三消息。
第三方面,本申请提供一种电子设备,所述电子设备包括存储器和一个或多个处理器;其中,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述计算机指令被所述处理器执行时,使得所述电子设备执行第一方面中任一项所述的方法。
第四方面,本申请提供一种电子设备,所述电子设备包括存储器和一个或多个处理器;其中,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述计算机指令被所述处理器执行时,使得所述电子设备执行第一方面或第二方面中任一种可能实现方式中的方法。
第五方面,本申请提供一种媒体信息传输系统,包括:第三方面所述的电子设备和第四方面所述的电子设备。
第六方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质包括程序指令,当所述程序指令在电子设备上运行时,使得所述电子设备执行如第一方面任一种可能的方法,或者,使得所述电子设备执行第二方面任一种可能的方法。
附图说明
图1a为现有技术中的一种媒体信息发送设备的结构示意图;
图1b为现有技术中的一种媒体信息接收设备的结构示意图;
图2a为本申请提供的一种第一设备的结构示意图;
图2b为本申请提供的一种第二设备的结构示意图;
图2c为本申请提供的一种分布式系统架构示意图;
图3a为本申请提供的一种媒体传输协同的通信连接的建立方法的流程示意图;
图3b-图3c为本申请提供的一种第一设备的查找界面示意图;
图3d为本申请提供的一种媒体传输协同的界面示意图;
图4a为本申请提供的一种协同的通信连接的建立方法的流程示意图;
图4b为本申请提供的一种媒体传输协同的界面示意图;
图5a为本申请提供的一种分布式系统架构示意图;
图5b为本申请提供的一种媒体信息传输方法的流程示意图;
图5c为本申请提供的一种场景示意图;
图5d-图5e为本申请提供的一种应用的示意图;
图6a为本申请提供的一种分布式系统架构示意图;
图6b为本申请提供的一种媒体信息传输方法的流程示意图;
图6c为本申请提供的一种场景示意图;
图6d为本申请提供的一种应用的示意图;
图7为本申请实施例一种可能的电子装置的结构示意图;
图8为本申请实施例另一种可能的电子装置的结构示意图。
具体实施方式
以下,先对本申请实施例中的部分用语进行解释说明,以便于本领域技术人员理解。
1)媒体信息
本申请涉及的媒体信息,可以包括:图像信息、音频信息、视频信息、传感器信息等通过第一设备采集的媒体信息。例如,采集的视频图像信息可以是音频、视频、可见光图像,或雷达、深度等信息。第一设备可以包括:摄像头、传感器、麦克风等具有原始媒体信息采集功能的设备或模块。
以媒体信息为图像信息为例,本申请实施例涉及的原始媒体信息,即原始图像,可以是摄像头的输出图像,即摄像头将采集的物体反射的光信息转化为数字图像信号而得到的原始数据,该原始数据未经过加工处理。比如,原始图像可以是raw格式数据。该raw格式数据中可以包括物体的信息和摄像头参数。其中,摄像头参数可以包括感光度(international standardization organization,ISO)、快门速度、光圈值、白平衡等。
原始图像,还可以是第一设备中的ISP的输出图像,由ISP对原始图像进行处理得到RGB格式或者YUV格式的图像,并且将RGB格式或者YUV格式的图像的亮度调整后得到的图像。其中,ISP将RGB格式或者YUV格式的图像的亮度调整的具体值,可以是用户设置的,也可以是手机在出厂时设置好的。
原始图像可以是第二设备的处理器比如下文中的图形处理器(graphics processing unit,GPU)的输入图像。
需要说明的是,本申请实施例涉及的“媒体信息”,例如原始媒体信息、第一设备获取的媒体信息、第二设备处理后的媒体信息(例如,HDR图像)等,在媒体信息为图像时,可以是指图片,也可以是一些参数(比如,像素信息,颜色信息、亮度信息)的集合。
本申请实施例涉及的多个,是指大于或等于两个。
2)媒体信息的发送端设备
本申请实施例涉及的媒体信息的发送端设备,可以为具有媒体信息采集功能的设备。媒体信息可以包括图像信息、视频信息、音频信息、传感器信息中的一项或多项。以媒体信息为视频图像信息为例,媒体信息的发送端设备可以是具有视频图像采集功能的模块或设备,采集的视频图像信息可以是音频、视频、可见光图像,或雷达、深度等媒体信息。
媒体信息的发送端设备可以包括摄像头等视频采集模块,用于采集视频信息或图像信息,还可以包括麦克风等音频采集模块,用于采集音频信息。视频采集模块可以为光学镜头、图像传感器、麦克风等模块中的一项或多项,用于采集原始的媒体频信号(音频、图像或混合)。例如,媒体信息的发送端设备可以是:手机平板等移动终端、智能电视等智慧家庭终端、AR/VR头戴显示器、车载摄像头、外置摄像头等手机配件设备。例如,媒体信息的发送端设备可以是智慧屏等包括有原始媒体信息采集模块的终端设备。此时,媒体信息的发送端设备采集原始的音视频信息,经过处理后形成标准格式的音视频信号。媒体信息的发送端设备还可以作为媒体信息的发送端,经过压缩编码后通过传输接口或网络发 送到接收端。其中,传输接口可以为HDMI、DP、USB等媒体传输接口。
在另一些可能的场景中,媒体信息的发送端设备还可以是获取媒体信息并发送该媒体信息的设备,例如,媒体信息的发送端设备可以是从网络或从本地存储单元获取媒体信息,并将该媒体信息发送给第二设备。此时,媒体信息的发送端设备可以不是具有该媒体信息采集功能的设备,即媒体信息的发送端设备可以仅为发送该媒体信息的发送功能的设备。
此时,媒体信息的发送端设备可以将获取的音视频媒体信息,经过压缩编码后通过传输接口或网络发送到接收端设备。其中,传输接口可以为HDMI、DP、USB等媒体传输接口。
如图1a所示,为现有技术中提供的一种媒体信息的发送端设备的结构示意图,在图1a所示的媒体信息的发送端设备中可以包括:原始媒体信息采集模块(例如,音频采集模块和视频采集模块),媒体编码单元(例如,音频编码器和视频编码器)和输出接口(例如,音频输出接口和视频输出接口)。媒体编码单元用于根据媒体编码协议、链路层和物理层协议对第一设备获取的媒体信号进行媒体编码和信道编码后得到物理层信号,将物理层信号传输到输出接口,从而发送给相应的媒体信息的接收端设备。
3)媒体信息的接收端设备
媒体信息的接收端设备作为媒体信息的接收端,可以是媒体处理设备。接收端设备可以为手机、平板电脑、智能电视、车载计算机等终端设备。电子设备还可以称为终端设备。终端设备也可以称为用户设备、接入终端、用户单元、用户站、移动站、移动台、远方站、远程终端、移动设备、用户终端、终端、无线通信设备、用户代理或者用户装置。终端设备可以是手机(mobile phone)、平板电脑(pad)、带无线收发功能的电脑、虚拟现实(virtual reality,VR)终端、增强现实(augmented reality,AR)终端、工业控制(industrial control)中的无线终端、无人驾驶(self driving)中的无线终端、远程医疗(remote medical)中的无线终端、智能电网(smart grid)中的无线终端、运输安全(transportation safety)中的无线终端、智慧城市(smart city)中的无线终端、智慧家庭(smart home)中的无线终端等。蜂窝电话、无绳电话、个人数字助理(personal digital assistant,PDA),具有无线通信功能的手持设备、计算设备或者无线调整解调器的其它处理设备、车载设备、可穿戴设备等。
媒体信息的接收端设备还可以是机顶盒、分体扩展坞(DOCK)、智能电视、智能大屏、移动手机、平板电脑或者个人计算机(personal computer,PC)、智慧屏、手机、智能摄像头、智能音箱、耳机等终端设备。智慧屏可以是家庭中的影音娱乐中心,更是信息共享中心、控制管理中心、多设备交互中心。终端设备还可以是包含诸如个人数字助理和/或音乐播放器等功能的便携式终端,诸如手机、平板电脑、具备无线通讯功能的可穿戴设备(如智能手表)、车载设备等。便携式终端的示例性实施例包括但不限于搭载
Figure PCTCN2021110698-appb-000001
Figure PCTCN2021110698-appb-000002
或者其它操作系统的便携式终端。上述便携式终端也可以是诸如具有触敏表面(例如触控面板)的膝上型计算机(Laptop)等。还应当理解的是,在其他一些实施例中,上述终端也可以是具有触敏表面(例如触控面板)的台式计算机。
媒体信息的接收端设备也可以为机顶盒、显示屏、智能大屏、电视(television,TV)、移动手机或者其他具有媒体信息处理功能的终端设备中的处理器芯片,示例性地,该处理器芯片器可以是片上系统(system on chip,SoC)或基带芯片。第二设备还可以是部署有图形处理器(graphics processing unit,GPU)的计算设备、分布式计算设备等等。
如图1b所示,为本申请中提供的一种媒体信息的接收端设备的结构示意图,该媒体 处理装置中可以包括:输入接口,媒体解码单元和媒体信息处理单元。其中,输入接口可以用于接收来自发送端(例如,媒体信息的发送端设备)发送的媒体信号。输入接口用于从传输信道接收物理层信号,媒体解码单元,用于根据链路层和物理层协议,从物理层信号中解码出媒体数据信号。
举例来说,媒体解码单元可以包括:解析器、音频解码器、视频解码器。媒体信息处理单元可以包括:原始媒体信息预处理模块(第三模块),媒体信息后处理单元。通过媒体解码单元获得原始媒体信息,并输入至媒体信息处理单元中,从而通过媒体信息处理单元获得媒体数据信号的处理结果。其中每个单元可以通过硬件实现,也可以通过软件实现,或者可以通过硬件结合软件实现。例如,视频解码器、视频后处理单元等由硬件逻辑实现,媒体数据的处理、显示策略处理等单元可以由运行在硬件处理器上的软件代码来实现,音频解码器等其他单元可以通过软件实现。
一种可能的场景,媒体信息的接收端设备对从接口信道获取的编码后的信号,进行解压和解码后还原出音视频媒体信息,示例性的,mp4等格式的媒体文件经解析器解析后得到音频编码文件、视频编码文件等。其中,音频编码文件可以是音频基本码流(elementary stream,ES)数据,视频编码文件可以是视频ES数据。音频编码文件经音频解码器解码后得到音频数据;视频编码文件经视频解码器处理后得到视频帧。此外,媒体信息的接收端设备还可以用于将视频后处理得到的图像与音频数据同步,使得音频输出接口的输出和视频输出接口的输出同步,即使得音频输出接口输出的音频与视频输出接口输出的视频画面同步。
可选的,该媒体信息的接收端设备还可以包括显示单元,此时,可以将接收到的音视频媒体信息进行处理,并进行音视频媒体信息的播放。或者,显示单元也可以位于其他设备中,该设备为与媒体第二设备通过无线或有线建立通信连接的设备。例如,显示单元可以位于显示器(或者称为显示屏)、电视机、投影仪等终端设备中。该显示单元可以用于播放该第二设备处理后的媒体文件,还可以播放其他媒体文件。
4)媒体信息的传输
本申请实施例中涉及的传输包括接收和/或发送。媒体信息的发送端和媒体信息的接收端可以通过有线或无线等方式进行连接并传输媒体信息。传输接口的形态可以是有线传输的电信号、光纤传输的光信号、无线电信号、无线光信号等。媒体信息的发送端设备与媒体信息的接收端设备之间可以通过铜线、光纤等有线和/或无线通信协议建立物理上的信道连接。
本申请实施例提供一种媒体信息传输的网络系统的架构,所述网络系统中包括媒体信息的发送端设备和媒体信息的接收端设备。
以有线的方式为例,传输媒体信息的物理层信号可以通过传输信道进行传输。传输信道可以为铜线、光纤等物理传输信道。传输的媒体信息的信号可以为有线电信号、光信号等。其中,传输媒体信息的数据信号可以是HDMI协议的数据信号、DP协议的数据信号,或者是其他协议的数据信号。例如,电子设备用于传输媒体数据的接口标准包括:高清多媒体接口(high definition multimedia interface,HDMI)、USB接口、DP接口等。HDMI是一种传输无压缩数字高清多媒体(视频和/或音频)的接口。在数据传输上,HDMI使用最小化传输差分信号(transition minimized differential signaling,TMDS)技术。USB是一种串口总线标准,也是一种输入输出接口的技术规范。例如,USBType-C接口能够支持 PD以及支持传输多媒体数据以外的其它数据。
为实现媒体信号的传输,一种可能的方式为,在进行媒体信息的传输之前,将媒体信息的发送端上获取的音视频媒体信息进行编码,经过音视频的编码后,再传输到媒体信息的接收端。此类方法会在信道中传输媒体信号,媒体信号在传输过程中的数据量较大,消耗计算资源多、成本高,系统整体延迟大,不利于对实时性要求高的应用。
为了能在较低的信道带宽下传输媒体信息,降低视频传输过程中的数据量,使得视频传输的时效性更高,另一种可能的方式,媒体信息的发送端可以对视频进行前处理(如分辨率压缩处理),即对媒体信息进行有损压缩编码,从而,将生成的有损压缩视频进行编码后发送给接收端设备。该方式下,由于进行了有损压缩,导致媒体信息的接收端无法完整获取到媒体信息,可能影响后续媒体信息的应用。另外,由于需要在发送端对媒体信息进行压缩编码,并需要在媒体信息的接收端进行恢复传输的媒体信息,编解码过程较为复杂,需要消耗发送端更多的计算资源,对发送端的要求很高,也导致系统整体延迟大,不利于应用于实时性要求高的应用中。
基于上述问题(问题1),本申请提供一种媒体信息传输方法。本申请提供的一种媒体信息传输方法的流程,包括:
步骤201:第一设备获取第一媒体信息。
其中,第一设备获取第一媒体信息的方式可以参考图1a中的媒体信息的发送端设备的获取方式,在此不再赘述。
步骤202:第一设备将所述第一媒体信息通过第一设备的第一传输接口发送给第二设备。
其中,第一设备可以基于第一设备与第二设备进行媒体传输协同,确认可以通过第一设备的第一传输接口发送原始媒体信息。相应的,第二设备通过第二设备的第二传输接口,接收所述第一媒体信息。
在另一种可能的实施例中,第一设备可以通过第二模块(原始媒体信息预处理模块),对所述第一媒体信息进行预处理,生成第二媒体信息;通过所述第一设备的传输接口向所述第二设备发送所述第二媒体信息。相应的,第二设备通过第二设备的第二传输接口,接收所述第二媒体信息。
再一种可能的实施例中,所述第一传输接口还支持传输媒体编码后的数据,所述第二设备的第二传输接口还支持传输媒体编码后的数据。从而,第一设备还可以通过所述第一传输接口向第二设备发送媒体编码后的数据。
步骤203:第二设备对所述第一媒体信息进行处理,获得第一媒体信息的处理结果。
通过本申请中的传输接口传输到第二设备,并利用第二设备加载的对原始媒体信息的处理方法,对第一媒体信息处理后获得媒体信息的处理结果。
在另一种可能的实施例中,第二设备通过第二设备的第二传输接口,接收所述第二媒体信息,并对接收到的第二媒体信息进行处理。再一种可能的实施例中,所述第二设备的第二传输接口还支持传输媒体编码后的数据。第二设备通过第二设备的第二传输接口,接收所述媒体编码后的数据,并对其进行后续处理。
通过上述方法,将发送媒体信息的第一设备和第二设备中增加传输原始媒体信息的能力,即第一设备和第二设备的传输接口协议支持传输第一设备输出的原始媒体信息,无需第一设备对原始媒体信息进行媒体编码的处理,可以降低对第一设备的硬件要求,相应的, 第二设备也无需对传输的媒体信息进行媒体解码,才能获得原始媒体信息,可以有效降低第一设备向第二设备传输媒体信息的时延,可以省去了额外的对媒体信息的压缩编码过程,降低系统功耗和延时,降低成本,为实现实时的分布式媒体信息的分布式协同应用创造条件。
如图2a所示,为本申请实施例提供的一种第一设备的结构示意图。第一设备200可以包括处理器210,外部存储器接口220,内部存储器221,传输接口230,媒体采集单元240,通信单元250。其中,媒体采集单元240可以包括:多个原始媒体信息采集模块,例如,可以包括:麦克风270C,耳机接口270D,音频单元270,扬声器270A;传感器单元280,摄像头281等。可选的,第一设备还可以包括媒体获取单元,其中,媒体信息获取单元可以有多种实现形式,举例来说,媒体信息获取单元,可以包括以下至少一项:原始媒体信息采集模块(例如,音频采集模块和视频采集模块)、媒体信息接收模块、存储单元。原始媒体信息采集模块,可以用于采集原始的媒体信号。例如,可以包括光学镜头、图像传感器、麦克风、雷达等媒体信号采集传感器或装置中的一项或多项。获取的媒体信息可以是音频、视频、可见光图像,或雷达、深度等信息。媒体信息接收模块,可以用于从网络或其他设备上接收媒体信号。存储模块,可以用于在发送端设备本地存储媒体信号,当然,还可以用于存储其他信息。
通信单元250可以包括:天线1,天线2,移动通信单元251,无线通信单元252。
处理器210可以包括一个或多个处理单元,例如:处理器210可以包括应用处理器(application processor,AP),调制解调处理器,图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
处理器210还可以包括原始媒体信息预处理模块,原始媒体信息预处理模块(第二模块),可以用于对原始音视频媒体信号进行降噪、恢复等预处理。例如视频预处理模块(例如,ISP模块),可以用于对原始的视频帧图像进行降噪、去马赛克等预处理。
需要说明的是,本申请实施例中的处理器210中,可以不包括图形处理器(graphics processing unit,GPU),和神经网络处理单元,例如神经网络处理器(Neural-network Processing Unit,NPU)等算力较大的处理单元,以适应更多可能的媒体信息发送端的设备,例如,AR/VR头戴显示器、车载摄像头、外置摄像头等手机配件设备。
处理器210中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器210中的存储器为高速缓冲存储器。该存储器可以保存处理器210刚用过或循环使用的指令或数据。如果处理器210需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器210的等待时间,因而提高了系统的效率。
处理器210可以运行本申请实施例提供的媒体信息传输方法,以便于实现第一设备与第二设备的协同,提升用户的体验。当处理器210运行本申请实施例提供的媒体信息传输方法后,处理器210可以根据获取的原始媒体信息,无需进行媒体信息的编码,可以直接发送该媒体信息。还可以接收来自第二设备的控制指令,用于控制第一设备的原始媒体信息采集模块采集原始媒体信息。可选的,在第一设备包括有显示屏时,还可以接收来自第二设备的媒体信息(可以是原始媒体信息,也可以是编码后的媒体信息,在此不做限定)及播放该媒体信息的指令时,可以通过显示屏播放该媒体信息。
内部存储器221可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。 处理器210通过运行存储在内部存储器221的指令,从而执行第一设备200的各种功能应用以及数据处理。内部存储器221可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,应用程序(比如相机应用,微信应用等)的代码等。存储数据区可存储第一设备200使用过程中所创建的数据(比如相机应用采集的图像、视频等)等。
内部存储器221还可以存储本申请实施例提供的数据传输算法对应的一个或多个计算机程序。该一个或多个计算机程序被存储在上述存储器221中并被配置为被该一个或多个处理器210执行,该一个或多个计算机程序包括指令,上述指令可以用于执行如图2a至图6a相应实施例中的各个步骤,该计算机程序可以用于实现本申请实施例中涉及的媒体信息传输方法。当内部存储器221中存储的数据传输算法的代码被处理器210运行时,处理器210可以运行本申请实施例中涉及的媒体信息传输方法。
此外,内部存储器221可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
当然,本申请实施例提供的数据传输算法的代码还可以存储在外部存储器中。这种情况下,处理器210可以通过外部存储器接口220运行存储在外部存储器中的数据传输算法的代码,处理器210可以执行本申请实施例中涉及的媒体信息传输方法。
摄像头281(前置摄像头或者后置摄像头,或者一个摄像头既可作为前置摄像头,也可作为后置摄像头)用于捕获静态图像或视频。通常,摄像头281可以包括感光元件比如镜头组和图像传感器,其中,镜头组包括多个透镜(凸透镜或凹透镜),用于采集待拍摄物体反射的光信号,并将采集的光信号传递给图像传感器。图像传感器根据所述光信号生成待拍摄物体的原始图像。还可以包括驱动单元,用于控制摄像头对图像的采集等。
第一设备200可以通过音频单元270,扬声器270A,受话器270B,麦克风270C,耳机接口270D,以及应用处理器等实现音频功能。例如音乐播放,录音等。可选的,第一设备200可以接收按键290输入,产生与第一设备200的用户设置以及功能控制有关的按键信号输入。
其中传感器单元280可以包括距离传感器,陀螺仪传感器,加速度传感器,接近光传感器,指纹传感器,触摸传感器,温度传感器,压力传感器、距离传感器、磁传感器、环境光传感器、气压传感器、骨传导传感器等,图中未示出。
第一设备200中的传输接口用于连接其他设备,以使第一设备200与其他设备进行媒体信息的传输。该传输接口可以将媒体信息生成的物理层信号通过传输接口230的传输信道进行传输,传输信道可以是有线电信号、光信号或无线电信号等;可选的,还可以通过打包聚合的方式同时传输原始媒体信息、压缩的媒体信息、控制指令和其他数据的物理层信号。具体的方式可以是通过打包后通过同一传输信道传输,也可以建立不同的传输信道,用于传输不同通信协议的信号。
在一种可能的实现方式中,第一设备200中的传输接口可以包括第一传输接口和第三传输接口。通过第一传输接口与第一设备的处理器连接将待发送给第二设备300的数据封装为第一比特流数据,并通过第三传输接口发送给第二设备的第三传输接口。通过第三传输接口可以接收到来自第二设备发送的第二比特流数据,从而,通过第一传输接口解封装得到第二比特流数据对应的数据或消息(第二比特流数据为第二设备通过第二传输接口封装的数据或消息)。从而,使得通过第一设备的第三传输接口与第二设备的第三传输接口建立的传输信道可以支持双向传输。
在另一些实施例中,N个第一设备200和第二设备300还可以通过第一设备的第一传输接口发送第四消息。从而,第二设备的第二传输接口接收第四消息。其中,所述第四消息包括所述N个第一设备的M个第一媒体信息;N、M为大于1的正整数;M大于或等于N。具体的,可以是N个第一设备的N个第一传输接口对M个第一媒体信息进行封装,例如,可以根据每个第一媒体信息进行封装,封装为M个第一比特流数据,也可以根据设备进行封装,即封装为N个第一比特流数据。并通过第三传输接口,将封装后的第一比特流数据打包为第四消息,发送给第二设备的第三传输接口。可以通过第三传输接口接收分别封装的N个第一设备的M个第一媒体信息的第四消息(第四消息中可以是封装为N个比特流数据,也可以是封装为M个比特流数据,在此不做限定),并通过第二传输接口将第四消息解封装,得到M个第一媒体信息,进行处理,得到媒体信息的处理结果。
在该传输接口230为有线的传输接口时,适用于该传输接口230的线缆可以通过插入传输接口230,或从传输接口230拔出,实现和第一设备200的接触和分离。
在第一设备230的传输接口为无线通信接口时,可以通过天线1,天线2,移动通信单元251,无线通信单元252,调制解调处理器以及基带处理器等实现第一设备200的无线通信功能。
天线1和天线2用于发射和接收电磁波信号。第一设备200中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信单元251可以提供应用在第一设备200上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信单元251可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信单元251可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信单元251还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信单元251的至少部分功能单元可以被设置于处理器210中。在一些实施例中,移动通信单元251的至少部分功能单元可以与处理器210的至少部分单元被设置在同一个器件中。在本申请实施例中,移动通信单元251还可以用于与第二设备进行信息交互,即向第二设备发送媒体信息的传输请求,并将发送的媒体信息的传输请求封装成指定格式的消息,或者移动通信单元251可用于接收第二设备发送的媒体信息的传输请求。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。
调制解调处理器还可以包括信道编码单元和解码单元,其中,信道编码单元用于根据链路层和物理层协议对第一设备获取的数据信号进行信道编码后得到物理层信号,将物理层信号传输到传输接口。其中,数据信号可以为原始媒体信息的数据,也可以是经过媒体编码后的媒体信息的数据。当然,需要发送给第二设备的其他参数和设备状态等信息也可以通过传输接口根据相应的传输协议通过相应的传输信道传输至第二设备(例如,第二设备)。这些信息可以与媒体信息共同发送,也可以通过其他传输协议发送,具体实现方式本申请不做限定。还可以包括控制信息解码单元,用于解码第二设备发送的控制信号,还可以用于解码接收到的来自第二设备的控制指令,该控制指令用于原始媒体信息采集模块 采集媒体信息。
一种可能的实现方式,应用处理器通过音频设备(不限于扬声器270A,受话器270B等)输出声音信号,或通过显示屏显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器210,与移动通信单元251或其他功能单元设置在同一个器件中。
无线通信单元252可以提供应用在第一设备200上的包括无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信单元252可以是集成至少一个通信处理单元的一个或多个器件。无线通信单元252经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器210。无线通信单元252还可以从处理器210接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。本申请实施例中,无线通信单元252,用于与第二设备建立连接,通过第二设备协同完成应用的任务(例如,协同播放视频)。或者无线通信单元252可以用于接入接入点设备,向第二设备发送原始媒体信息的传输请求对应的消息,或者接收来自第二设备发送的媒体信息的传输请求对应的消息。可选地,无线通信单元252还可以用于接收来自其他设备的媒体信息。
如图2b所示,为本申请实施例提供的一种第二设备的结构示意图。
第二设备300可以包括处理器310,外部存储器接口320,内部存储器321,传输接口330,天线11,天线12,移动通信单元351,无线通信单元352。
处理器310可以包括一个或多个处理单元,例如:处理器310可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processing unit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和神经网络处理器(Neural-network Processing Unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。其中,控制器可以是第二设备300的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器310还可以包括原始媒体信息预处理模块(第三模块),该模块可以用于对原始音视频媒体信号进行降噪、恢复等预处理。例如视频预处理模块(例如,ISP模块),可以用于对原始的视频帧图像进行降噪、去马赛克等预处理。
考虑到第一设备可以有多个的场景,此时,第二设备可以接收多个第一设备的原始媒体信息,并根据多个原始媒体信息综合处理,以获得更好的应用的处理结果。例如,通过所述第二传输接口接收第四消息;所述第四消息包括所述N个第一设备的M个第一媒体信息;M,N为正整数;M大于或等于N;对所述M个第一媒体信息进行处理。
处理器310中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器310中的存储器为高速缓冲存储器。该存储器可以保存处理器310刚用过或循环使用的指令或数据。如果处理器310需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器310的等待时间,因而提高了系统的效率。
处理器310可以运行本申请实施例提供的媒体信息传输方法,以便于实现第二设备在 应用下与第一设备的协同,提升用户的体验。当处理器310运行本申请实施例提供的媒体信息传输方法后,处理器310可以仅对接收到的信号进行信道解码,就可以获取媒体信息,从而,节省了对信号进行媒体解码的过程。在第二设备获得对第一设备的控制权限时,还可以向第一设备发送控制指令,用于控制第一设备的原始媒体信息采集模块,可选的,在第一设备包括有显示屏时,还可以向第一设备发送媒体信息及播放该媒体信息的指令时,可以通过显示屏播放该媒体信息。可选的,在第二设备包括有显示屏时,还可以接收第一设备发送的媒体信息,或者接收到来自第一设备的原始媒体信息后,对原始媒体信息进行处理,当原始媒体信息为第二设备待播放的媒体信息时,可以通过显示屏播放该媒体信息。
处理器310可以包括不同的器件,比如集成CPU和GPU时,CPU和GPU可以配合执行本申请实施例提供的媒体信息传输方法,比如媒体信息传输方法中部分算法由CPU执行,另一部分算法由GPU执行,以得到较快的处理效率。
内部存储器321可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器310通过运行存储在内部存储器321的指令,从而执行第二设备300的各种功能应用以及数据处理。内部存储器321可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,应用程序(比如相机应用,微信应用等)的代码等。存储数据区可存储第二设备300使用过程中所创建的数据(比如相机应用采集的图像、视频等)等。
内部存储器321还可以存储本申请实施例提供的数据传输算法对应的一个或多个计算机程序。该一个或多个计算机程序被存储在上述存储器321中并被配置为被该一个或多个处理器310执行,该一个或多个计算机程序包括指令,上述指令可以用于执行如图2a至图6a相应实施例中的各个步骤,该计算机程序可以用于实现本申请实施例中涉及的媒体信息传输方法。当内部存储器321中存储的数据传输算法的代码被处理器310运行时,处理器310可以运行本申请实施例中涉及的媒体信息传输方法。
此外,内部存储器321可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
当然,本申请实施例提供的数据传输算法的代码还可以存储在外部存储器中。这种情况下,处理器310可以通过外部存储器接口320运行存储在外部存储器中的数据传输算法的代码,处理器310可以执行本申请实施例中涉及的媒体信息传输方法。
第二设备300中的传输接口330用于连接其他设备,以使第二设备300与其他设备进行媒体信息的传输。
在一种可能的实现方式中,第二设备300中的传输接口可以包括第二传输接口和第三传输接口。第二传输接口与第二设备的处理器连接,通过第二传输接口将待发送给第二设备300的数据封装为第二比特流数据,并通过第三传输接口发送给第一设备的第三传输接口。通过第三传输接口可以接收到来自第一设备的第一比特流数据,并通过第二传输接口解封装得到第一设备发送的原始媒体信息、数据和、控制信息、反馈信息、握手数据、消息等。从而,使得通过第一设备的第三传输接口与第二设备的第三传输接口建立的传输信道可以支持双向传输。
在另一些实施例中,第二设备300还可以通过第二设备的第二传输接口接收第四消息;所述第四消息包括所述N个第一设备的M个第一媒体信息;N、M为大于1的正整数;M大于或等于N;具体的,可以通过第三传输接口接收分别封装的N个第一设备的M个第一媒体信息的第四消息(第四消息中可以是封装为N个比特流数据,也可以是封装为M 个比特流数据,在此不做限定),并通过第二传输接口将第四消息解封装,得到M个第一媒体信息,进行处理,得到媒体信息的处理结果。
在该传输接口为有线的传输接口230时,适用于该传输接口的线缆可以通过插入传输接口330,或从传输接口330拔出,实现和第二设备300的接触和分离。
在第二设备300的传输接口为无线通信接口时,第二设备300的无线通信功能可以通过天线11,天线12,移动通信单元351,无线通信单元352,调制解调处理器以及基带处理器等实现。
天线11和天线12用于发射和接收电磁波信号。第二设备300中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线11复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信单元351可以提供应用在第二设备300上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信单元351可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信单元351可以由天线11接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信单元351还可以对经调制解调处理器调制后的信号放大,经天线11转为电磁波辐射出去。在一些实施例中,移动通信单元351的至少部分功能单元可以被设置于处理器310中。在一些实施例中,移动通信单元351的至少部分功能单元可以与处理器310的至少部分单元被设置在同一个器件中。在本申请实施例中,移动通信单元351还可以用于与第二设备进行信息交互,即向第一设备发送媒体信息的传输请求,其接收的媒体信息的传输请求可以封装成指定格式的消息,或者移动通信单元351可用于向第一设备发送的媒体信息的传输指令或向第一设备发送控制信息的消息。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。
调制解调处理器还可以包括信道编码单元和解码单元。
其中,信道解码单元可以根据链路层和物理层协议,从接收到的第一设备的物理层信号中解码出第一设备发送的数据信号。数据信号可以为第一设备通过对媒体信息信道编码后的媒体信息,也可以是经过媒体编码后的媒体信息的数据。当然,需要第二设备接收的其他参数和设备状态等信息也可以通过传输接口根据相应的传输协议通过相应的传输信道传输。这些信息可以与媒体信息共同发送,也可以通过其他传输协议发送,具体实现方式本申请不做限定。
此时,信道编码单元可以用于对第二设备发送的数据信号进行编码。例如,数据信号可以为向第一设备发送的控制指令。控制指令可以经过第二设备的信道编码单元按照接口传输协议进行信道编码;编码后的控制信号经过传输接口调制后发送到控制信道中,通过第二设备的传输接口和控制信道传输到第一设备,使得第一设备可以通过该控制信道接收到该控制指令。
一种可能的实现方式,应用处理器通过音频设备输出声音信号,或通过显示屏显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器310,与移动通信单元351或其他功能单元设置在同一个 器件中。
无线通信单元352可以提供应用在第二设备300上的包括无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信单元352可以是集成至少一个通信处理单元的一个或多个器件。无线通信单元352经由天线12接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器310。无线通信单元352还可以从处理器310接收待发送的信号,对其进行调频,放大,经天线12转为电磁波辐射出去。本申请实施例中,无线通信单元352,用于与第一设备建立连接,通过与第一设备协同完成媒体应用的任务。在一些实施例中,无线通信单元352还可以用于接入接入点设备,接收第一设备发送的原始媒体信息的传输请求对应的消息,或者向第一设备发送经过媒体编码后的媒体信息的传输请求对应的消息,向第一设备发送控制信息对应的消息。可选地,无线通信单元352还可以用于接收来自其他第一设备的媒体信息或其他设备的信息。
如图2c所示,为本申请实施例提供的一种第一设备和第二设备组成的媒体传输协同的分布式系统的架构示意图。其中,本申请实施例提供的传输接口,可以为第一设备中的传输接口230或第一设备的通信单元250,和第二设备中的传输接口330或第二设备的通信单元350),图中以第一设备中的传输接口230和第二设备中的传输接口330为例进行说明。本申请实施例提供的传输接口可以适用于多种传输协议,也可以称为聚合接口,或者称为新接口(NEW口),也可以采用其它的名字,本申请实施例对此不作限定。
本申请实施例中的传输接口协议支持传输第一设备输出的原始媒体信息,无需第一设备对原始媒体信息进行媒体编码的处理,可以降低对第一设备的硬件要求,相应的,第二设备也无需对传输的媒体信息进行媒体解码,才能获得原始媒体信息,可以有效降低第一设备向第二设备传输媒体信息的时延,为实现实时的分布式媒体信息的分布式协同应用创造条件。
在一些实施例中,本申请实施例中的传输接口协议可以支持第一设备和第二设备对传输原始媒体信息的能力进行协商,确定是否可以协调组成协同的分布式系统,以完成相应的应用的处理任务。进一步的,为保证传输原始媒体信息的安全性,还可以对第一设备和第二设备进行鉴权认证,将认证成功的第一设备和第二设备作为可以传输原始媒体信息的发送端和接收端。
在一些实施例中,传输接口可以为单向传输接口,也可以为双向传输接口。以单向传输接口为例,在发送端设置发送接口,在接收端设置接收接口。从而实现发送端向接收端传输媒体数据的功能。一种示例中,传输接口可以为双向传输接口,此时,传输接口具备发送功能也具备接收功能,即支持双向数据传输。比如传输接口支持发送和接收数据信号,也即,传输接口既可以作为数据信号的发送端,也可以作为数据信号的接收端。在能力协商过程中,传输接口支持原始媒体信息的双向传输。
第一设备300中的传输接口可以包括第一传输接口和第三传输接口。通过第一传输接口与第一设备的处理器连接将待发送给第二设备300的数据封装为第一比特流数据,并通过第三传输接口发送给第二设备的第三传输接口。通过第三传输接口可以接收到来自第二 设备发送的第二比特流数据,从而,通过第一传输接口解封装得到第二比特流数据对应的数据或消息(第二比特流数据为第二设备通过第二传输接口封装的数据或消息)。
第二设备300中的传输接口可以包括第二传输接口和第三传输接口。第二传输接口与第二设备的处理器连接,通过第二传输接口将待发送给第二设备300的数据封装为第二比特流数据,并通过第三传输接口发送给第一设备的第三传输接口。通过第三传输接口可以接收到来自第一设备的第一比特流数据,并通过第二传输接口解封装得到第一设备发送的原始媒体信息、媒体编码后的媒体信息、控制信息、握手、鉴权数据、消息等。从而,使得通过第一设备的第三传输接口与第二设备的第三传输接口建立的传输信道可以支持双向传输。
在另一些实施例中,N个第一设备200和第二设备300还可以通过第一设备的第一传输接口发送第四消息。从而,第二设备的第二传输接口接收第四消息。其中,所述第四消息包括所述N个第一设备的M个第一媒体信息;N、M为大于1的正整数;M大于或等于N。具体的,可以是N个第一设备的N个第一传输接口对M个第一媒体信息进行封装,例如,可以根据每个第一媒体信息进行封装,封装为M个第一比特流数据,也可以根据设备进行封装,即封装为N个第一比特流数据。并通过第三传输接口,将封装后的第一比特流数据打包为第四消息,发送给第二设备的第三传输接口。可以通过第三传输接口接收分别封装的N个第一设备的M个第一媒体信息的第四消息(第四消息中可以是封装为N个比特流数据,也可以是封装为M个比特流数据,在此不做限定),并通过第二传输接口将第四消息解封装,得到M个第一媒体信息,进行处理,得到媒体信息的处理结果。
在另一些实施例中,传输接口还可以用于传输多种类型的数据。传输接口也可以传输媒体信息的信号或者其他数据信号。例如,传输接口可支持媒体信息和原始媒体信息的兼容传输,传输接口可以传输经媒体编码后的媒体信息,也可以传输经过第一设备ISP预处理后的原始媒体信息等媒体数据,传输接口也可以传输第二设备向第一设备发送的控制信息等消息,还可以传输其他数据。
传输接口可以对上述信号进行同时的聚合传输和双向传输。
在一些实施例中,传输接口具有数据聚合传输能力,例如,在带宽允许的条件下,接口的协议可以数据打包和混合等技术支持媒体信息和原始媒体信息的数据在同一信道中同时传输。
在一些实施例中,传输接口可以双向传递握手、鉴权认证时的消息等控制消息。在一些实施例中,传输接口可以传输原始的或压缩的媒体信息,例如,传输接口可以通过配置多个信道,支持媒体信息和原始媒体信息的双向传输。
需要说明的是,此处的数据信号可以为多媒体数据,也可以为本申请实施例中涉及的原始媒体信息,还可以是用于建立传输链路的控制信息、还可以是用于传输其他参数和其他数据信号,在此不做限定。
下面举例说明本申请中传输接口具体传输过程。
在一种可能的实现方式中,发送端对传输的数据进行压缩和加密;将传输的数据经过信道编码传输至传输接口,再经调制后传输到接口的物理层信道。
以第一设备为向第二设备发送原始媒体信息的发送端为例。第一设备还可以包括信道编码单元,通过信道编码单元对所述原始媒体信息按照传输接口或标准约定的数据传输协议进行信道编码得到编码信号。可选的,第一设备在对原始媒体信息进行信道编码前,还 可以对原始媒体信息进行数据压缩,以进一步减少数据传输量。可选的,第一设备在对原始媒体信息进行信道编码,还可以对信道编码后的原始媒体信息进行加密,按照传输接口或标准约定的电气层和物理层传输协议将信道编码后的原始媒体信息调制为物理层信号,从输出接口发送到的传输信道。
在一种可能的实现方式中,接收端接口将物理层信号解调后,可以进行信道解码后获得传输的数据;相应的,接收端还可以对解码后的信号进行解压缩和解密。
以第二设备为接收端接收第一设备发送的原始媒体信息为例。第二设备还可以包括信道解码单元,用于接收第一设备的原始媒体信息。例如,可以通过第二设备的输入接口,从传输信道中接收物理层信号,对物理层信号进行解调获取编码信号。通过信道解码单元,对接收的编码信号按照传输接口的协议进行信道解码,获得第二设备发送的原始媒体信息。可选的,在该编码信号为加密和/或压缩后的变化信号时,该信道解码单元还可以对该编码信号进行解密和解压。
可选的,第一设备200或第二设备300还可以包括:显示屏,用于显示图像,视频等。显示屏包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emitting diode的,AMOLED),柔性发光二极管(flex light-emitting diode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot light emitting diodes,QLED)等。在一些实施例中,第一设备200或第二设备300可以包括1个或S个显示屏,S为大于1的正整数。显示屏可用于显示由用户输入的信息或提供给用户的信息(例如,视频信息,语音信息,图像信息,文字信息等)以及各种图形用户界面(graphical user interface,GUI)。例如,显示屏可以显示照片、视频、网页、或者文件等。可选的,显示屏可以显示如图4b所示的图形用户界面。其中,如图4b所示的图形用户界面上可以包括状态栏、可隐藏的导航栏、时间和天气小组件(widget)、以及应用的图标,例如浏览器图标等。状态栏中包括运营商名称(例如中国移动)、移动网络(例如4G)、时间和剩余电量。导航栏中包括后退(back)键图标、主屏幕(home)键图标和前进键图标。此外,可以理解的是,在一些实施例中,状态栏中还可以包括蓝牙图标、Wi-Fi图标、外接设备图标等。还可以理解的是,在另一些实施例中,图4b所示的图形用户界面中还可以包括Dock栏,Dock栏中可以包括常用的应用图标等。当处理器210检测到用户的手指(或触控笔等)针对某一应用图标的触摸或手势事件后,响应于该触摸或手势事件,打开与该应用图标对应的应用的用户界面,并在显示屏上显示该应用的用户界面。示例性的,第一设备200或第二设备300的显示屏显示主界面,主界面中包括多个应用(比如相机应用、微信应用等)的图标。用户通过触摸传感器点击主界面中相机应用的图标,触发处理器210启动相机应用,打开摄像头。显示屏显示相机应用的界面,例如取景界面。可选的,第一设备200或第二设备300可以利用马达产生振动提示(比如来电振动提示)。第一设备200或第二设备300中的指示器可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。
可选的,第一设备200或第二设备300可以通过音频单元,以及应用处理器等实现音频功能。例如音乐播放,录音等。可选的,音频单元可以包括:扬声器,受话器,麦克风,耳机接口中的一项或多项。可选的,第一设备200或第二设备300可以接收按键输入,产 生与第一设备200或第二设备300的用户设置以及功能控制有关的按键信号输入。
在本申请实施例中,显示屏可以是一个一体的柔性显示屏,也可以采用两个刚性屏以及位于两个刚性屏之间的一个柔性屏组成的拼接显示屏。
应理解,在实际应用中,第一设备200可以包括比图2a所示的更多或更少的部件,第二设备300可以包括比图2a所示的更多或更少的部件,本申请实施例不作限定。图示第一设备200或第二设备300仅是一个范例,并且第一设备200或第二设备300可以具有比图中所示出的更多的或者更少的部件,可以组合两个或更多的部件,或者可以具有不同的部件配置。图中所示出的各种部件可以在包括一个或多个信号处理和/或专用集成电路在内的硬件、软件、或硬件和软件的组合中实现。
如图3a所示,本申请提供一种建立通信连接的方法的流程示意图。第一设备与第二设备建立媒体信息传输的通信连接,通过第一设备和第二设备之间互相配合,实现第一设备和第二设备协同完成一个媒体传输应用的媒体传输任务。第一设备可以有多个,第二设备也可以有多个,第一设备和第二设备之间可以通过相应的传输接口(第三传输接口)及传输接口对应的信道实现相互连接。下面以第二设备具有显示屏,且第二设备发起建立媒体传输的分布式系统的通信连接方式为例进行说明。在一些实施例中,还可以是第一设备主动发起建立与第二设备的通信连接,可以参考该实施例的方式实施,在此不做限定。具体可以包括:
步骤301:第二设备通过设备发现协议,发现第一设备。
第一设备与第二设备可以通过各自的传输接口及相应的有线或无线信道实现相互连接,例如,可以通过蓝牙、NFC、WIFI建立无线通信连接,还可以通过有线的方式建立通信连接。
步骤302:第二设备向第一设备发送能力协商请求消息。
其中,能力协商请求消息用于请求所述第一设备支持的传输协议,所述第一设备的传输协议用于指示所述第一设备是否支持传输原始媒体信息。
第二设备可以根据本申请实施例中适应的设备发现协议,发现第一设备。进而,通过传输接口中控制信道和握手协议进行第一设备与第二设备的能力协商,使得第二设备确定第一设备的类型,支持传输原始媒体信息的传输接口,支持传输原始媒体信息的软件能力(是否支持相应的传输协议的编码)媒体处理能力等,支持的媒体信息的传输协议,第一设备中的原始媒体信息采集模块的能力(例如,传感器的型号和参数等信息)等信息,从而确定第一设备是否可以与第二设备建立通信连接,用于实现原始媒体传输的功能。
在一些实施例中,可以是通过相应的媒体信息应用(例如,即时通讯应用,交互式应用等)触发建立第一设备与第二设备组成的分布式系统,还可以通过其他方式触发建立第一设备与第二设备组成的分布式系统,也可以是用户主动发起建立第一设备与第二设备的通信连接,以建立的第一设备与第二设备组成的分布式系统。例如,用户可以通过设置有媒体传输协同功能的界面的第一设备或第二设备相应设置第一设备或第二设备的媒体传输协同功能。例如,可以在第一设备上设置对应第一设备的媒体传输协同功能的界面,使得用户可以在该界面上对第一设备的媒体传输协同功能进行设置。也可以在第二设备上设置对应第二设备的媒体传输协同功能的界面,从而,用户可以在该界面上对第一设备的媒体传输协同功能进行设置。
考虑到一些场景中,第一设备或第二设备没有显示界面的功能,此时,可以在具有显 示界面功能的设备上,对第一设备和第二设备的媒体传输协同功能进行设置,即将第一设备和第二设备作为一个整体进行媒体传输协同功能设置。例如,第一设备具有显示界面的功能时,可以对第一设备的媒体传输协同功能进行设置,还可以对第二设备的媒体传输协同功能进行设置,从而确定第一设备与第二设备组成的媒体传输协同功能的设置,在此不做限定。
其中,具备媒体信息采集能力的设备可以作为系统的第一设备,具备媒体信息处理能力的终端设备可以作为系统中的接收端;系统第一设备和接收端都可以为一个或多个;系统协商确认第二设备是否具备处理第一设备采集的原始媒体信息的能力,传输接口协议是否支持传输原始媒体信息,如果都具备则认为协商成功。
下面以用户主动触发的方式为例进行说明。
例如,第二设备可以设置有媒体传输协同功能的界面。示例性的,如图3b所示,为第二设备的媒体传输协同功能的控制界面310,用户可以对该控制界面310进行操作,以设置是否与第一设备建立媒体传输协同功能。例如,用户可以基于媒体传输协同功能的开启/关闭控件320,开启/关闭媒体传输协同功能。
用户打开第二设备的媒体传输协同功能。在第二设备的媒体传输协同功能的界面中可以显示第二设备发现的第一设备的标识。第一设备的标识可以包括第一设备的设备图标和/或第一设备作为媒体传输协同的原始媒体信息发送端时的发现名。
在一些实施例中,响应于用户的点击操作,第二设备显示第一查找设备界面330,该第一查找设备界面330可以为第二设备的媒体传输服务的查找设备界面,该查找设备界面330中可以包括可发现的第一设备的标识,具体的,如图3c所示,查找设备界面中包括第一设备的图标350和该第一设备作为媒体传输协同的原始媒体信息发送端时的发现名340。这样,能够方便用户区分第二设备发现的媒体传输协同的原始媒体信息发送端的设备的类型,如媒体传输协同的原始媒体信息发送端的设备类型是分体式智慧屏,手机配件,还可以是监控设备,车载传感器设备等。如图3c所示,第一设备可以是智慧屏1,相机1,耳机1,AR眼镜。在本申请其他一些实施例中,第一查找设备界面中也可以不按照协作服务端的设备的类型对发现的设备进行区分。
示例性的,在其他一些实施例中,用户可以对第二设备的通知栏或任务栏中的提示框进行操作,响应于上述操作,第二设备打开上述第一查找设备界面。在另外一些实施例中,用户可以对第二设备的通知栏或任务栏中的相关图标进行操作,响应于上述操作,第二设备打开上述第一查找设备界面。响应于对第一设备的选择操作,第二设备可以向第一设备发送能力协商请求。
其中,该能力协商请求可以为通过第二设备的传输接口中的控制信道和相应的握手协议向第一设备发送的握手请求消息。该能力协商请求用于请求第一设备的媒体信息获取能力,原始媒体信息采集模块的参数,媒体信息的软硬件处理能力,传输接口支持的传输协议等能力信息。
步骤303:向第二设备发送能力协商响应消息。
其中,所述能力协商响应消息可以用于确认第一设备支持传输原始媒体信息的传输协议。可选的,该能力协商响应消息还可以用于确认第一设备的能力信息。例如,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体信息采集能力,所述第一设备的原始媒体信息采集模块的参数,所述第一设备的原始媒体信息采集能力,原始媒体信息传 输能力,及所述第一设备的传输接口的类型,支持的媒体信息的传输协议等。
在一些实施例中,第一设备在接收到第二设备发送的能力协商请求消息后,可以向第二设备返回能力协商响应,该能力协商响应消息中可以包括:第一设备的媒体信息获取能力,媒体信息的主要参数,媒体信息的软硬件处理能力,传输接口支持的传输协议等能力信息。
响应于第一设备的能力协商响应消息,第一设备可以根据能力协商响应消息,确定第一设备是否能够通过各自的传输接口,组成一个分布式系统,用于媒体传输(例如,第一应用的协同)。即第一设备的传输接口和第二设备的传输接口是否可以支持传输媒体信息的原始媒体信息。
在确定第一设备支持原始媒体信息传输时,可以向第一设备发送能力协商确认消息,该能力协商确认消息可以用于提示第一设备能力协商成功,是否开启媒体传输协同功能。
在一些实施例中,当原始媒体信息传输能力协商成功时,第二设备上还可以显示该能力协商确认消息的提醒消息,如图3d中的(a)所示,以提示用户是否开启第一设备与第二设备的媒体传输协同功能。在该提醒消息的界面上,可以设置有设置控件,用于跳转至媒体传输协同的界面,以使用户可以与第一设备创建媒体传输协同。
在一些实施例中,当原始媒体信息传输能力协商失败(例如,第一设备与第二设备的传输接口不兼容)时,第二设备可以向第一设备返回能力协商失败的消息,如图3d中的(b)所示,在该提醒消息的界面上,可以设置有查看详情控件,用于跳转至媒体传输协同的界面,以使用户可以查看具体的原始媒体信息传输能力协商失败结果的界面。此时,用于可以根据协商失败结果,确定是否仍与第一设备传输媒体信息,以实现第二设备的媒体传输应用功能。另一种可能的方式,如图3d中的(b)所示,在该提醒消息的界面上,还可以提示用户是否与第一设备传输其他媒体传输协议(例如,HDMI等类型)的媒体信息,以实现第二设备的媒体传输应用的相应功能。
在原始媒体信息传输能力协商失败时,一种的可能的场景,第一设备和第二设备可以协商传输对应媒体传输协议的媒体信息的能力。通过相应的握手协议,确定第一设备、第二设备及相应的传输接口同时支持传输的媒体信息的传输方式。从而,第一设备可以与第二设备建立传输媒体信息的通信链路,第一设备可以基于获取的媒体信息,根据第一设备和第二设备支持的媒体编码方式,第一设备可以将媒体信息进行媒体编码和信道编码,将编码后的媒体信息的信号发送给第二设备。此时,第二设备根据接收到的媒体信息的信号,进行解码,获得相应的媒体信息,并根据媒体传输应用的需要,对媒体信息进行处理。当媒体信息需要在第二设备进行显示/播放时,第二设备可以对该媒体信息进行显示/播放。当媒体信息的处理结果需要在第一设备进行显示/播放时,第二设备可以将媒体信息的处理结果进行媒体编码和信道编码,生成可以使得第一设备进行显示/播放的媒体信息的信号,从而,第一设备可以接收到该媒体信息的信号,并进行显示/播放。
可选的,考虑到原始媒体信息传输的安全性,在原始媒体信息能力协商成功后,还可以对第一设备和第二设备进行分布式鉴权。例如,可以通过第一设备和第二设备的第三传输接口中的控制信道,及相应的握手协议进行鉴权认证,授予第二设备直接接收第一设备的原始媒体信息的权限。
步骤304:第二设备向第一设备发送第一认证请求消息。
其中,所述第一认证请求消息用于请求所述第一设备是否与所述第二设备建立可信的通信连接,所述通信连接用于确认所述第一设备向所述第二设备传输原始媒体信息的权限。
在一些实施例中,响应于用户对第一界面的媒体传输协同请求的操作,第二设备可以向第一设备发送认证请求消息;该认证请求消息用于请求第二设备获取第一设备的原始媒体信息采集模块等用于媒体传输协同功能的模块的控制权限。
其中,认证请求对应的鉴权方式可以包括手动授权、统一生物特征认证授权、账户授权、云端授权、近场通信授权等方式。以用户输入用户名和密码的方式举例说明。此时,第二设备可以显示第一设备的认证界面,该认证界面用于提示用户输入登录认证第一设备的用户名和密码。在第二设备接收到用户的确认输入后,第二设备可以将用户输入的用户名和密码携带在认证请求消息发送至第一设备。第一设备从传输端口接收到第二设备的认证请求消息,对认证请求中携带的用户名和密码进行合法性验证。在第一设备对第二设备的合法性验证通过后,第一设备可以向第二设备发送认证响应消息,该认证响应消息用于通知第二设备,第二设备可以获得第一设备的原始媒体信息采集模块等用于媒体传输协同功能的模块的控制权限。
步骤305:第一设备向第二设备发送第一认证响应消息。
其中,所述第一认证响应消息用于确认所述第一设备是否与所述第二设备建立可信的通信连接。
步骤306:第二设备可以向第一设备发送认证成功消息。
其中,所述认证成功消息包括:所述第一设备在分布式系统内的设备标识,及所述第一设备和所述第二设备所在的分布式系统的标识。
在一些实施例中,响应于第一设备的第一认证响应消息,第二设备可以为第一设备与第二设备组成的媒体传输协同的分布式系统分配一个分布式系统的标识,即可以认为第一设备与第二设备组成一个超级设备或分布式系统。在该分布式系统中,还可以为第一设备分配相应的设备标识,为第二设备分配相应的设备标识,用于分布式系统之间的数据传输。该分布式系统的标识可以用于第二设备与第一设备建立通信链路。并根据需求建立相应的媒体数据链路、媒体传输应用获得原始媒体信息的传输链路。从而,第二设备可以通过原始媒体信息传输链路接收第一设备发送的原始媒体信息,在对原始媒体信息进行处理后,可用于后续的媒体传输应用。第二设备可以通过媒体数据链路接收第一设备发送的媒体信息。
当安全鉴权失败时,第二设备无法获得与第一设备传输原始媒体信息的权限,可以向第二设备显示第二设备与第一设备建立媒体传输协同失败的通知消息。此时,可以参考能力协同失败时,如图3d中的(b)所示的方式,提示用户是否与第一设备传输其他媒体传输协议(例如,HDMI等类型)的媒体信息,以实现第二设备的媒体传输应用的相应功能。
在一些实施例中,第一设备和第二设备都可以为多个,可以由一个第一设备发起媒体传输协同的通信连接的建立,也可以是多个设备共同向服务器发起能力协商请求和认证请求,此时,可以通过服务器对第一设备和第二设备分别进行上述建立媒体传输协同的能力的确认,及对第一设备和第二设备进行安全鉴权,在能力协商成功,及鉴权成功后,可以为第二设备配置相应的第一设备的控制权限,并为组成的分布式系统配置设备标识。
当媒体传输协同组成的分布式系统中存在多个第一设备或多个用于媒体传输协同的第一设备的原始媒体信息采集模块、存储单元、传输接口等多个模块时,可为不同的模块分 配该设备标识的模块标识。如图3d中的(c)所示,为第二设备与第一设备成功建立媒体传输协同后的显示界面,在该显示界面中,可以显示可以与第二设备建立媒体传输协同的模块,及模块标识,模块的状态(是否开启媒体传输协同)。在另一些实施例中,还可以通过用户主动设置与第二设备建立媒体传输协同的模块,不申请不做限定。
从而,多个第一设备或多个原始媒体信息采集模块获得的原始媒体信息,可以根据各自的模块标识,以区分各自的原始媒体信息的来源,从而,通过传输接口聚合后统一发送给第二设备,第二设备可以根据各自的模块标识,确定各自的原始媒体信息,从而,进行相应的处理,并通过携带各自的模块标识向对应的设备发送控制指令,以实现多设备的媒体传输协同,便于第二设备对多个第一设备或多个模块进行统一的控制、管理。
在本申请其他一些实施例中,在第一设备对第二设备的合法性验证通过后,第二设备还可以显示通知消息,以通知用户第二设备与第一设备已成功建立连接,其可以建立与第一设备中的媒体数据用于与第二设备媒体传输协同的传输场景。
进一步的,在第一设备与第二设备建立通信连接的过程中,为避免用户对媒体传输协同功能的频繁操作,一种可能的实现方式,第二设备可以预先设置开启媒体传输协同功能的触发条件,例如,在第一设备与第二设备建立通信连接,且第二设备开启了相应的媒体传输应用时,第二设备自动开启媒体传输协同功能。此处的触发媒体传输协同功能的媒体传输应用,可以通过设置白名单的方式确定,如图3b所示,白名单可以是用户在媒体传输协同功能的界面设置的,也可以通过出厂设置默认设置,在此不做限定。
相应的,第一设备也可以预先设置开启媒体传输协同功能的触发条件,例如,在第一设备与第二设备建立通信连接后,第一设备自动开启媒体传输协同功能。
另一种可能的实现方式,考虑到该通信连接是用于实现媒体传输协同功能的,因此,用户可以在第二设备中的媒体传输协同控制界面设置:查找的第一设备为开启了媒体传输协同功能的第一设备。从而,使得第二设备仅与开启了媒体传输协同功能的第一设备建立通信连接,避免建立不必要的通信连接,浪费网络资源。示例性的,在第二设备确定第一设备开启媒体传输协同功能时,与第一设备建立通信连接。
问题2:现有技术中,第二设备只能被动接收第一设备发出的媒体信息,媒体信息传输过程不能灵活控制,甚至在时延较高时,可能影响媒体信息应用的使用体验。
如图4a所示,为本申请提供一种媒体信息传输方法的流程示意图。第一设备与第二设备建立媒体信息传输的通信连接,通过第一设备和第二设备之间互相配合,实现第二设备控制第一设备,更好的协同完成媒体传输的任务。下面以第二设备具有显示屏,且第二设备发起建立媒体传输的分布式系统的通信连接方式为例进行说明。在一些实施例中,还可以是第一设备主动发起建立与第二设备的通信连接,可以参考该实施例的方式实施,在此不做限定。具体可以包括:
步骤401:第二设备通过设备发现协议,发现第一设备。
第一设备与第二设备可以通过各自的传输接口及相应的有线或无线信道实现相互连接,例如,可以通过蓝牙、NFC、WIFI建立无线通信连接,还可以通过有线的方式建立通信连接。
步骤402:第二设备向第一设备发送能力协商请求消息。
其中,能力协商请求消息用于请求所述第一设备的原始媒体信息采集模块的能力,及 是否支持授权第二设备控制第一设备中的原始媒体信息采集模块的能力等。相应的,对应第二设备的能力协商,所述能力协商响应消息可以用于确认第二设备控制原始媒体信息采集模块的能力,第二设备支持的传输接口,支持的传输协议。该传输协议可以用于传输控制第一设备的原始媒体信息采集模块的控制指令。从而确定第一设备是否可以与第二设备建立通信连接,用于第二设备向第一设备发送控制指令,以控制第一设备采集和发送媒体信息,实现媒体传输协同的功能。
考虑到该过程对于用户而言,可以是无感知的,因此,用于确认第一设备是否支持授权第二设备控制第一设备中的原始媒体信息采集模块的能力可以是在步骤303中用户触发媒体传输协同功能时发起的能力协商请求时一起发送的,也可以是图3a中的能力协商完成后,单独发送的,在此不做限定。具体实施方式可以参考步骤303的发送方式,在此不再赘述。
步骤403:向第一设备发送能力协商响应消息。
其中,所述能力协商响应消息可以用于确认第一设备的原始媒体信息采集模块的能力,及是否支持授权第二设备控制第一设备中的原始媒体信息采集模块的能力。相应的,对应第二设备的能力协商,所述能力协商响应消息可以用于确认第二设备控制原始媒体信息采集模块的能力,第二设备支持的传输接口,支持的传输协议。该传输协议可以用于传输控制第一设备的原始媒体信息采集模块的控制指令。
例如,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体信息采集能力,支持授权第二设备控制第一设备中的原始媒体信息采集模块的能力,传输接口的类型,支持的传输协议等。
响应于第一设备的能力协商响应消息,第一设备可以根据能力协商响应消息,确定第一设备是否能够通过各自的传输接口,组成一个分布式系统,用于第二设备控制第一设备的媒体传输(例如,第一应用的协同)。即第一设备的传输接口和第二设备的传输接口是否可以支持第二设备控制第一设备采集媒体信息和传输媒体信息。
在第二设备确定第一设备支持授权控制权限的能力时,可以向第一设备发送能力协商确认消息,该能力协商确认消息可以用于提示第一设备能力协商成功,是否开启媒体传输协同功能。
在一些实施例中,当第二设备控制第一设备采集并发送媒体信息的能力协商成功时,第二设备上还可以显示该能力协商确认消息的提醒消息,具体可以参考如图3d的(a),在此不再赘述。
在一些实施例中,当授权控制权限的能力协商失败时,第二设备可以向第一设备返回能力协商失败的消息,如图4b中的(a)所示,在该提醒消息的界面上,可以设置有查看详情控件,用于跳转至媒体传输协同的界面,以使用户可以查看具体的控制媒体传输权限能力协商失败结果的界面。在该提醒消息的界面上,还可以提示第二设备获得控制第一设备的媒体信息的选项为灰色,表明当前只能通过第一设备主动发送媒体信息。
步骤404:第二设备向第一设备发送第二认证请求消息。
其中,所述第二认证请求消息用于请求所述第一设备是否授权所述第二设备控制所述第一设备采集并发送媒体信息的权限。
在一些实施例中,响应于用户对第一界面的媒体传输协同请求的操作,第二设备可以向第一设备发送认证请求消息;该认证请求消息用于请求第二设备获取第一设备的原始媒 体信息采集模块等用于媒体传输协同功能的模块的控制权限。
在第一设备对第二设备的合法性验证通过后,第一设备可以向第二设备发送认证响应消息,该认证响应消息用于通知第二设备,第二设备可以获得第一设备的原始媒体信息采集模块等用于媒体传输协同功能的模块的控制权限。
步骤405:第一设备向第二设备发送第二认证响应消息。
其中,所述认证响应消息用于确认所述第二设备是否授权获得所述第一设备的控制权限。
步骤406:第二设备可以向第一设备发送认证成功消息。
在一些实施例中,所述认证成功消息包括:所述第一设备对应的设备标识,及所述第一设备和所述第二设备所在的分布式系统的标识。
在一些实施例中,响应于第一设备的认证响应消息,第二设备可以为第一设备与第二设备组成的媒体传输协同的分布式系统分配一个分布式系统的标识,即可以认为第一设备与第二设备组成一个超级设备或分布式系统。在该分布式系统中,还可以为第一设备分配相应的设备标识,为第二设备分配相应的设备标识,用于分布式系统之间的数据传输。该分布式系统的标识可以用于第二设备与第一设备建立通信链路。并根据需求建立相应的媒体数据链路、媒体传输应用获得原始媒体信息的传输链路,及控制链路。
利用第二设备的人机交互或自动控制能力对第一设备的媒体信息采集进行控制。另外,第二设备还可以通过用于交互控制的控制单元接收用户的控制指令,或根据第二设备的软件算法生成媒体采集控制指令。
第二设备可以通过控制链路,向第一设备发送控制指令,该控制指令可以用于指示对第一设备中的模块(原始媒体信息采集模块、存储单元、播放单元等)的控制,例如对原始媒体信息采集模块采集媒体信息的开始和结束,对原始媒体信息采集模块的参数调节控制和操作等控制方式。从而,第一设备响应于该控制指令,采集原始媒体信息,并通过原始媒体信息传输链路发送的原始媒体信息,在对原始媒体信息进行处理后,可用于媒体传输应用。或,通过第一设备和第二设备的协同,对第一设备采集的媒体信息实现相应的媒体传输应用的任务。
当安全鉴权失败时,第一设备无法获得第一设备相应媒体传输协同所需模块的控制权限,可以向第二设备显示第二设备与第一设备建立媒体传输协同失败的通知消息。
当安全鉴权部分失败时,例如,第一设备中的原始媒体信息采集模块鉴权成功,存储单元鉴权失败,此时,可以针对鉴权成功的模块与第二设备建立媒体传输协同的通信连接。进一步的,还可以在第二设备的媒体传输协同的界面,显示第二设备与第一设备的原始媒体信息采集模块鉴权成功,建立媒体传输协同成功的通知消息。再比如,第一设备的原始媒体信息预处理单元鉴权成功,此时,第二设备可以与第一设备的原始媒体信息采集模块1建立媒体传输协同的通信连接。即第二设备可以为第二设备与第一设备的原始媒体信息采集模块1配置设备标识和模块标识,组成相应的媒体传输协同的分布式系统。该设备用于第一设备与第二设备建立原始媒体信息的通信链路,还可以建立媒体信息的通信链路。第一设备可以向第二设备发送原始媒体信息,使得第二设备根据第一设备发送的原始媒体信息,对原始媒体信息进行处理,得到媒体传输应用的处理结果,从而实现第一设备与第二设备的媒体传输协同。
在一些实施例中,第一设备和第二设备都可以为多个,可以由一个第一设备发起媒体 传输协同的通信连接的建立,也可以是多个设备共同向服务器发起能力协商请求和认证请求,此时,可以通过服务器对第一设备和第二设备分别进行上述建立媒体传输协同的能力的确认,及对第一设备和第二设备进行安全鉴权,在能力协商成功,及鉴权成功后,可以为第二设备配置相应的第一设备的控制权限,并为组成的分布式系统配置设备标识。
当媒体传输协同组成的分布式系统中存在多个第一设备或多个用于媒体传输协同的第一设备的原始媒体信息采集模块、存储单元、传输接口等多个单元时,可为不同的单元分配该设备标识的模块标识。在另一些实施例中,还可以通过用户主动设置与第二设备建立媒体传输协同的单元,不申请不做限定。例如,如图4b中的(b)所示,第一设备的单元1用于与第二设备建立针对第一应用的媒体传输协同,此时,可以在单元1的显示栏中显示分布式系统ID,第一设备对应的第一设备ID和模块ID。
从而,多个第一设备或多个原始媒体信息采集模块采集到的媒体信息,可以根据各自的模块标识,以区分各自的原始媒体信息的来源,从而,通过传输接口聚合后统一发送给第二设备,第二设备可以根据各自的模块标识,确定各自的原始媒体信息,从而,进行相应的处理。
可选的,当系统中存在多个原始媒体信息采集模块时,控制指令可以根据传感器在分布式系统中的模块ID进行寻址发送;第一设备的传输接口接收到控制指令后,响应于控制指令,控制原始媒体信息采集模块的采集动作并对其原始媒体信息采集模块的参数进行调节。各个原始媒体信息采集模块采集的媒体信息可以根据其模块ID进行独立的打包封装;当传输接口的带宽允许时,多个原始媒体信息采集模块采集的媒体信息的数据包可以在传输接口中进行聚合后统一传输;第二设备将接收到的数据包根据原始媒体信息采集模块在分布式系统的模块ID重新分配组合后恢复出各个原始媒体信息采集模块采集的媒体信息。
在本申请其他一些实施例中,在第一设备对第二设备的合法性验证通过后,第二设备还可以显示通知消息,以通知用户第二设备与第一设备已成功建立连接,其可以建立与第一设备中的媒体信息用于与第二设备媒体传输协同的传输场景。通过携带各自的模块标识向对应的设备发送控制指令,第二设备可以直接像控制本设备的原始媒体信息采集模块,使用第一设备的媒体采集能力,实现多设备的媒体传输协同,便于第二设备对多个第一设备或多个模块进行统一的控制、管理。
示例一
在该示例一中,可以用于分体电视、分体式AR/VR等场景。第一设备可以为分体电视的屏幕端、AR/VR头戴式显示设备等设备。第二设备可以为分体电视主机盒子、手机、PC、游戏主机等。如图5a所示,为本示例对应的系统架构的示意图。第一设备和第二设备通过相应的传输接口,建立媒体传输协同的通信连接,以组成媒体传输应用协同的分布式系统。在该场景下,如图5b所示,本申请实施例的媒体信息传输方法的流程可以包括以下步骤:
步骤501:第一设备获取原始媒体信息。
其中,第一设备可以是具备音视频的采集和显示播放能力。
通过第一设备的媒体采集单元(例如,包括原始视频采集模块和原始音频采集模块)采集原始媒体信息(例如,原始视频图像和原始音频信号),经过第一设备的预处理后, 获得待传输的原始媒体信息。例如,如图5c所示,第一设备为分体电视的屏幕端,在第一设备的摄像头上采集的人的多个视频图像帧作为待传输的原始媒体信息。
第一设备的原始媒体信息采集模块采集声、光信息并将其转换为电信号,之后经过采样量化等处理将其转换为数字化的原始媒体信息;可选的,第一设备上的第二模块(原始媒体信息预处理模块)对获取的数字化的原始媒体信息进行预处理,获得原始媒体信息。
步骤503:第一设备向第二设备发送原始媒体信息。
所述第一设备对数字化的原始媒体信息(数字媒体信号)按照传输接口或标准约定的数据传输协议进行信道编码;可选的,在编码前对媒体数据进行数据压缩;可选的,对信道编码后的原始媒体信息进行加密;在所述采集单元,可以按照传输接口或标准约定的电气层和物理层传输协议将信道编码后的媒体信号调制为物理层信号,并从原始媒体信息采集模块的内部接口输出;从原始媒体信息采集模块输出的物理层信号可以进过第一设备的传输接口直接透传到与第二设备建立的传输信道,用于发送给第二设备的传输接口。
步骤504:第二设备对原始媒体信息进行处理。
将原始媒体信息传输到第二设备的处理器中。第二设备具备媒体信息处理和控制能力,例如,具备图像处理硬件以及媒体信息处理和人机交互能力。
其中,第二设备将原始媒体信息传输到媒体处理单元,利用媒体处理单元的硬件和软件算法对媒体信号进行处理。处理方式包括但不限于:降噪、去马赛克、白平衡、智能美化、插帧、运动补偿等。经过处理的原始媒体信息可以在第一设备或第二设备的显示播放单元上进行显示或播放,也可以利用第二设备或云端的媒体信息分析能力用于机器视觉、语音交互等的媒体信息输入。原始媒体信息的处理结果可以提供给后续的媒体传输应用程序,获得后续语音交互、机器视觉交互、环境建模等媒体传输应用的任务的处理结果。第二设备可以将处理结果在本地保存或传输到网络,以备后续应用,在此不做限定。
通过上述方法,第一设备传感器获取的原始数据可以不经过第一设备的处理,直接将分体电视的屏幕端或分体AR/VR的显端的传感器采集的媒体信息通过传输接口传输到第二设备,利用分体电视主机或手机的软硬件系统进行数据处理;提高传输效率,降低传输功耗:传感器输出的数据不需要再在第一设备进行解码和转码,可以直接通过传输接口发送到第二设备。例如,可以简化分体电视屏幕端和分体AR/VR头显的系统,实现轻薄、低功耗、低复杂度设计提升产品竞争力,降低成本。
步骤505a:向第一设备发送第三消息,用于指示第一设备显示第三消息的内容。
第二设备可以通过对原始媒体信息的处理结果,获得媒体播放信息,从而,通过传输接口向第一设备发送第三消息,该第三消息的内容可以是媒体播放信息。
步骤506a:响应于第三消息,第一设备显示第三消息的内容。
响应于该媒体播放信息,第一设备可以显示该媒体播放信息。或者,第二设备可以根据其他方式,确定第一设备需显示的媒体播放信息,例如,可以是第一设备本地存储的媒体播放信息,也可以是第二设备本地存储的媒体播放信息,还可以是服务器上存储的媒体播放信息,在此不做限定。
在一些实施例中,第二设备获得的媒体传输应用的处理结果需要在第一设备的显示界面上显示,例如,如图5d所示,在第一设备上采集的人的多个视频图像帧作为待传输的原始媒体信息,此时,可以根据手势识别的应用对第一设备发送的原始媒体信息进行处理,以识别出第一设备采集的人的视频图像中的手势。识别出的手势可以通过在图像的相应位 置生成识别框作为该媒体传输应用的处理结果。此时,可以将该媒体传输应用的处理结果显示到第一设备的显示屏上,因此,第二设备可以向第一设备发送该手势识别结果,以指示第一设备在显示屏的相应位置上显示该手势识别结果,从而,使得用户可以根据显示的手势识别结果确定手势识别成功。
步骤504b:向第一设备发送第一消息。
其中,该第一消息包括控制指令,以调整第一设备的原始媒体信息采集模块的参数。
可选的,第二设备拥有第一设备的原始媒体信息采集模块的控制权限时,可以生成对第一设备的原始媒体信息采集模块的控制指令;用于控制原始媒体信息采集模块的采集动作进行调节,从而用于控制媒体采集单采集媒体信息。
例如,处理后的原始媒体信息可以作为语音识别、手势识别等交互应用的数据输入,经相应的智能算法处理后,结合相应的应用需求或用户触发的请求,生成对原始媒体信息采集模块的控制指令。
结合上述手势识别的举例,第二设备生成的控制指令可以为调节视频采集单元(摄像头)的角度和焦距等,以使摄像头采集图像时,可以有效识别出人的手势。
步骤505b:响应于第一消息,调整所述第一设备采集原始媒体信息的状态。
例如,第一设备可以响应于第一消息,调整原始媒体信息采集模块的参数。
结合上述手势识别的举例,第一设备可以根据该控制指令,调节视频采集单元(摄像头)的角度和焦距等,以使摄像头采集图像时,可以更好的获取到对人的手势的识别的有效信息,进而向第二设备发送相应的原始媒体信息的图像,从而有利于在用户移动时,也可以很好的跟踪到人的手势,避免人在大幅度移动时,可能导致无法有效识别人的手势,从而导致无法进一步与用户进行交互,导致用户体验差的问题。
步骤504c:向第一设备发送第二消息。
在一些实施例中,在第二设备确定第一设备通过原始媒体信息采集模块中的单元1采集的原始媒体信息不足以实现当前的应用的需要时,可以指示用户通过原始媒体信息采集模块中的单元2(例如,另一摄像头),采集原始媒体信息,并指示第一设备向第二设备发送该原始媒体信息。通过单元1和单元2同时采集到的原始媒体信息,进行融合处理,得到更好的媒体信息的处理效果。此时,第二消息可以是第一设备指示用户通过原始媒体信息采集模块中的单元2(例如,另一摄像头),采集原始媒体信息,并指示第一设备向第二设备发送该原始媒体信息。
在另一些实施例中,在第二设备确定第一设备确定需要在第一设备上,显示原始媒体信息采集模块中的单元2(例如,另一摄像头),采集的媒体信息时,可以指示用户通过原始媒体信息采集模块中的单元2(例如,另一摄像头),采集原始媒体信息,并在第一设备上显示。
在另一些实施例中,第二消息可以为第二设备请求第一设备获取的媒体信息,此处获取的媒体信息可以是第一设备从网络中获取的,也可以是存储在第一设备中的,在此不做限定。
步骤505c:响应于第二消息,第一设备获取第一数据。
结合上述例子,第二消息可以是指示用户通过原始媒体信息采集模块中的单元2(例如,另一摄像头),采集原始媒体信息,并指示第一设备向第二设备发送该原始媒体信息。此时,第一设备可以开启原始媒体信息采集模块中的单元2的采集功能,并通过单元2采 集原始媒体信息,进而通过第一设备的传输接口传输该单元2采集的原始媒体信息。
在另一些实施例中,第二消息可以是指示用户通过原始媒体信息采集模块中的单元2(例如,另一摄像头),采集原始媒体信息,显示原始媒体信息采集模块中的单元2(例如,另一摄像头)采集的媒体信息时,第一设备可以开启原始媒体信息采集模块中的单元2的采集功能,并通过单元2采集原始媒体信息,并在第一设备上显示。
步骤506c:第一设备显示第一数据。
例如,如图5e所示,可以在第一设备上的显示框中显示第一数据,形成画中画的界面。
步骤507c:第一设备发送第一数据。
结合上述例子,第二消息指示第一设备向第二设备发送第一数据时,第一设备获取到第一数据后,可以通过第一设备的传输接口传输该第一数据。
通过上述方法,第一设备和第二设备组成的分布式系统更加灵活,在经过分布式鉴权后,第一设备还可以将第一设备的模块(例如,传感器、原始媒体信息采集模块、及用于控制原始媒体信息采集模块的控制模块等)的控制权限授权给第二设备,第二设备可以直接像控制本设备的传感器一样使用第一设备的传感能力,实现分布式的协同;同时,一个第二设备可以连接多个第一设备,对多个模块进行协同控制,数据统一处理,更好的完成机器视觉、定位、人体姿态检测等感知任务,为自然人际交互、AR/VR等应用提供帮助。通过更新第二设备的软硬件实现系统升级通过分布式协同充分发挥第二设备计算中心价值,第一设备架构简化,降低体积和功耗,节约成本。
示例二
如图6a所示,为示例二的一种系统架构的示意图。第二设备具备显示屏。此时,第一设备可以为外置摄像头配件、车载摄像头、家用监控摄像头、具备视频采集能力的智能家电、分体电视的屏幕端、AR/VR头显等终端设备。第二设备可以为分体电视主机盒子、手机、车载主机、PC、游戏主机等具备较强计算显示的终端设备。第一设备和第二设备通过相应的传输接口,建立媒体传输协同的通信连接,以组成媒体传输协同的分布式系统。在该场景下,如图6b所示,本申请实施例的媒体信息传输方法的流程可以包括以下步骤:
手机、车机、智慧大屏等第二设备的显示和交互能力可以分享给第一设备和分布式系统,处理后的数据可以在第二设备上显示播放,也可以通过第二设备的人际交互能力控制各个传感单元;
步骤601:第二设备向第一设备发送第一消息;所述第一消息用于指示第一设备的原始媒体信息采集模块采集原始媒体信息。
步骤602:第一设备采集原始媒体信息。
此时,第一消息可以为控制指令,以控制第一设备的原始媒体信息采集模块采集原始媒体信息。
例如,如图6c所示,以第一设备为车载设备中的传感器单元为例,在第一设备的摄像头上采集的车辆行驶过程中的道路和车辆外部的视频图像作为待传输的媒体信息。
此时,第二设备可以基于当前应用的需要,向第一设备发送第一消息,以指示相应的原始媒体信息采集模块采集原始媒体信息。例如,指示第一设备的摄像头采集的车辆行驶过程中的道路和车辆外部的视频图像作为待传输的原始媒体信息。
在另一些实施例中,第一设备可以是多种类型的媒体信息采集设备,用于对媒体传输 应用提供更多的媒体信息,从而可以在第二设备处获得更好的媒体信息的处理结果。仍以车辆中的多种类型的传感器为例,例如,在不同天气状况下,仅通过单一的传感器对当前的道路进行识别可能出现较大的误差,此时,可以通过第二设备控制第一设备的多个模块用于采集原始媒体信息,从而,通过多种类型的模块(例如,传感器)采集到的原始媒体信息进行综合识别,从而可以获得更好的道路识别效果。
步骤603:第一设备获取原始媒体信息。
其中,第一设备可以是具备音视频的采集能力以及媒体传输处理硬件。通过第一设备的音视频采集单元采集原始音视频信号,经过第一设备的处理单元的预处理后,获得待传输的媒体信息。例如,如图6c所示,以第一设备为车载设备中的传感器单元为例,在第一设备的摄像头上采集的车辆行驶过程中的道路和车辆外部的视频图像作为待传输的原始媒体信息。
步骤604:第一设备向第二设备发送原始媒体信息。
第一设备可以通过第一传输接口和第三传输接口传输原始媒体信息,在传输的原始媒体信息为多种类型的原始媒体信息时,还可以将各原始媒体信息采集模块输出的多个原始媒体信息进行独立的打包封装,在传输接口中进行聚合后统一传输到第二设备。
步骤605:第二设备对原始媒体信息进行处理。
将原始媒体信息传输到第二设备中。第二设备具备媒体信息处理和控制能力,例如,具备媒体传输处理硬件以及媒体信息处理和人机交互能力、显示能力等。
例如,根据第一设备的摄像头上采集的原始媒体信息,对车道上的车道线进行识别。
再比如,第一设备采集的原始媒体信息可以是一个视频/图像信号也可以是多个视频/图像信号的组合;其中每个视频/图像信号可以是可见光图像,也可以是红外图像、雷达信号、深度信息等其他模态的视频/图像信号。例如,如图6c所示,第一设备上用于媒体传输协同的原始媒体信息采集模块可以包括传感器单元1(例如,雷达传感器)和传感器单元2(例如,摄像头)。此时,可以通过传感器单元1采集到的媒体信息1。通过传感器单元2采集传感器到的媒体信息2。第二设备根据接收到的原始媒体信息1和原始媒体信息2,将各个原始媒体信息1和原始媒体信息2输入到各自的算法模块中进行处理,或者,输入到对原始媒体信息1和原始媒体信息2进行融合处理的算法模型,以获得更好的识别效果。
比如,通过摄像头采集到的图像及雷达传感器采集的车道的点云图像,第二设备输入至相应的识别车道的算法模型进行处理,可以得到图像中的车道信息(如图6c所示,可以确定车辆即将驶入从左到右的第2车道),从而,可以为第二设备提供第一设备的定位信息(即车辆所在的车道),为第一设备提供更好的导航路径等应用。
步骤606a:第二设备向第一设备发送第二消息;所述第二消息用于指示调整第一设备的原始媒体信息采集模块的状态。
通过第二设备对识别算法的结果,可以确定是否需要调整第一设备的原始媒体信息采集模块的状态,在确定需要调整时,可以通过第二设备中的控制单元,生成调整第一设备的原始媒体信息采集模块的状态相对与的参数,从而生成第二消息。
步骤607a:响应于第二消息,第一设备调整原始媒体信息采集模块的状态。
具体调整方式,可以参见上述图5a-图5e的实施例,在此不再赘述。
步骤606b:在第二设备上显示原始媒体信息的处理结果。
在一些实施例中,媒体信息的处理结果,可以在第二设备上的相应的应用中显示。例如,如图6d所示,可以在第二设备的显示屏上显示当前车辆所在的车道,显示基于车辆所在车道为用户规划的导航路径等。
根据媒体传输应用的任务的处理结果,也可以生成对第一设备的控制指令,具体方式可以参考图5b中的实施方式,在此不再赘述。
第一设备和第二设备通过传输接口连接组成媒体传输协同的分布式系统,将第一设备的信息感知能力与第二设备更强大的计算硬件、媒体信息处理能力和交互能力相结合,协同完成语音交互、视觉交互、环境建模等媒体传输应用的任务。第一设备传感器获取的原始媒体信息可以不经过第一设备的处理,直接从第一设备的传感器通过传输接口传输到第二设备,利用第二设备的软硬件系统进行处理,可以有效降低延迟。
本申请的上述各实施方式可以任意进行组合,以实现不同的技术效果。
上述本申请提供的实施例中,从第一设备和第二设备作为执行主体的角度对本申请实施例提供的方法进行了介绍。为了实现上述本申请实施例提供的方法中的各功能,电子设备可以包括硬件结构和/或软件模块,以硬件结构、软件模块、或硬件结构加软件模块的形式来实现上述各功能。上述各功能中的某个功能以硬件结构、软件模块、还是硬件结构加软件模块的方式来执行,取决于技术方案的特定应用和设计约束条件。
基于相同的构思,图7所示为本申请的一种电子装置700,包括:收发模块701、采集模块703和处理模块702,可选的,电子装置700还可以包括显示模块。示例性的,电子装置700可以为本申请实施例中的第一设备。此时,收发模块701包括第一传输接口。
采集模块703,用于采集第一媒体信息;所述第一媒体信息为原始媒体信息;
处理模块702,用于通过第一设备的第一传输接口向第二设备发送所述第一媒体信息;所述第一设备的第一传输接口为支持原始媒体信息传输的接口。
一种可能的实现方式,处理模块702,用于响应于在第一设备上的第一操作,通过收发模块701向所述第二设备发送第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;通过收发模块701接收所述第二设备返回的第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口接收所述第二设备发送的能力协商请求消息;所述能力协商请求消息用于请求所述第一设备的传输接口支持的传输协议,所述第一设备的传输协议用于指示所述第一设备支持传输原始媒体信息;通过所述第一传输接口向所述第二设备发送能力协商响应消息;所述能力协商响应消息用于确认所述第一设备支持传输原始媒体信息的传输协议。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口向所述第二设备发送能力协商请求消息;所述能力协商请求消息用于请求所述第二设备的传输接口支持的传输协议,所述第二设备的传输协议用于指示所述第二设备支持传输原始媒体信息;通过所述第一传输接口接收所述第二设备发送的能力协商响应消息;所述能力协商响应消息用于确认所述第二设备支持传输原始媒体信息的传输协议。
一种可能的实现方式,所述能力协商响应消息还包括以下至少一项:所述第一设备的 媒体处理能力、所述第一设备的原始媒体信息采集模块的参数、所述第一设备的原始媒体信息采集能力、所述第一设备的传输接口的传输能力;或者,
所述能力协商请求消息还包括以下至少一项:所述第二设备的媒体处理能力、或所述第二设备的传输接口的传输能力。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口接收所述第二设备发送的第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第一传输接口向所述第二设备发送第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口向所述第二设备发送第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第一传输接口接收来自所述第二设备发送的第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口接收所述第二设备发送的第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;
通过所述第一传输接口向所述第二设备发送第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口向所述第二设备发送第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;
处理模块702,用于通过所述第一传输接口接收所述第二设备发送的第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口接收所述第二设备发送的认证成功消息;所述认证成功消息包括以下至少一项:第一设备和所述第二设备所在的分布式系统的标识,所述第一设备在所述分布式系统中对应的设备标识;所述设备标识及所述分布式系统的标识用于所述第一设备和所述第二设备进行通信。
一种可能的实现方式,所述第一设备包括第一模块;所述认证成功消息还包括以下至少一项:所述第一设备的第一模块的标识,及所述第一模块在所述分布式系统中的标识。
一种可能的实现方式,所述第一设备包括对所述第一媒体信息进行预处理的第三模块;处理模块702,用于通过所述第二模块,对所述第一媒体信息进行预处理,生成第二媒体信息;通过所述第一设备的传输接口向所述第二设备发送所述第二媒体信息。
一种可能的实现方式,所述第一传输接口还支持传输媒体编码后的数据;处理模块702,用于通过所述第一传输接口向第二设备发送媒体编码后的数据。
一种可能的实现方式,所述第一设备包括至少一个原始媒体信息采集模块,所述第一媒体信息包括所述至少一个原始媒体信息采集模块采集的原始媒体信息;处理模块702,用于通过所述第一设备的传输接口接收来自所述第二设备的第一消息;所述第一消息用于指示所述第一设备中所述原始媒体信息采集模块采集原始媒体信息的状态;响应于所述第一消息,设置所述第一设备中所述原始媒体信息采集模块采集原始媒体信息的状态。
一种可能的实现方式,所述第一设备中所述原始媒体信息采集模块采集媒体信息的状态包括以下至少一项:开启状态、关闭状态或采集媒体信息的参数。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口接收来自所述第二设备的第二消息;所述第二消息用于指示所述第一设备获取第一数据;响应于所述第二消息,获取所述第一数据,或者,采集所述第一数据;向所述第二设备发送所述第一数据;所述第一数据为以下一项:所述第一设备采集到的媒体信息,所述第一设备的参数,所述第一设备存储的数据,第一设备接收的数据。
一种可能的实现方式,处理模块702,用于通过所述第一传输接口向所述第二设备发送所述第一数据。
一种可能的实现方式,所述第一设备还包括显示模块;处理模块702,用于通过所述第一传输接口接收来自所述第二设备的第三消息;所述第三消息为所述第二设备根据所述第一媒体信息确定的;所述第三消息用于指示所述第一设备显示的内容;
响应于所述第三消息,通过显示模块显示所述第三消息中用于指示所述第一设备显示的内容。
一种可能的实现方式,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第一设备发送的数据为通过所述第一传输接口封装为第一比特流数据后,通过所述第三传输接口发送的;所述数据包括以下至少一项:所述第一媒体信息、所述第二媒体信息、所述第一消息、所述第二消息或所述第三消息。
一种可能的实现方式,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第一设备接收的所述第一消息、所述第二消息或所述第三消息中的至少一项为通过所述第三传输接口接收的第二比特流数据,并通过所述第一传输接口将所述第二比特流数据解封装后得到的。
基于相同的构思,图8所示为本申请的一种电子装置800,包括:收发模块801和处理模块802,可选的,电子装置800还可以包括显示模块。示例性的,电子装置800可以为本申请实施例中的第二设备。此时,收发模块801包括第二传输接口。
其中,处理模块802,用于通过所述第二设备的第二传输接口接收来自第一设备采集的第一媒体信息;所述第一媒体信息为原始媒体信息;所述第二传输接口为支持原始媒体信息传输的接口;对所述第一媒体信息进行处理,获得所述第一媒体信息的处理结果。
一种可能的实现方式,处理模块802,用于响应于在第二设备上的第二操作,通过收发模块801向所述第一设备发送第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;通过收发模块801接收所述第一设备返回的第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口向所述第一设备发送能力协商请求消息;所述能力协商请求消息用于请求所述第一设备的传输接口支持的传输协议,所述第一设备的传输协议用于指示所述第一设备是否支持传输原始媒体信息;通过所述第二传输接口接收所述第一设备发送的能力协商响应消息;所述能力协商响应消息用于确认所述第一设备支持传输原始媒体信息的传输协议。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口接收来自所述第一 设备发送的能力协商请求消息;所述能力协商请求消息用于请求所述第二设备的传输接口支持的传输协议,所述第二设备的传输协议用于指示所述第二设备支持传输原始媒体信息;通过所述第二传输接口向所述第一设备发送能力协商响应消息;所述能力协商响应消息用于确认所述第二设备支持传输原始媒体信息的传输协议。
一种可能的实现方式,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体处理能力、所述第一设备的原始媒体信息采集模块的参数、所述第一设备的原始媒体信息采集能力、所述传输接口的传输能力;
或者,所述能力协商请求消息还包括以下至少一项:所述第二设备的媒体处理能力、或所述数据处理能力的传输接口的传输能力。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口向所述第一设备发送第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第二传输接口接收所述第一设备发送的第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口接收所述第一设备发送的第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;通过所述第二传输接口向所述第一设备发送第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口向所述第一设备发送第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;通过所述第二传输接口接收所述第一设备发送的第二认证响应消息;所述第二认证响应消息用于确认所述二设备控制所述第一设备的权限。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口接收所述第一设备发送的第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;通过所述第二传输接口向所述第一设备发送第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
一种可能的实现方式,处理模块802,用于通过收发模块801向所述第一设备发送认证成功消息;所述认证成功消息包括:所述第一设备和所述第二设备所在的分布式系统的标识,所述第一设备在所述分布式系统内对应的设备标识;所述设备标识及所述分布式系统的标识用于所述第一设备和所述第二设备进行通信。
一种可能的实现方式,所述第二设备包括第二模块;所述认证成功消息还包括以下至少一项:所述第二模块的标识,及所述第二模块在所述分布式系统中的标识。
一种可能的实现方式,处理模块802,用于通过所述第三模块,对所述第一媒体信息进行预处理,生成第二媒体信息;对所述第二媒体信息进行媒体编码。
一种可能的实现方式,所述第二传输接口还支持传输媒体编码后的数据;处理模块802,用于通过所述第二传输接口接收所述第一设备发送的媒体编码后的数据。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口向所述第一设备发送第一消息;所述第一消息用于指示所述第一设备采集原始媒体信息的状态。
一种可能的实现方式,所述第一设备采集原始媒体信息的状态包括以下至少一项:开 启状态、关闭状态或采集媒体信息的参数。
一种可能的实现方式,处理模块802,用于通过所述第二传输接口向所述第一设备发送第二消息;所述第二消息用于指示所述第一设备获取第一数据;所述第一数据为以下一项:所述第一设备采集到的原始媒体信息,所述第一设备的参数,所述第一设备存储的数据,第一设备接收的数据。
一种可能的实现方式,所述第二消息还用于指示所述第一设备向所述第二设备发送所述第一数据。
一种可能的实现方式,所述第一设备还包括显示模块;处理模块802,用于通过所述第二传输接口向所述第一设备发送第三消息;所述第三消息用于指示所述第一设备显示的内容。
一种可能的实现方式,所述第一设备的数量为N个;处理模块802,用于通过所述第二传输接口接收第四消息;所述第四消息包括所述N个第一设备的M个第一媒体信息;M,N为正整数;M大于或等于N;对所述M个第一媒体信息进行处理。
一种可能的实现方式,所述第二设备还包括显示模块,处理模块802,用于通过所述显示模块显示所述第一媒体信息的媒体编码数据。
一种可能的实现方式,所述第二设备还包括第三传输接口;所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第二设备发送的所述第一消息、所述第二消息或所述第三消息中的至少一项为通过所述第二传输接口封装为第二比特流数据后,通过所述第三传输接口发送的。
一种可能的实现方式,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第二设备接收的数据为通过所述第三传输接口接收的第一比特流数据,并通过所述第二传输接口将所述第二比特流数据解封装后获得的;所述数据包括以下至少一项:所述第一媒体信息、所述第二媒体信息、所述第一消息、所述第二消息或所述第三消息。
本申请实施例还提供一种媒体信息传输系统,包括如图7所示的电子装置700或如图3a所示的第一设备,还包括如图8所示的电子装置800或如图3b所示的第二设备。
本申请实施例还提供一种计算机存储介质,所述计算机可读存储介质用于存储计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行如图2a-图6a中的任意一种可能的实施方式中所述的方法。
本申请实施例还提供一种包含指令的计算机程序产品,所述计算机程序产品用于存储计算机程序,当所述计算机程序在计算机上运行时,使得所述计算机执行图2a-图6a中的任意一种可能的实施方式中所述的方法。
应理解,本申请实施例中提及的处理器可以是CPU,还可以是其他通用处理器、数字信号处理器(digital signal processor,DSP)、专用集成电路(application specific integrated circuit,ASIC)、现成可编程门阵列(field programmable gate array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
还应理解,本申请实施例中提及的存储器可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(read-only memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM, EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(static RAM,SRAM)、动态随机存取存储器(dynamic RAM,DRAM)、同步动态随机存取存储器(synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM,DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM,SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM,DR RAM)。
需要说明的是,当处理器为通用处理器、DSP、ASIC、FPGA或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件时,存储器(存储模块)集成在处理器中。
应注意,本文描述的存储器旨在包括但不限于这些和任意其它适合类型的存储器。
应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-only memory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请实施例的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请实施例揭露的技术范围内,可轻易想到变化或替 换,都应涵盖在本申请实施例的保护范围之内。因此,本申请实施例的保护范围应所述以权利要求的保护范围为准。

Claims (30)

  1. 一种媒体信息传输方法,其特征在于,应用于第一设备;所述方法包括:
    采集第一媒体信息;所述第一媒体信息为原始媒体信息;
    通过第一设备的第一传输接口向第二设备发送所述第一媒体信息;所述第一设备的第一传输接口为支持原始媒体信息传输的接口。
  2. 如权利要求1所述的方法,其特征在于,所述方法还包括:
    响应于在第一设备上的第一操作,向所述第二设备发送第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第一设备向所述第二设备传输原始媒体信息;
    接收所述第二设备返回的第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启所述媒体传输协同。
  3. 如权利要求1或2所述的方法,其特征在于,所述通过第一设备的传输接口向第二设备发送所述第一媒体信息之前,还包括:
    通过所述第一传输接口接收所述第二设备发送的能力协商请求消息;所述能力协商请求消息用于请求所述第一设备的传输接口支持的传输协议,所述第一设备的传输协议用于指示所述第一设备支持传输原始媒体信息;
    通过所述第一传输接口向所述第二设备发送能力协商响应消息;所述能力协商响应消息用于确认所述第一设备支持传输原始媒体信息的传输协议。
  4. 如权利要求3所述的方法,其特征在于,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体处理能力、所述第一设备的原始媒体信息采集模块的参数、所述第一设备的原始媒体信息采集能力、所述第一设备的传输接口的传输能力;或者,
    所述能力协商请求消息还包括以下至少一项:所述第二设备的媒体处理能力、或所述第二设备的传输接口的传输能力。
  5. 如权利要求1-4任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第一传输接口接收所述第二设备发送的第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;
    通过所述第一传输接口向所述第二设备发送第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
  6. 如权利要求1-5任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第一传输接口接收所述第二设备发送的第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;
    通过所述第一传输接口向所述第二设备发送第二认证响应消息;所述第二认证响应消息用于确认所述第二设备控制所述第一设备的权限。
  7. 如权利要求5-6任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第一传输接口接收所述第二设备发送的认证成功消息;所述认证成功消息包括以下至少一项:第一设备和所述第二设备所在的分布式系统的标识,所述第一设备在所述分布式系统中对应的设备标识;所述设备标识及所述分布式系统的标识用于所述第一设 备和所述第二设备进行通信。
  8. 如权利要求7所述的方法,其特征在于,所述第一设备包括第一模块;所述认证成功消息还包括以下至少一项:所述第一设备的第一模块的标识,及所述第一模块在所述分布式系统中的标识。
  9. 如权利要求1-8任一项所述的方法,其特征在于,所述第一设备包括至少一个原始媒体信息采集模块,所述第一媒体信息包括所述至少一个原始媒体信息采集模块采集的原始媒体信息;所述方法还包括:
    通过所述第一设备的传输接口接收来自所述第二设备的第一消息;所述第一消息用于指示所述第一设备中所述原始媒体信息采集模块采集原始媒体信息的状态;
    响应于所述第一消息,设置所述第一设备中所述原始媒体信息采集模块采集原始媒体信息的状态。
  10. 如权利要求1-9任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第一传输接口接收来自所述第二设备的第二消息;所述第二消息用于指示所述第一设备获取第一数据;
    响应于所述第二消息,获取所述第一数据,或者,采集所述第一数据;向所述第二设备发送所述第一数据;所述第一数据为以下一项:所述第一设备采集到的媒体信息,所述第一设备的参数,所述第一设备存储的数据,第一设备接收的数据。
  11. 如权利要求1-10任一项所述的方法,其特征在于,所述第一设备还包括显示模块;所述方法还包括:
    通过所述第一传输接口接收来自所述第二设备的第三消息;所述第三消息为所述第二设备根据所述第一媒体信息确定的;所述第三消息用于指示所述第一设备显示的内容;
    响应于所述第三消息,通过显示模块显示所述第三消息中用于指示所述第一设备显示的内容。
  12. 如权利要求1-11任一项所述的方法,其特征在于,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第一设备发送的数据为通过所述第一传输接口封装为第一比特流数据后,通过所述第三传输接口发送的;所述数据包括以下至少一项:所述第一媒体信息、所述第二媒体信息、所述第一消息、所述第二消息或所述第三消息。
  13. 如权利要求1-12任一项所述的方法,其特征在于,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第一设备接收的所述第一消息、所述第二消息或所述第三消息中的至少一项为通过所述第三传输接口接收的第二比特流数据,并通过所述第一传输接口将所述第二比特流数据解封装后得到的。
  14. 一种媒体信息传输方法,其特征在于,应用于第二设备;所述方法包括:
    通过所述第二设备的第二传输接口接收来自第一设备采集的第一媒体信息;所述第一媒体信息为原始媒体信息;所述第二传输接口为支持原始媒体信息传输的接口;
    对所述第一媒体信息进行处理,获得所述第一媒体信息的处理结果。
  15. 如权利要求14所述的方法,其特征在于,所述方法还包括:
    响应于在所述第二设备上的第二操作,向所述第一设备发送第一通知消息;所述第一设备为与所述第二设备建立通信连接的电子设备;所述第一通知消息用于请求所述第一设备与所述第二设备建立媒体传输协同;所述媒体传输协同用于所述第二设备接收所述第一设备发送的原始媒体信息;
    接收所述第一设备返回的第一响应消息;所述第一响应消息用于确认所述第一设备与所述第二设备开启媒体传输协同。
  16. 如权利要求14或15所述的方法,其特征在于,所述通过传输接口向第二设备发送所述第一媒体信息之前,还包括:
    通过所述第二传输接口向所述第一设备发送能力协商请求消息;所述能力协商请求消息用于请求所述第一设备的传输接口支持的传输协议,所述第一设备的传输协议用于指示所述第一设备是否支持传输原始媒体信息;
    通过所述第二传输接口接收所述第一设备发送的能力协商响应消息;所述能力协商响应消息用于确认所述第一设备支持传输原始媒体信息的传输协议。
  17. 如权利要求16所述的方法,其特征在于,所述能力协商响应消息还包括以下至少一项:所述第一设备的媒体处理能力、所述第一设备的原始媒体信息采集模块的参数、所述第一设备的原始媒体信息采集能力、所述传输接口的传输能力;或者,
    所述能力协商请求消息还包括以下至少一项:所述第二设备的媒体处理能力、或所述数据处理能力的传输接口的传输能力。
  18. 如权利要求14-17任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第二传输接口向所述第一设备发送第一认证请求消息,所述第一认证请求消息用于请求所述第一设备与所述第二设备建立通信连接,所述通信连接用于确认所述第一设备发送原始媒体信息的权限;
    通过所述第二传输接口接收所述第一设备发送的第一认证响应消息;所述第一认证响应消息用于确认所述第一设备发送原始媒体信息的权限。
  19. 如权利要求14-17任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第二传输接口向所述第一设备发送第二认证请求消息,所述第二认证请求消息用于请求所述第二设备控制所述第一设备的权限;
    通过所述第二传输接口接收所述第一设备发送的第二认证响应消息;所述第二认证响应消息用于确认所述二设备控制所述第一设备的权限。
  20. 如权利要求18-19任一项所述的方法,其特征在于,所述方法还包括:
    向所述第一设备发送认证成功消息;所述认证成功消息包括:所述第一设备和所述第二设备所在的分布式系统的标识,所述第一设备在所述分布式系统内对应的设备标识;所述设备标识及所述分布式系统的标识用于所述第一设备和所述第二设备进行通信。
  21. 如权利要求20所述的方法,其特征在于,所述第二设备包括第二模块;所述认证成功消息还包括以下至少一项:所述第二模块的标识,及所述第二模块在所述分布式系统中的标识。
  22. 如权利要求15-21任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第二传输接口向所述第一设备发送第一消息;所述第一消息用于指示所述第一设备采集原始媒体信息的状态。
  23. 如权利要求15-22任一项所述的方法,其特征在于,所述方法还包括:
    通过所述第二传输接口向所述第一设备发送第二消息;所述第二消息用于指示所述第一设备获取第一数据;所述第一数据为以下一项:所述第一设备采集到的原始媒体信息,所述第一设备的参数,所述第一设备存储的数据,第一设备接收的数据。
  24. 如权利要求15-23任一项所述的方法,其特征在于,所述第一设备还包括显示模块; 所述方法还包括:
    通过所述第二传输接口向所述第一设备发送第三消息;所述第三消息用于指示所述第一设备显示的内容。
  25. 如权利要求15-24任一项所述的方法,其特征在于,所述第一设备的数量为N个;所述方法还包括:
    通过所述第二传输接口接收第四消息;所述第四消息包括所述N个第一设备的M个第一媒体信息;M,N为正整数;M大于或等于N;
    对所述M个第一媒体信息进行处理。
  26. 如权利要求15-25任一项所述的方法,其特征在于,所述第二设备还包括第三传输接口;所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第二设备发送的所述第一消息、所述第二消息或所述第三消息中的至少一项为通过所述第二传输接口封装为第二比特流数据后,通过所述第三传输接口发送的。
  27. 如权利要求15-26任一项所述的方法,其特征在于,所述第一设备与所述第二设备通过第三传输接口建立信道连接;所述第二设备接收的数据为通过所述第三传输接口接收的第一比特流数据,并通过所述第二传输接口将所述第二比特流数据解封装后获得的;所述数据包括以下至少一项:所述第一媒体信息、所述第二媒体信息、所述第一消息、所述第二消息或所述第三消息。
  28. 一种电子设备,其特征在于,所述电子设备包括存储器和一个或多个处理器;其中,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述计算机指令被所述处理器执行时,使得所述电子设备执行如权利要求1至13中任一项所述的方法。
  29. 一种电子设备,其特征在于,所述电子设备包括存储器和一个或多个处理器;其中,所述存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令;当所述计算机指令被所述处理器执行时,使得所述电子设备执行如权利要求14至27中任一项所述的方法。
  30. 一种媒体信息传输系统,其特征在于,包括:如权利要求28所述的电子设备和如权利要求29所述的电子设备。
PCT/CN2021/110698 2020-08-14 2021-08-05 一种媒体信息传输方法及装置 WO2022033379A1 (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
CN202010819872.6 2020-08-14
CN202010819872 2020-08-14
CN202011323678.5A CN114143365A (zh) 2020-08-14 2020-11-23 一种媒体信息传输方法及装置
CN202011323678.5 2020-11-23

Publications (1)

Publication Number Publication Date
WO2022033379A1 true WO2022033379A1 (zh) 2022-02-17

Family

ID=80247692

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2021/110698 WO2022033379A1 (zh) 2020-08-14 2021-08-05 一种媒体信息传输方法及装置

Country Status (1)

Country Link
WO (1) WO2022033379A1 (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102014277A (zh) * 2010-12-03 2011-04-13 杭州海康威视数字技术股份有限公司 视频监控系统及视频监控方法及球形摄像机
CN102223201A (zh) * 2010-04-15 2011-10-19 中兴通讯股份有限公司 一种编解码器能力协商方法及终端
CN104602008A (zh) * 2015-01-14 2015-05-06 腾讯科技(深圳)有限公司 视频编码方法、装置和系统
US20160373505A1 (en) * 2013-12-24 2016-12-22 Huawei Device Co., Ltd. Method and device for transmitting media data
CN110300278A (zh) * 2018-03-23 2019-10-01 阿里巴巴集团控股有限公司 视频传输方法和设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102223201A (zh) * 2010-04-15 2011-10-19 中兴通讯股份有限公司 一种编解码器能力协商方法及终端
CN102014277A (zh) * 2010-12-03 2011-04-13 杭州海康威视数字技术股份有限公司 视频监控系统及视频监控方法及球形摄像机
US20160373505A1 (en) * 2013-12-24 2016-12-22 Huawei Device Co., Ltd. Method and device for transmitting media data
CN104602008A (zh) * 2015-01-14 2015-05-06 腾讯科技(深圳)有限公司 视频编码方法、装置和系统
CN110300278A (zh) * 2018-03-23 2019-10-01 阿里巴巴集团控股有限公司 视频传输方法和设备

Similar Documents

Publication Publication Date Title
CN111316598B (zh) 一种多屏互动方法及设备
WO2021051986A1 (zh) 设备之间建立连接的方法及电子设备
WO2021052178A1 (zh) 一种Wi-Fi连接方法及设备
CN110166820B (zh) 音视频的播放方法、终端及装置
WO2022121775A1 (zh) 一种投屏方法及设备
EP4199500A1 (en) Method for multiple applications to share camera, and electronic device
WO2022033377A1 (zh) 一种媒体信息传输方法及电子设备
CN112527174B (zh) 一种信息处理方法及电子设备
WO2021104114A1 (zh) 一种提供无线保真WiFi网络接入服务的方法及电子设备
WO2022042364A1 (zh) 投屏方法、装置及投送端
WO2022052791A1 (zh) 一种多媒体流的播放方法和电子设备
CN112527222A (zh) 一种信息处理方法及电子设备
EP4283931A1 (en) Nfc method and system, and electronic device
CN112398855A (zh) 应用内容跨设备流转方法与装置、电子设备
US20230016178A1 (en) Data sharing and instruction operation control method and system
CN113408016A (zh) 保存密文的方法和装置
WO2022166618A1 (zh) 一种投屏的方法和电子设备
WO2024087900A1 (zh) 一种摄像头切换方法及相关电子设备
WO2022033379A1 (zh) 一种媒体信息传输方法及装置
CN114077747A (zh) 一种媒体信息传输方法及装置
CN115174672B (zh) 终端、显示设备及数据传输方法
WO2022174718A1 (zh) 一种数据备份方法和电子设备
CN115022570B (zh) 获取视频帧的方法、电子设备及可读存储介质
US20140123260A1 (en) Terminal equipment, server, method of controlling terminal equipment, and method of controlling server
CN114143365A (zh) 一种媒体信息传输方法及装置

Legal Events

Date Code Title Description
NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21855432

Country of ref document: EP

Kind code of ref document: A1