CN112887258A - 一种基于增强现实的通信方法及装置 - Google Patents
一种基于增强现实的通信方法及装置 Download PDFInfo
- Publication number
- CN112887258A CN112887258A CN201911207574.5A CN201911207574A CN112887258A CN 112887258 A CN112887258 A CN 112887258A CN 201911207574 A CN201911207574 A CN 201911207574A CN 112887258 A CN112887258 A CN 112887258A
- Authority
- CN
- China
- Prior art keywords
- terminal device
- sbc
- media stream
- data
- call
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
- H04L65/1069—Session establishment or de-establishment
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/131—Protocols for games, networked simulations or virtual reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/14—Systems for two-way working
- H04N7/141—Systems for two-way working between two video terminals, e.g. videophone
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/10—Architectures or entities
- H04L65/1016—IP multimedia subsystem [IMS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/1066—Session management
- H04L65/1083—In-session procedures
- H04L65/1089—In-session procedures by adding media; by removing media
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Networks & Wireless Communication (AREA)
- Business, Economics & Management (AREA)
- General Business, Economics & Management (AREA)
- Telephonic Communication Services (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
本申请公开一种基于增强现实的通信方法及装置,提供一种AR融入语音视频通话的实现方式,进而提升用户体验。终端设备支持AR增强处理,实现对AR通话的媒体流进行媒体增强处理,进而实现在视频通话过程中融入AR处理。另外,增强型的终端设备之间可以通过SBC建立数据传输通道,用来传输一些辅助数据。当终端设备不支持AR的情况下,还可以由SBC执行媒体增强处理。SBC还可以与终端设备之间建立数据传输通道,用于接收来自终端设备的辅助数据,进而基于辅助数据对AR通话的媒体流进行媒体增强处理。
Description
技术领域
本申请实施例涉及通信技术领域,尤其涉及一种基于增强现实的通信方法及装置。
背景技术
长期演进语音承载(voice over long term evolution,VoLTE)是架构在第四代(the 4th generation,4G)网络上全IP条件下的端到端语音方案。VoLTE使得用户之间通信时,接通等待时间更短,并且语音视频通话质量更高。增强现实(Augmented Reality,AR)是一种将虚拟信息与真实世界巧妙融合的技术,广泛运用了多媒体、三维建模、实时跟踪及注册、智能交互、传感等多种技术手段,将计算机生成的文字、图像、三维模型、音乐、视频等虚拟信息模拟仿真后,应用到真实世界中,两种信息互为补充,从而实现对真实世界的“增强”。增强现实技术不仅能够有效体现出真实世界的内容,也能够促使虚拟的信息内容显示出来。如何将AR融入语音视频通话中,目前并没有一种有效的实现方式。
发明内容
本申请实施例提供一种基于增强现实的通信方法及装置,提供一种AR融入语音视频通话的实现方式,进而提升用户体验。
第一方面,本申请实施例提供一种基于增强现实的通信方法,该方法包括:第一终端设备确定本次增强现实AR通话的AR服务类型,根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流。第一终端设备确定本次AR通话的AR服务类型,可以通过任一方式实现:一种方式是:第一终端设备响应于用户选择的AR服务类型。另一种方式是,第一终端设备确定默认的服务类型。默认的服务类型,在多个服务类型中默认的一个。还可以是不同类型的终端设备对应不同的服务类型,默认的服务类型即为该终端设备的类型对应的服务类型。
AR通话的媒体流,可以是第一终端设备产生的,或者可以是与第一终端设备间进行通话的第二终端设备产生的。比如,AR通话的媒体流是第一终端设备产生的,第一终端设备在得到增强AR媒体流后,向第一会话边界控制器(session border controller,SBC)发送增强AR媒体流。再比如,AR通话的媒体流是第二终端设备产生的,第一终端设备可以将增强AR媒体流显示给用户。第一终端设备,还可以将增强AR媒体流发送给第一SBC,进而由第一SBC发送给第二终端设备,并将增强AR媒体流显示给用户。通过上述方案实现通话双方在视频通话过程中融入AR处理,提升用户体验。
在一种可能的设计中,在向第二终端设备发起AR通话流程时,第一终端设备根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流之前,向AR服务器发送第一服务请求,第一服务请求携带AR服务类型;然后第一终端设备接收AR服务器发送的第一服务响应,第一服务响应携带AR数据。其中,AR数据为执行AR服务类型对应的服务所需的数据。进一步地,第一终端设备根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流,可以通过如下方式实现:根据AR服务类型,使用AR数据对AR通话的媒体流进行媒体增强处理得到增强AR媒体流。上述设计,由AR服务器在第一终端设备向第二终端设备发起AR通话时,将AR发送给终端设备,从而终端设备上无需配置AR数据,减少终端设备的资源的占用。
在一种可能的设计中,第一终端设备向AR服务器发送第一服务请求之前,向AR服务器发送第二服务请求;第一终端设备接收来自AR服务器的第二服务响应,第二服务响应中携带供用户选择的多个服务类型;AR服务类型为从多个服务类型中选择的。在该情况下,第一终端设备确定本次增强现实AR通话的AR服务类型时,第一终端设备响应于用户从多个服务类型选择的AR服务类型。AR服务器将供用户选择的多个服务类型发送给第一终端设备,用户可以根据需求选择服务类型,为用户提供便利。
在一种可能的设计中,上述方法还包括:第一终端设备通过数据传输通道与第二终端设备之间传输辅助数据,辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。第一终端设备与第二终端设备之间建立有数据传输通道。
在一种可能的设计中,上述方法还可以包括:,第一终端设备通过数据传输通道向第二终端设备发送第一操作数据,第一操作数据由第一终端设备的用户对第一终端设备上的AR界面进行操作产生的数据。从而第二终端设备可以根据第一操作数据以及AR通话的媒体流进行媒体增强处理。可选地,第一终端设备通过数据传输通道接收来自第二终端设备的用户操作AR界面产生的操作数据,从而第一终端设备根据该操作数据对AR通话的媒体流进行媒体增强处理。
在一种可能的设计中,AR数据为虚拟模型,第一终端设备通过第一SBC与第二终端设备之间建立有数据传输通道;上述方法还可以包括:第一终端设备通过数据传输通道接收来自第二终端设备的第二操作数据,第二操作数据由第二终端设备的用户对虚拟模型进行操作产生的数据;第一终端设备使用AR数据对第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流,包括:第一终端设备根据第二操作数据对虚拟模型进行渲染,并根据渲染后的虚拟模型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流。
通过上述设计,第二终端设备将操作数据发送给第一终端设备,由第一终端设备根据操作数据渲染虚拟模型,并根据渲染后的虚拟模型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流。进而第一终端设备显示给用户,可以降低传输时延。
在一种可能的设计中,第一终端设备向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流之前,第一终端设备向第一SBC发送呼叫请求,呼叫请求携带第一终端设备的媒体描述协议(session description protocol,SDP)信息,第一终端设备SDP信息包括第一终端设备用于创建数据传输通道的参数;然后,第一终端设备接收来自第一SBC发送呼叫响应,呼叫响应携带第一SBC的SDP信息,第一SBC的SDP信息包括第一SBC用于创建数据传输通道的参数。
在一种可能的设计中,第一终端设备向第一终端设备对应的第一SBC发送增强AR媒体流之前,第一终端设备根据AR服务类型向第一SBC发送呼叫请求,呼叫请求携带第一终端设备的SDP信息,第一终端设备的SDP信息包括第一终端设备用于创建第一终端设备与第二终端设备之间AR媒体会话的媒体流通道的参数,第一终端设备的SDP信息根据AR服务类型确定;第一终端设备接收来自第一SBC发送呼叫响应,呼叫响应携带第一SBC的SDP信息,第一SBC的SDP信息包括第一SBC用于创建第一终端设备与第二终端设备之间AR媒体会话的媒体流通道的参数。通过上述设计,通过与AR服务类型符合的SDP信息来建立支持AR通话的媒体流通道,进而实现通话双方在视频通话过程中融入AR处理。
在一种可能的设计中,第一终端设备向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流,可以通过如下方式实现,第一终端设备通过媒体流通道向第一SBC发送增强AR媒体流。
在一种可能的设计中,AR数据包括虚拟模型,根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流,可以通过如下方式实现,第一终端设备响应于第一终端设备的用户对虚拟模型的操作,根据操作后的虚拟模型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流。可选地,第一终端设备与第二终端设备传输的AR通话的媒体流方向为单向。一种方式中,单向可以指示仅第一终端设备向第二终端设备发送媒体流。另一种方式中,单向可以指示第一终端设备向第二终端设备发送媒体流进行增强处理,而第二终端设备向第一终端设备发送的媒体流不进行增强处理。
在一种可能的设计中,AR数据包括虚拟模型,上述方式还包括,第一终端设备将虚拟模型发送给边缘计算节点;从而,第一终端设备根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流时,可以通过如下方式实现:第一终端设备响应于第一终端设备的用户对虚拟模型的操作,向边缘计算节点发送第三操作数据,第三操作数据由第一终端设备的用户对虚拟模型进行操作产生的数据;第一终端设备接收边缘计算设备根据第三操作数据对虚拟模型渲染后得到的增强虚拟模型;然后第一终端设备将AR通话的媒体流与增强虚拟模型进行叠加得到增强AR媒体流。
在一种可能的设计中,第一终端设备通过第一SBC与第二终端设备对应的第二SBC之间建立有数据传输通道。第一终端设备可以通过数据传输通道向第二SBC发送辅助数据,用于所述第二SBC根据辅助数据对来自第一终端设备的媒体流进行媒体增强处理,然后将媒体增强处理后的媒体流发送给第二终端设备。辅助数据可以包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。
例如,第一终端设备通过数据传输通道将第四操作数据发送至第二SBC,第四操作数据由第一终端设备的用户对第一终端设备上的AR界面进行操作产生的数据。第一终端设备通过媒体流通道将第一终端设备的媒体流发送至第二SBC,进一步地,第二SBC根据第四操作数据对第一终端设备的媒体流进行媒体增强处理,然后将媒体增强处理后的媒体流发送给第二终端设备。
第二方面,本申请实施例还提供一种基于增强现实的通信方法,包括:第一SBC接收第一终端设备发送的第一呼叫请求,第一呼叫请求携带第一终端设备的SDP信息,第一终端设备的SDP信息包括第一终端设备用于创建数据传输通道的参数以及用于创建媒体流通道的参数;第一SBC向第一终端设备发送第一呼叫响应,第一呼叫响应携带SBC的SDP信息,第一SBC的SDP信息包括第一SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
在一种可能的设计中,数据传输通道用于传输第一终端设备与第二终端设备进行AR通话的辅助数据;辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。
在一种可能的设计中,上述方法还可以包括:第一SBC向第二终端设备对应的第二SBC发送第二呼叫请求,第二呼叫请求携带第一SBC的SDP信息;第一SBC接收第二SBC发送的第二呼叫响应,第二呼叫请求携带第二SBC的SDP信息,第二SBC的SDP信息包括第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
第三方面,本申请实施例提供一种基于增强现实的通信方法,包括:第二SBC接收第一SBC发送的第二呼叫请求,第二呼叫请求携带第一SBC的SDP信息,第一SBC的SDP信息包括第一SBC用于创建数据传输通道的参数以及用于创建媒体流通道的参数;然后,第二SBC向第一SBC发送第二呼叫响应,第二呼叫响应携带第二SBC的第一SDP信息,第二SBC的第一SDP信息包括第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
在一种可能的设计中,第二SBC向第一SBC发送第二呼叫响应之前,还包括:第二SBC向第二终端设备发送第三呼叫请求,第三呼叫请求中携带第二SBC的第一SDP信息,第二SBC的第一SDP信息包括第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数;第二SBC接收第二终端设备发送的第三呼叫响应,第三呼叫响应中携带第二终端设备的SDP信息,第二终端设备的SDP信息包括第二终端设备用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
在一种可能的设计中,第二SBC向第一SBC发送第二呼叫响应之前,第二SBC确定第二终端设备不支持AR时,第二SBC向第二终端设备发送第三呼叫请求,第三呼叫请求中携带第二SBC的第二SDP信息,第二SBC的第二SDP信息仅包括第二SBC用于创建媒体流通道的参数;然后,第二SBC接收第二终端设备发送的第三呼叫响应,第三呼叫响应中携带第二终端设备的SDP信息,第二SBC的SDP信息包括第二终端设备用于创建媒体流通道的参数。
在一种可能的设计中,上述方法还可以包括:第二SBC通过媒体流通道接收来自第一终端设备的AR媒体流,并通过数据传输通道接收来自第一终端设备的辅助数据;辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项;进一步地,第二SBC根据辅助数据对AR媒体流进行媒体增强处理得到增强AR媒体流;最后,第二SBC向第二终端设备发送增强AR媒体流。
第四方面,本申请实施例提供一种基于增强现实的通信方法,包括:AR服务器接收第一终端设备发送的第一服务请求,第一服务请求携带AR服务类型;AR服务器向第一终端设备发送第一服务响应,第一服务响应携带AR数据。
在一种可能的设计中,AR服务器接收第一终端设备发送的第一服务请求之前,接收第一终端设备发送的第二服务请求;AR服务器向第一终端设备发送的第二服务响应,第二服务响应中携带供用户选择的多个服务类型,AR服务类型为从多个服务类型中选择的。
在一种可能的设计中,上述方法还可以包括:AR服务器接收第二终端设备对应的第二SBC发送的第三服务请求,第三服务请求携带AR服务类型;AR服务器向第二SBC发送第三服务响应,第三服务响应中携带AR数据。
第五方面,本申请实施例还提供了一种装置,所述装置应用于终端设备,有益效果可以参见第一方面的描述此处不再赘述。该装置具有实现上述第一方面的方法实施例中行为的功能。所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块。在一个可能的设计中,所述装置的结构中可以包括发送单元、接收单元和处理单元,这些单元可以执行上述第一方面方法实施例中的相应功能,具体参见方法实施例中的详细描述,此处不做赘述。
第六方面,本申请实施例还提供了一种装置,所述装置应用于SBC,有益效果可以参见第二方面和第三方面的描述此处不再赘述。该装置具有实现上述第二方面或第三方面的方法实施例中行为的功能。所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块。在一个可能的设计中,所述装置的结构中包括接收单元、处理单元和发送单元,这些单元可以执行上述第二方面方法或者第三方面实施例中的相应功能,具体参见方法示例中的详细描述,此处不做赘述。
第七方面,本申请实施例还提供了一种装置,所述装置应用于所述AR服务器,有益效果可以参见第四方面的描述此处不再赘述。该装置具有实现上述第四方面的方法实施例中行为的功能。所述功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块。在一个可能的设计中,所述装置的结构中包括发送单元、接收单元和处理单元,这些单元可以执行上述第四方面方法实施例中的相应功能,具体参见方法实施例中的详细描述,此处不做赘述。
第八方面,本申请实施例还提供了一种装置,所述装置应用于所述终端设备,有益效果可以参见第一方面的描述此处不再赘述。所述通信装置的结构中包括处理器和通信接口,还可以包括存储器,所述处理器被配置为支持所述终端设备通过通信接口执行上述第一方面方法第一终端设备的相应功能。所述存储器与所述处理器耦合,其保存所述通信装置必要的程序指令和数据。
第九方面,本申请实施例还提供了一种装置,所述装置应用于所述SBC(第一SBC或者第二SBC),有益效果可以参见第二方面或者第三方面的描述此处不再赘述。所述装置的结构中包括处理器和通信接口,还可以包括存储器,所述处理器被配置为支持所述应用服务器通过通信接口执行上述第二方面方法中第一SBC相应的功能,或者执行第三方面方法中第二SBC相应的功能。所述存储器与所述处理器耦合,其保存所述装置必要的程序指令和数据。
第十方面,本申请实施例还提供了一种装置,所述装置应用于所述AR服务器,有益效果可以参见第四方面的描述此处不再赘述。所述装置的结构中包括处理器和通信接口,还可以包括存储器,所述处理器被配置为支持所述终端设备通过通信接口执行上述第四方面方法中相应的功能。所述存储器与所述处理器耦合,其保存所述装置必要的程序指令和数据。
第十一方面,本申请还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机执行上述各方面所述的方法。
第十二方面,本申请还提供一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述各方面所述的方法。
第十三方面,本申请还提供一种计算机芯片,所述芯片与存储器相连,所述芯片用于读取并执行所述存储器中存储的软件程序,执行上述各方面所述的方法。
附图说明
图1为本申请实施例中一种可能的AR通信系统架构示意图;
图2为本申请实施例中另一种可能的AR通信系统架构示意图;
图3-图7为本申请实施例中基于AR的通信方法流程示意图;
图8-图12为提供的装置的结构示意图。
具体实施方式
本申请提供一种基于AR的通信方法及装置,提供一种AR融入语音视频通话的实现方式,进而提升用户体验。语音视频通话可以但不仅限于采用VoLTE,还可以适用于未来技术提供的语音视频通话。
参见图1所示为本申请实施例的一种AR通信系统架构示意图。通信系统中包括一个或者多个会话边界控制器(session border controller,SBC)、AR服务器、应用服务器以及多个终端设备。图1中以两个SBC为例,分别为第一SBC和第二SBC,所述第一SBC用于管理第一终端设备,第二SBC用于管理第二终端设备。另外,不同终端设备也可以有同一个SBC来管理。比如图1中所述的第三终端设备,第三终端设备由第一SBC管理。两个终端设备可以通过通信系统进行AR通话。本申请实施例中终端设备可以具备AR媒体增强处理功能,比如图像处理功能以及数据计算功能,能够采用AR技术对接收到的媒体流执行逻辑运算、画面渲染或者虚拟景象合成等操作。SBC用于对终端设备的会话进行管理或控制。示例性地,第一终端设备可以根据用户选择的AR服务类型,对第一终端设备上的媒体流进行媒体增强处理得到增强AR媒体流,然后通过第一SBC向第二终端设备发送增强AR媒体流。SBC包括信令面功能,例如可以用于接收来自其管理的终端设备的媒体流,并将从终端设备接收的媒体流发送给另一个终端设备。另外,SBC也可以具备图像处理功能以及数据计算功能,比如在其管理的终端设备不具备AR媒体增强处理的功能时,可以替代终端设备执行AR媒体增强处理。本申请实施例中的终端设备可以是配置有摄像头,具有视频通话功能的设备,比如,终端设备可以是可穿戴设备(例如电子手表),终端设备还可以是手机、平板电脑等设备。本申请实施例对终端设备的具体形式不作特殊限制。
本申请实施例可以应用于通话双方的终端设备均支持AR媒体增强处理的场景中。还可以应用于一方支持AR媒体增强处理的场景中。为了描述方便,后续将支持AR媒体增强处理的终端设备称为增强型终端设备。
需要说明的是,AR服务器和应用服务器可以分开单独部署,也可以合并部署,本申请对此不作具体限定。AR服务器,用于与终端设备进行信令交互。AR服务器可以部署素材库,为终端设备进行AR通话提供素材。素材库中可以包括各种素材,比如不同样式的贴纸、不同表情的表情头像(比如可爱猫咪,鬼脸)、或者不同样式的虚拟人像模型,不同样式的场景图像等等。应用服务器用于处理媒体业务请求,提供语音、视频呼叫等相关业务。
AR通信系统中还可以部署IP多媒体系统(IP multimedia subsystem,IMS)核心网(core)。IMS core中可以包括呼叫会话控制功能(call session control function,CSCF)和归属签约用户服务器(home subscriber server,HSS),IMS core还可以包括其它网元,本申请实施例中不再赘述。CSCF是IMS core的呼叫控制中心,是在IP传输平台上实现用户接入,鉴权、会话路由和业务触发等功能。CSCF可以包括服务-呼叫会话控制功能(serving-call session control function,S-CSCF)、代理-CSCF(Proxy CSCF,P-CSCF)、查询-CSCF(Interrogating-CSCF,I-CSCF)中的一个或多个。HSS用于记录用户的签约数据(比如用户信息、业务数据)。SBC还用于提供接入网与IMS核心网之间以及IMS核心网之间的边界控制功能,能够提供接入控制、服务质量(quality of service)控制以及防火墙穿越等功能。不同的终端设备所属的CSCF可能相同,也可能不同。不同的终端设备所属的AS可能相同,也可能不同。比如,不同终端设备的归属地不同,所属的CSCF、AS可能不同。
在一种可能的实施方式中,SBC还可以支持为通话双方的终端设备建立数据传输通道。其中数据传输通道用于终端设备间传输辅助数据。示例性地,辅助数据可以包括点云数据、空间数据(也可以称为空间位姿数据)、用户视角视频或虚拟模型中的一项或者多项。点云数据是指以点的形式记录的数据,每个点可以包括空间位置信息,还可以包含颜色信息或者反射强度信息等。空间数据也可以称为几何数据,它用来表示物体的位置、形态、大小分布等各方面的信息,是对现世界中存在的具有定位意义的事物和现象的定量描述。虚拟模型,比如可以包括虚拟人像模型、虚拟物体模型以及素材图像(比如贴纸、卡通头像等)、或者虚拟动画模型等中的一项或多项。用户视角视频,比如可以是在用户通过终端设备的后置摄像头采集到的视频,或者通过终端设备的前置摄像头采集到的视频。
此外,在一方终端设备不支持AR媒体增强时,该终端设备的SBC可支持建立与增强型终端设备之间的数据传输通道,该数据传输通道用于增强型终端设备与非增强型终端设备之间传输辅助数据,然后由SBC代替非增强型终端设备来执行媒体增强处理。
一种可能的方式中,参见图2所示,应用服务器(application server,AS)、AR服务器以及IMS core可以部署于系统中的中心节点。第一SBC部署于系统中的第一边缘节点,AR媒体服务器部署于系统中的中心节点。第二SBC部署于系统的第二边缘节点。边缘节点相比中心节点来说,更靠近终端设备的用户,为这些用户提供边缘计算服务、转发服务等等,降低响应时延和带宽成本,减轻中心节点的压力。可选地,中心节点和边缘节点可以部署于云上,在该请况下,中心节点可以称为中心云,边缘节点可以称为边缘云。
需要说明的是,不同的终端设备所对应的边缘节点可能相同,也可能不同。另外不同的终端设备对应的中心节点可能相同,也可能不同。
下面结合前面所描述的AR通信系统架构,针对本申请实施例的方案进行具体说明。
参见图3所示,为本申请实施例提供的基于AR的通信方法流程示意图。以第一终端设备向第二终端设备触发AR视频增强流程为例。
作为一种示例,第一终端设备在发起AR通话时,第一终端设备可以显示用于选择AR服务类型的界面,不同的服务类型可以对应不同的场景。比如单向AR增强场景,例如美颜、贴纸、超分、表情驱动通话等场景。再比如,操作交互通话场景,例如,广告推销、远程教育。又比如,图像交互通话场景,例如AR全息通话场景。又比如,虚实叠加通话场景,例如远程指导等。
S301,第一终端设备确定本次AR通话的AR服务类型。
第一终端设备确定本次AR通话的AR服务类型,可以通过任一方式实现:一种方式是:第一终端设备响应于用户选择的AR服务类型。另一种方式是,第一终端设备确定默认的服务类型。默认的服务类型,在多个服务类型中默认的一个。还可以是不同类型的终端设备对应不同的服务类型,默认的服务类型即为该终端设备的类型对应的服务类型。
S302,根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流。
另外,第一终端设备的媒体流可以由第一终端设备产生,比如由第一终端设备的摄像头采集得到。或者还可以从第二终端设备的第二SBC接收得到,即由第二终端设备产生,并发送给第一终端设备。
可选地,第一终端设备的媒体流由第一终端设备产生,S303,所述第一终端设备向第一终端设备对应的第一SBC发送增强AR媒体流。
S304,第一SBC将增强AR媒体流发送给第二SBC。
S305,第二SBC将增强AR媒体流发送给第二终端设备。
示例性地,可供用户选择的服务类型,根据终端设备所应用的场景,可以配置在终端设备中。另外,还可以由AR服务器发送给终端设备。
可选地,AR通话的媒体流可以是由第二终端设备产生发送给第一终端设备的。第一终端设备根据AR数据针对来自第二终端设备的媒体流进行媒体增强处理后显示给用户。
下面结合前面所描述的AR通信系统结构,对创建媒体会话的流程进行说明。
参见图4所示,为本申请实施例提供的基于AR的通信方法流程示意图,以第一终端设备和第二终端设备均为增强型终端设备,第一终端设备向第二终端设备触发AR视频增强流程为例。
S401,第一终端设备向第二终端设备发起AR通话,向AR服务器发送服务请求1。
S402,所述AR服务器接收到服务请求1后,向第一终端设备发送服务响应1,服务响应1中携带供用户选择的多个服务类型。
第一终端设备在接收到供用户选择的多个服务类型后,可以显示给用户,从而用户可以在多个服务类型中选择一个服务类型作为本次通话的服务类型,本申请实施例中将用户选择的服务类型称为AR服务类型。另外应理解的是,服务类型可以配置在终端设备上,在该情况下,在发起AR通话时,第一终端设备可以将可供用户选择的多个服务类型显示给用户。在该情况下,上述S401和S402不再执行。在第一终端设备发起AR通话,执行S403。
S403,第一终端设备响应于用户选择的AR服务类型,向AR服务器发送服务请求2,服务请求2中携带所述AR服务类型。
S404,AR服务器向第一终端设备发送给服务响应2。所述服务响应2中可以携带AR数据,AR数据为执行AR服务类型对应的服务时所需的数据,比如模型数据、场景数据等。
S405,第一终端设备向第一SBC发送呼叫请求1。该呼叫请求中携带第一终端设备的媒体描述协议(session description protocol,SDP)信息。第一终端设备的SDP信息可以包括第一终端设备上用于创建媒体流通道的参数。媒体流可以包括音频流和视频流。
可选地,第一终端设备的SDP信息中还可以包括第一终端设备上用于创建数据传输通道的参数。比如,SDP中包括地址信息、媒体流的类型、支持的编解码格式等参数。媒体流类型可以包括video(视频流)、audio(音频流)、以及datachannel(辅助数据)。SDP中可以包括不同媒体流类型对应的地址信息、支持的编解码格式等参数。比如,在该情况下,可以在SDP中增加一个m行的描述,用于描述数据传输通道。
需要说明的是,本申请实施例不限定S403和S405之间的先后执行顺序。
示例性地,呼叫请求1可以但不仅限于采用会话初始协议(session initiationprotocol,SIP),还可以采用其它类型的传输协议,本申请对此不作限定。
S406,第一SBC在接收到呼叫请求1后,将呼叫请求1中的第一终端设备的SDP信息替换为第一SBC的SDP信息得到呼叫请求2,并将呼叫请求2发送给S-CSCF。
第一SBC的SDP信息中包括第一SBC上用于创建媒体流通道的参数。可选地,在第一终端设备的SDP信息中包括用于创建数据传输通道的参数时,该第一SBC的SDP信息中包括用于创建数据传输通道的参数。
S407,S-CSCF在接收到呼叫请求2后,将呼叫请求2转发给应用服务器。
S408,应用服务器将呼叫请求2发送给S-CSCF。
S409,S-CSCF将呼叫请求2转发给第二SBC。第二SBC可以根据第一SBC的SDP信息确定媒体流通道的上一跳为第一SBC。
图4中以第一终端设备所属的S-CSCF、AS以及第二终端设备所属的S-CSCF、AS为同一S-CSCF为例。
S410,第二SBC将呼叫请求2中的第一SBC的SDP信息替换为第二SBC的SDP信息得到呼叫请求3,并将呼叫请求3发送给第二终端设备。第二SBC的SDP信息中包括第二SBC上用于创建媒体流通道的参数。可选地,在第一SBC的SDP信息中包括用于创建数据传输通道的参数时,该第二SBC的SDP信息中包括用于创建数据传输通道的参数。
S411,第二终端设备向AR服务器发送给服务请求3。
S412,AR服务器向第二终端设备发送服务响应3。服务响应3中可以携带AR数据。
S413,第二终端设备向第二SBC发送给呼叫响应3,呼叫响应3中可以携带第二终端设备的SDP信息。第二终端设备的SDP信息中包括第二终端设备上用于创建媒体流通道的参数。可选地,在第二SBC的SDP信息中包括用于创建数据传输通道的参数时,该第二终端设备的SDP信息中包括用于创建数据传输通道的参数。
需要说明的是,本申请实施例不限定S411和S413之间的先后执行顺序。
S414,第二SBC接收到呼叫响应3后,向S-CSCF发送呼叫响应2,呼叫响应3可以携带第二SBC的SDP信息。
S415,S-CSCF接收到呼叫响应2后,向应用服务器转发呼叫响应2。
S416,应用服务器在接收到呼叫响应2后,向S-CSCF转发呼叫响应2。呼叫响应2中可以携带第二SBC的SDP信息。
S417,S-CSCF将呼叫响应2转发给第一SBC。
S418,第一SBC在接收到呼叫响应2后,向第一终端设备发送呼叫响应1。呼叫响应1中携带第一SBC的SDP信息。
示例性地,呼叫响应1-呼叫响应4可以采用183消息类型。
在建立媒体流通道后,第一终端设备与第二终端设备之间可以通过媒体流通道传输媒体流。第一终端设备和第二终端设备均为增强型终端设备的架构,可以应用到多种应用场景中。如下示例性地描述几种场景下的媒体流的处理以及走向。
示例1,单向AR增强场景。比如,美颜、贴纸、超分、表情驱动通话等场景。
以第一终端设备在与第二终端设备进行视频通话过程中需要进行AR处理。第一终端设备针对第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流。示例性地,第一终端设备针对第一终端设备上摄像头采集到的视频进行媒体增强处理。以美颜为例,第一终端设备的用户触发美颜操作时,第一终端设备对第一终端设备产生的媒体流中视频图像包括的人脸执行美颜操作,并将美颜处理后的媒体流通过媒体流通道发送给第一SBC。然后由第一SBC发送给第二SBC,再由第二SBC发送给第二终端设备。同理,第二终端设备可以在第二终端设备的用户触发美颜操作时,对接收到的第二终端设备产生的媒体流中视频图像包括的人脸执行美颜操作,并将美颜处理后的媒体流通过媒体流通道发送给第二SBC,然后由第二SBC转发给第一SBC,最后由第一SBC转发给第一终端设备。
示例2,操作交互通话场景,比如广告推销、远程教育等。以用户1的第一终端设备在与用户2的第二终端设备进行视频通话过程中需要进行AR处理为例。
一种可能方式中,第一终端设备根据操作数据对第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流,然后将增强AR媒体流通过第一SBC以及第二SBC发送给第二终端设备,并显示给第一终端设备用户。操作数据为第一终端设备上的用户针对第一终端设备的AR界面进行操作产生的数据。
操作数据可以是针对虚拟模型操作产生的数据。后续为了描述方便,将第一终端设备的用户称为用户1,将第二终端设备的用户称为用户2。
例如,二手房可视业务,房源提供者对应第二终端设备,购房用户为第一终端设备。第一终端设备将购房用户的媒体流作为背景流。购房用户的媒体流可以由第一终端设备上后置摄像头采集得到。第一终端设备从购房用户的媒体流中获取购房用户视角的空间位姿数据,按照购房用户视角的空间位姿数据以及购房用户操作二手房模型的操作数据渲染二手房模型,将渲染后的二手房模型与购房用户的背景流叠加得到增强AR媒体流,并显示给购房用户。第一终端设备还将增强AR媒体流通过第一SBC以及第二SBC发送给第二终端设备。第二终端设备将增强AR媒体流显示给买房用户。
另一种可能方式中,第一终端设备可以通过数据传输通道将用户1的操作数据发送给第二终端设备,并且通过媒体流通道将第一终端设备产生的媒体流发送给第二终端设备,第二终端设备根据用户1的操作数据对第一终端设备产生的媒体流进行媒体增强处理得到增强AR媒体流,并显示给用户2。示例性地,第二终端设备可以通过数据传输通道将用户2的操作数据发送给第一终端设备,并且通过媒体流通道将第二终端设备产生的媒体流发送给第一终端设备,第一终端设备根据用户1的操作数据对第二终端设备产生的媒体流进行媒体增强处理得到增强AR媒体流,并显示给用户1。该方式相较于上一种可能的方式中提供方案,时延较小。以上述二手房可视业务为例,采用另一种可能方式提供的方案时,可以有买房用户来操作二手房模型,由买房用户的第二终端设备通过数据传输通道将买房用户操作二手房模型的操作数据发送给第一终端设备,然后第一终端设备按照购房用户视角的空间位姿数据以及买房用户操作二手房模型的操作数据渲染二手房模型,将渲染后的二手房模型与购房用户的背景流叠加得到增强AR媒体流,并显示给购房用户。第一终端设备还将增强AR媒体流通过第一SBC以及第二SBC发送给第二终端设备。第二终端设备将增强AR媒体流显示给买房用户。
示例3,图像交互通话场景,比如AR全息通话场景等。
AR全息通话场景为例,第一终端设备获取第一媒体流以及第一辅助数据,第一媒体流为第一终端设备的用户1所在的环境图像,第一辅助数据包括用户1的人像图像。第二终端设备获取第二媒体流以及第二辅助数据,第二媒体流为第二终端设备的用户2所在的环境图像,第二辅助数据包括用户2的人像图像。第一终端设备将第一辅助数据通过数据传输通道发送给第二终端设备,第二终端设备从用户1的第一辅助数据中获取用户1的实时表情、动作数据,驱动用户1的虚拟模型;将用户2的第二媒体流作为背景流,根据背景流获得用户2视角的空间位姿数据,并根据用户2的视角的空间位姿数据渲染用户1的虚拟模型,与第二媒体流叠加后显示给用户2。第二终端设备将第二辅助数据通过数据传输通道发送给第一终端设备,第一终端设备从用户2的第二辅助数据中获取用户2的实时表情、动作数据,驱动用户2的虚拟模型;第一终端设备将用户1的第一媒体流作为背景流,根据背景流获得用户1视角的空间位姿数据,并根据用户1的视角的空间位姿数据渲染用户2的虚拟模型,与第一媒体流叠加后显示给用户1。
示例4,虚实叠加通话场景,比如远程指导等。
第一终端设备获取辅助数据(比如点云数据)以及第一媒体流。第一终端设备上可以配置深度摄像头,用于获取点云数据,点云数据用于生成拍摄画面的深度图,比如红(R)绿(G)蓝(B)-深度(D)图像。第一终端设备根据点云数据,以更高的精度从背景流中识别物体对象的空间位置,识别物体对象后,在背景流上叠加虚拟模型、或者标识等得到增强AR媒体流,然后将增强AR媒体流显示给第一终端设备的用户,并通过媒体流通道发送给第二终端设备。
参见图5所示,为本申请实施例提供的基于AR的通信方法流程示意图,以第一终端设备增强型终端设备,第二终端设备为非增强型终端设备,第一终端设备向第二终端设备触发AR视频增强流程为例。
S501-S504,参见S401-S404,此处不再赘述。
S505,第一终端设备向第一SBC发送呼叫请求1。该呼叫请求中携带第一终端设备的媒体描述协议(session description protocol,SDP)信息。第一终端设备的SDP信息可以包括第一终端设备上用于创建媒体流通道的参数。媒体流可以包括音频流和视频流。第一终端设备的SDP信息指示所述第一终端设备与所述第二终端设备之间媒体流传输方向为单向。比如,媒体流传输方向的属性行为指定为a=sendonly。
示例性地,呼叫请求1可以但不仅限于采用会话初始协议(session initiationprotocol,SIP),还可以采用其它类型的传输协议,本申请对此不作限定。
S506-S510,参见S406-S410,此处不再赘述。
S511-S516,参见S413-S418,此处不再赘述。
在建立媒体流通道后,第一终端设备与第二终端设备之间可以通过媒体流通道传输媒体流。第一终端设备为增强型终端设备、第二终端设备为非增强型终端设备的架构,可以应用到多种应用场景中。如下示例性地描述几种场景下的媒体流的处理以及走向。
示例5,单向AR增强场景。比如,美颜、贴纸、超分、表情驱动通话等场景。
以第一终端设备在与第二终端设备进行视频通话过程中需要进行AR处理。第一终端设备针对第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流。示例性地,第一终端设备针对第一终端设备上摄像头采集到的视频进行媒体增强处理。以美颜为例,第一终端设备的用户触发美颜操作时,第一终端设备对第一终端设备产生的媒体流中视频图像包括的人脸执行美颜操作,并将美颜处理后的媒体流通过媒体流通道发送给第一SBC。然后由第一SBC发送给第二SBC,再由第二SBC发送给第二终端设备。第二终端设备不支持媒体增强处理,针对第二终端设备的媒体流不作媒体增强处理。
示例6,操作交互通话场景,比如广告推销、远程教育等。以用户1的第一终端设备在与用户2的第二终端设备进行视频通话过程中需要进行AR处理为例。
第一终端设备根据操作数据对第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流,然后将增强AR媒体流通过第一SBC以及第二SBC发送给第二终端设备,并显示给第一终端设备用户。操作数据为第一终端设备上的用户针对第一终端设备的AR界面进行操作产生的数据。
操作数据可以是针对虚拟模型操作产生的数据。后续为了描述方便,将第一终端设备的用户称为用户1,将第二终端设备的用户称为用户2。
示例7,虚实叠加通话场景,比如远程指导等。与示例4中采用的方案类似,可以参见示例4的描述,此处不再赘述。
参见图6所示,为本申请实施例提供的基于AR的通信方法流程示意图,以第一终端设备增强型终端设备,第二终端设备为非增强型终端设备,第一终端设备向第二终端设备触发AR视频增强流程为例。与图5所示的实施例不同的是,第二终端设备所属的第二SBC支持媒体增强。第一终端设备与第二SBC之间可以支持建立数据传输通道。
S601-S609,参见S401-S409,此处不再赘述。
S610,第二SBC确定第二终端设备不支持媒体增强处理(即不具备媒体增强处理能力),向AR服务器发送给服务请求3。
S611,AR服务器向第二SBC发送服务响应3,服务响应3中携带AR数据。
S612,第二SBC确定第二终端设备不支持媒体增强处理,将呼叫请求2中的第一SBC的SDP信息替换为第二SBC的第二SDP信息得到呼叫请求3,并将呼叫请求3发送给第二终端设备。第二SBC的第二SDP信息中包括第二SBC上用于创建媒体流通道的参数。第一SBC的SDP信息中包括用于创建数据传输通道的参数时,该第二SBC的第二SDP信息中也不包括用于创建数据传输通道的参数。
S613,第二终端设备向第二SBC发送给呼叫响应3,呼叫响应3中可以携带第二终端设备的SDP信息。第二终端设备的SDP信息中包括第二终端设备上用于创建媒体流通道的参数。
需要说明的是,本申请实施例不限定S611和S613之间的先后执行顺序。
S614,第二SBC接收到呼叫响应3后,向S-CSCF发送呼叫响应2,呼叫响应3可以携带第二SBC的第一SDP信息。第二SBC的SDP信息中包括第二SBC上用于创建媒体流通道的参数。可选地,在第一SBC的SDP信息中包括用于创建数据传输通道的参数时,该第二SBC的SDP信息中包括用于创建数据传输通道的参数。
S615-S618,参见S415-S418,此处不再赘述。
在建立媒体流通道后,第一终端设备与第二终端设备之间可以通过媒体流通道传输媒体流。第一终端设备为增强型终端设备,第二终端设备为非增强型终端设备的架构,可以应用到多种应用场景中。如下示例性地描述几种场景下的媒体流的处理以及走向。
示例8,单向AR增强场景。比如,美颜、贴纸、超分、表情驱动通话等场景。参见示例5,此处不再赘述。
示例9,操作交互通话场景,比如广告推销、远程教育等。以用户1的第一终端设备在与用户2的第二终端设备进行视频通话过程中需要进行AR处理为例。
一种可能方式中,第一终端设备根据操作数据对第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流,然后将增强AR媒体流通过第一SBC以及第二SBC发送给第二终端设备,并显示给第一终端设备用户。操作数据为第一终端设备上的用户针对第一终端设备的AR界面进行操作产生的数据。第二终端设备为非增强型终端设备,即不支持用户执行操作。
另一种可能方式中,第一终端设备可以通过数据传输通道将用户1的操作数据发送给第二SBC,并且通过媒体流通道将第一终端设备产生的媒体流发送给第二SBC,第二SBC根据用户1的操作数据对第一终端设备产生的媒体流进行媒体增强处理得到增强AR媒体流,并显示给用户2。该方式相较于上一种可能的方式中提供方案,时延较小。
示例10,虚实叠加通话场景,比如远程指导等。参见示例4,此处不再赘述。
参见图7所示,为本申请实施例提供的基于AR的通信方法流程示意图,以第一终端设备增强型终端设备,第二终端设备为非增强型终端设备,第一终端设备向第二终端设备触发AR视频增强流程为例。在图5对应的实施例的基础上,将渲染模型的功能从终端设备转移给MEC,可以降低终端设备的功耗,降低终端设备占用处理资源。
S701-S717,参见S501-S517,此处不再赘述。
S718,第一终端设备向MEC发送服务请求4,服务请求4中携带虚拟模型。
S719,MEC向第一终端设备发送服务响应4。
在建立媒体流通道后,第一终端设备与第二终端设备之间可以通过媒体流通道传输媒体流。第一终端设备为增强型终端设备、第二终端设备为非增强型终端设备的架构,可以应用到多种应用场景中。如下示例性地描述几种场景下的媒体流的处理以及走向。
示例11,单向AR增强场景。参见示例5,此处不再赘述。
示例12,操作交互通话场景,比如广告推销、远程教育等。以用户1的第一终端设备在与用户2的第二终端设备进行视频通话过程中需要进行AR处理为例。
第一终端设备将操作数据发送给MEC,操作数据为第一终端设备上的用户针对第一终端设备的AR界面进行操作产生的数据。MEC根据操作数据对虚拟模型进行渲染,然后将渲染后的虚拟模型发给第一终端设备,第一终端设备将渲染后的虚拟模型以及第一终端设备产生的媒体流进行叠加得到增强AR媒体流,然后将增强AR媒体流通过第一SBC以及第二SBC发送给第二终端设备,并显示给第一终端设备用户。
示例13,虚实叠加通话场景,比如远程指导等。与示例4中采用的方案类似,可以参见示例4的描述,此处不再赘述。
基于与方法实施例同一发明构思,本申请实施例提供一种装置800,具体用于实现上述方法实施例中终端设备(比如第一终端设备或者第二终端设备)所执行的方法,该装置800的结构如图8所示,包括处理单元801、发送单元802,还可以包括接收单元803,还可以包括显示单元804。
在一种可能的实现方式中,处理单元801,用于确定本次增强现实AR通话的AR服务类型,根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流;
发送单元802,用于向第一会话边界控制器SBC发送增强AR媒体流。
示例性地,显示单元804用于显示增强AR媒体流。
在一种可能的实现方式中,发送单元801,还用于在处理单元801根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流之前,所述第一终端设备在向第二终端设备发起AR通话流程时,向AR服务器发送第一服务请求,第一服务请求携带所述AR服务类型;
接收单元803,用于接收所述AR服务器发送的第一服务响应,所述第一服务响应携带AR数据;
处理单元801,在根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流时,具体用于根据所述AR服务类型,使用所述AR数据对所述AR通话的媒体流进行媒体增强处理得到增强AR媒体流。
在一种可能的实现方式中,发送单元802还用于在向AR服务器发送第一服务请求之前,向所述AR服务器发送第二服务请求;
接收单元803,还用于接收来自所述AR服务器的第二服务响应,所述第二服务响应中携带供用户选择的多个服务类型;所述AR服务类型为从所述多个服务类型中选择的。
在一种可能的实现方式中,所述接收单元803,还用于通过数据传输通道接收来自所述第二终端设备的辅助数据,所述辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。所述发送单元802,还用于通过数据传输通道向所述第二终端设备发送辅助数据。
示例性的,所述发送单元802,用于通过所述数据传输通道向第二终端设备发送第一操作数据,所述第一操作数据由第一终端设备的用户对第一终端设备上的AR界面进行操作产生的数据。
在一种可能的实现方式中,所述AR数据为虚拟模型,所述第一终端设备通过所述第一SBC与所述第二终端设备之间建立有所述数据传输通道;所述接收单元803,还用于通过所述数据传输通道接收来自第二终端设备的第二操作数据,所述第二操作数据由第二终端设备的用户对所述虚拟模型进行操作产生的数据;所述处理单元801,在使用所述AR数据对所述第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流时,具体用于根据所述第二操作数据对所述虚拟模型进行渲染,并根据渲染后的虚拟模型对所述第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流。
在一种可能的实现方式中,所述发送单元802还用于在向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流之前,向第一SBC发送呼叫请求,所述呼叫请求携带所述第一终端设备的媒体描述协议SDP信息,所述第一终端设备SDP信息包括所述第一终端设备用于创建所述数据传输通道的参数;所述接收单元803,还用于接收来自第一SBC发送呼叫响应,所述呼叫响应携带所述第一SBC的SDP信息,所述第一SBC的SDP信息包括所述第一SBC用于创建所述数据传输通道的参数。
在一种可能的实现方式中,所述发送单元802,还用于在向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流之前,根据所述AR服务类型向第一SBC发送呼叫请求,所述呼叫请求携带所述第一终端设备的SDP信息,所述第一终端设备的SDP信息包括第一终端设备上用于创建所述第一终端设备与第二终端设备之间AR媒体会话的媒体流通道的参数,所述第一终端设备的SDP信息根据所述AR服务类型确定;
所述接收单元803,还用于接收来自第一SBC发送呼叫响应,所述呼叫响应携带所述第一SBC的SDP信息,所述第一SBC的SDP信息包括所述第一SBC上用于创建所述第一终端设备与第二终端设备之间AR媒体会话的媒体流通道的参数。
在一种可能的实现方式中,所述发送单元802在向第一终端设备对应的第一SBC发送增强AR媒体流时,具体用于通过所述媒体流通道向所述第一SBC发送所述增强AR媒体流。
在一种可能的实现方式中,所述AR数据包括虚拟模型,所述处理单元801在根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流时,具体用于响应于所述第一终端设备的用户对所述虚拟模型的操作,根据操作后的虚拟模型对所述AR通话的媒体流进行媒体增强处理得到所述增强AR媒体流。
在一种可能的实现方式中,所述AR数据包括虚拟模型,所述发送单元802还用于将所述虚拟模型发送给边缘计算节点;所述处理单元801还用于响应于所述第一终端设备的用户对所述虚拟模型的操作,指示发送单元802向所述边缘计算节点发送第三操作数据,所述第三操作数据由第一终端设备的用户对所述虚拟模型进行操作产生的数据;所述接收单元803还用于接收所述边缘计算设备根据所述第三操作数据对所述虚拟模型渲染后得到的增强虚拟模型;所述处理单元具体用于将所述AR通话的媒体流与所述增强虚拟模型进行叠加得到所述增强AR媒体流。
基于与方法实施例同一发明构思,本申请实施例提供一种装置900,具体用于实现上述方法实施例中SBC(比如第一SBC或者第二SBC)所执行的方法,该装置900的结构如图9所示,包括接收单元901、发送单元902。
一种应用场景中,以应用于第一SBC为例:
接收单元901,用于接收第一终端设备发送的第一呼叫请求,所述第一呼叫请求携带所述第一终端设备的SDP信息,所述第一终端设备的SDP信息包括第一终端设备用于创建数据传输通道的参数以及用于创建媒体流通道的参数;
发送单元902,用于向所述第一终端设备发送第一呼叫响应,所述第一呼叫响应携带所述SBC的SDP信息,所述第一SBC的SDP信息包括所述第一SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
在一种可能的实施方式中,所述数据传输通道用于传输所述第一终端设备与第二终端设备进行AR通话的辅助数据;所述辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。
在一种可能的实施方式中,所述发送单元902,还用于向第二终端设备对应的第二SBC发送第二呼叫请求,所述第二呼叫请求携带所述第一SBC的SDP信息;所述接收单元901,还用于接收所述第二SBC发送的第二呼叫响应,所述第二呼叫请求携带所述第二SBC的SDP信息,所述第二SBC的SDP信息包括所述第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
另一种应用场景中,以应用于第二SBC为例:
接收单元901,用于接收第一SBC发送的第二呼叫请求,所述第二呼叫请求携带所述第一SBC的SDP信息,所述第一SBC的SDP信息包括第一SBC用于创建数据传输通道的参数以及用于创建媒体流通道的参数;
发送单元902,用于向第一SBC发送第二呼叫响应,所述第二呼叫响应携带所述第二SBC的第一SDP信息,所述第二SBC的第一SDP信息包括所述第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
在一种可能的实现方式中,所述发送单元902向第一SBC发送第二呼叫响应之前,还用于向第二终端设备发送第三呼叫请求,所述第三呼叫请求中携带所述第二SBC的第一SDP信息,所述第二SBC的第一SDP信息包括所述第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数;
接收单元901,还用于接收所述第二终端设备发送的第三呼叫响应,所述第三呼叫响应中携带所述第二终端设备的SDP信息,所述第二终端设备的SDP信息包括所述第二终端设备用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
在一种可能的实现方式中,还可以包括处理单元903。所述发送单元902向第一SBC发送第二呼叫响应之前,还用于在处理单元903确定所述第二终端设备不支持AR时,向所述第二终端设备发送第三呼叫请求,所述第三呼叫请求中携带所述第二SBC的第二SDP信息,所述第二SBC的第二SDP信息仅包括所述第二SBC用于创建媒体流通道的参数;
所述接收单元901还用于接收所述第二终端设备发送的第三呼叫响应,所述第三呼叫响应中携带所述第二终端设备的SDP信息,所述第二SBC的SDP信息包括所述第二终端设备用于创建媒体流通道的参数。
在一种可能的实现方式中,所述接收单元还用于通过所述媒体流通道接收来自第一终端设备的AR媒体流,并通过所述数据传输通道接收来自第一终端设备的辅助数据;
所述辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项;
所述处理单元903,还用于根据所述辅助数据对所述AR媒体流进行媒体增强处理得到增强AR媒体流;
所述发送单元902,还用于向所述第二终端设备发送所述增强AR媒体流。
基于与方法实施例同一发明构思,本申请实施例提供一种装置1000,具体用于实现上述方法实施例中AR服务器所执行的方法,该装置1000的结构如图10所示,包括接收单元1001、发送单元1002。
接收单元1001,用于接收第一终端设备发送的第一服务请求,所述第一服务请求携带AR服务类型;
发送单元1002,用于向所述第一终端设备发送第一服务响应,所述第一服务响应携带AR数据。
在一种可能的实现方式中,接收单元1001还用于接收所述第一终端设备发送的第一服务请求之前,接收第一终端设备发送的第二服务请求;
发送单元1002还用于向所述第一终端设备发送的第二服务响应,所述第二服务响应中携带供用户选择的多个服务类型,所述AR服务类型为从所述多个服务类型中选择的。
在一种可能的实现方式中,接收单元1001,还用于接收第二终端设备对应的第二SBC发送的第三服务请求,所述第三服务请求携带所述AR服务类型;
发送单元1002还用于向所述第二SBC发送第三服务响应,所述第三服务响应中携带所述AR数据。
本申请实施例中对单元的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,另外,在本申请各个实施例中的各功能单元可以集成在一个处理器中,也可以是单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台终端设备(可以是个人计算机,手机,或者网络设备等)或处理器(processor)执行本申请各个实施例该方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(read-onlymemory,ROM)、随机存取存储器(random access memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
在本申请实施例中,所述AR服务器、所述应用服务器、终端设备、SBC以及CSCF均可以采用集成的方式划分各个功能模块的形式来呈现。这里的“模块”可以指特定ASIC,电路,执行一个或多个软件或固件程序的处理器和存储器,集成逻辑电路,和/或其他可以提供上述功能的器件。
在一个简单的实施例中,SBC、CSCF、AR服务器或应用服务器可采用图11所示的形式。
如图11所示的装置1100,包括至少一个处理器1101,通信接口1102。可选地,还可以包括存储器1103。
一种可能的实现方式中,当SBC采用图11所示的形式时,图11中的处理器1101可以通过调用存储器1103中存储的计算机执行指令,使得所述SBC可以执行上述任一方法实施例中的所述第一SBC或者第二SBC执行的方法。
处理器1101可以通过通信接口1101与其他设备进行通信。比如,处理器1101通过通信接口1101接收终端设备发送的媒体流,或者向终端设备发送媒体流。
具体的,存储器1103中存储有用于实现图9中的发送单元、接收单元和处理单元的功能的计算机执行指令,图9中的发送单元、接收单元和处理单元的功能/实现过程均可以通过图11中的处理器1101调用存储器1103中存储的计算机执行指令,并结合通信接口1102来实现。
另一种可能的实现方式中,当AR服务器采用图11所示的形式时,图11中的处理器1101可以通过调用存储器1103中存储的计算机执行指令,使得所述AR服务器可以执行上述任一方法实施例中的所述AR服务器执行的方法。
处理器1101可以通过通信接口1101与其他设备进行通信。比如,处理器1101通过通信接口1101接收来自终端设备的服务请求,以及向终端设备发送服务响应。
具体的,存储器1103中存储有用于实现图10中的发送单元、接收单元的功能的计算机执行指令,图10中的发送单元、接收单元的功能/实现过程均可以通过图11中的处理器1101调用存储器1103中存储的计算机执行指令,并结合通信接口1102来实现。
又一种可能的实现方式中,当应用服务器采用图11所示的形式时,图11中的处理器1101可以通过调用存储器1103中存储的计算机执行指令,使得所述应用服务器可以执行上述任一方法实施例中的所述应用服务器执行的方法。
又一种可能的实现方式中,当CSCF采用图11所示的形式时,图11中的处理器1101可以通过调用存储器1103中存储的计算机执行指令,使得所述CSCF可以执行上述任一方法实施例中的S-CSCF执行的方法。
本申请实施例中不限定上述处理器1101以及存储器1103之间的具体连接介质。本申请实施例在图中以存储器1103和处理器1101之间通过总线1104连接,总线1104在图中以粗线表示,其它部件之间的连接方式,仅是进行示意性说明,并不引以为限。该总线1104可以分为地址总线、数据总线、控制总线等。为便于表示,图11中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
在一个简单的实施例中,所述终端设备可采用图12所示的形式。如图12所示的装置1200包括至少一个处理器1201,通信接口1202,可选地还可以包括存储器1203。在一种可能的实现方式中,装置1200还包括显示器1204。所述装置还可以包括传感器1205,用于检测用户在AR界面上的操作。
处理器1201可以具有数据收发功能,能够与其他设备进行通信,如在本申请实施例中,处理器1201可以向SBC发送媒体流,也可以接收来自所述SBC的媒体流,在如图12装置中,也可以设置独立的数据收发模块,例如通信接口1202,用于收发数据;处理器1201在与其他设备进行通信时,可以通过通信接口1202进行数据传输,如在本申请实施例中,处理器1201可以通过通信接口1202向SBC发送媒体流,也可以通过通信接口1202接收来自所述SBC的媒体流。
当所述终端设备采用图12所示的形式时,图12中的处理器1201可以通过调用存储器1203中存储的计算机执行指令,使得所述终端设备可以执行上述任一方法实施例中的所述终端设备(比如第一终端设备或者第二终端设备)执行的方法。
具体的,存储器1203中存储有用于实现图8中的发送单元、接收单元、处理单元以及显示单元的功能的计算机执行指令,图8中的发送单元、接收单元、处理单元以及显示单元的功能/实现过程均可以通过图12中的处理器1201调用存储器1203中存储的计算机执行指令来实现。
或者,存储器1203中存储有用于实现图8中的处理单元的功能的计算机执行指令,图6中的处理单元的功能/实现过程可以通过图12中的处理器1201调用存储器1203中存储的计算机执行指令来实现,图8的发送单元和接收单元的功能/实现过程可以通过图12中的通信接口1202来实现。
其中,所述处理器1201在执行显示单元的功能时,如涉及显示图像的操作,如显示AR界面,处理器1201可以通过所述装置1200中的显示器1204显示图像。可选的,处理器1201在执行显示单元的功能时,也可以通过其他设备中的显示器显示图像,如向其他设备发送显示指令,指示显示图像。
本申请实施例中不限定上述处理器1201以及存储器1203、通信接口1202、显示器1204以及传感器1205之间的具体连接介质。本申请实施例在图中通过总线1206连接为例,总线1206在图中以粗线表示,其它部件之间的连接方式,仅是进行示意性说明,并不引以为限。该总线1206可以分为地址总线、数据总线、控制总线等。为便于表示,图12中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
基于以上实施例,本申请实施例还提供了一种计算机存储介质,该存储介质中存储软件程序,该软件程序在被一个或多个处理器读取并执行时可实现上述任意一个或多个实施例提供业务平台或边缘计算设备执行的方法。所述计算机存储介质可以包括:U盘、移动硬盘、只读存储器、随机存取存储器、磁碟或者光盘等各种可以存储程序代码的介质。
基于以上实施例,本申请实施例还提供了一种芯片,该芯片包括处理器,用于实现上述任意一个或多个实施例所涉及的AR服务器的功能或者终端设备或者SBC服务器的功能。可选地,所述芯片还包括存储器,所述存储器,用于处理器所执行必要的程序指令和数据。该芯片,可以由芯片构成,也可以包含芯片和其他分立器件。
应理解,说明书通篇中提到的“一个实施例”、“一个实现方式”、“一个实施方式”或“一示例”意味着与实施例有关的特定特征、结构或特性包括在本申请的至少一个实施例中。因此,在整个说明书各处出现的“在一个实施例中”、“一个实现方式”、“一个实施方式”或“在一示例中”未必一定指相同的实施例。此外,这些特定的特征、结构或特性可以任意适合的方式结合在一个或多个实施例中。应理解,在本申请的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
另外,本文中术语“系统”和“网络”在本文中常被可互换使用。本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。本申请涉及的术语“至少一个”,是指一个,或一个以上,即包括一个、两个、三个及以上;“多个”,是指两个,或两个以上,即包括两个、三个及以上。另外,需要理解的是,在本申请的描述中,“第一”、“第二”等词汇,仅用于区分描述的目的,而不能理解为指示或暗示相对重要性,也不能理解为指示或暗示顺序。“以下至少一项(个)”或其类似表达,是指的这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b,或c中的至少一项(个),可以表示:a,b,c,a-b,a-c,b-c,或a-b-c,其中a,b,c可以是单个,也可以是多个。应理解,在本申请实施例中,“与A相应的B”表示B与A相关联,根据A可以确定B。但还应理解,根据A确定B并不意味着仅仅根据A确定B,还可以根据A和/或其它信息确定B。此外,本申请实施例和权利要求书及附图中的术语“包括”和“具有”不是排他的。例如,包括了一系列步骤或模块的过程、方法、系统、产品或设备没有限定于已列出的步骤或模块,还可以包括没有列出的步骤或模块。
可以理解的是,本申请的实施例中的处理器可以是中央处理单元(centralprocessing unit,CPU),还可以是其它通用处理器、数字信号处理器(digital signalprocessor,DSP)、专用集成电路(application specific integrated circuit,ASIC)、现场可编程门阵列(fieldprogrammable gate array,FPGA)或者其它可编程逻辑器件、晶体管逻辑器件,硬件部件或者其任意组合。通用处理器可以是微处理器,也可以是任何常规的处理器。
本申请的实施例中的方法步骤可以通过硬件的方式来实现,也可以由处理器执行软件指令的方式来实现。软件指令可以由相应的软件模块组成,软件模块可以被存放于随机存取存储器(random access memory,RAM)、闪存、只读存储器(Read-Only Memory,ROM)、可编程只读存储器(programmable ROM,PROM)、可擦除可编程只读存储器(erasable PROM,EPROM)、电可擦除可编程只读存储器(electrically EPROM,EEPROM)、寄存器、硬盘、移动硬盘、CD-ROM或者本领域熟知的任何其它形式的存储介质中。一种示例性的存储介质耦合至处理器,从而使处理器能够从该存储介质读取信息,且可向该存储介质写入信息。当然,存储介质也可以是处理器的组成部分。处理器和存储介质可以位于ASIC中。另外,该ASIC可以位于网络设备或终端设备中。当然,处理器和存储介质也可以作为分立组件存在于网络设备或终端设备中。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机程序或指令。在计算机上加载和执行所述计算机程序或指令时,全部或部分地执行本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其它可编程装置。所述计算机程序或指令可以存储在计算机可读存储介质中,或者通过所述计算机可读存储介质进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是集成一个或多个可用介质的服务器等数据存储设备。所述可用介质可以是磁性介质,例如,软盘、硬盘、磁带;也可以是光介质,例如,DVD;还可以是半导体介质,例如,固态硬盘(solid state disk,SSD)。
在本申请的各个实施例中,如果没有特殊说明以及逻辑冲突,不同的实施例之间的术语和/或描述具有一致性、且可以相互引用,不同的实施例中的技术特征根据其内在的逻辑关系可以组合形成新的实施例。
Claims (24)
1.一种基于增强现实的通信方法,其特征在于,包括:
第一终端设备确定本次增强现实AR通话的AR服务类型,根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流;
所述第一终端设备向第一会话边界控制器SBC发送增强AR媒体流。
2.如权利要求1所述的方法,其特征在于,所述第一终端设备根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流之前,还包括:
所述第一终端设备在向第二终端设备发起AR通话流程时,向AR服务器发送第一服务请求,第一服务请求携带所述AR服务类型;
所述第一终端设备接收所述AR服务器发送的第一服务响应,所述第一服务响应携带AR数据;
所述第一终端设备根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流,包括:
所述第一终端设备根据所述AR服务类型,使用所述AR数据对所述AR通话的媒体流进行媒体增强处理得到增强AR媒体流。
3.如权利要求2所述的方法,其特征在于,所述第一终端设备向AR服务器发送第一服务请求之前,还包括:
所述第一终端设备向所述AR服务器发送第二服务请求;
所述第一终端设备接收来自所述AR服务器的第二服务响应,所述第二服务响应中携带供用户选择的多个服务类型;
所述AR服务类型为从所述多个服务类型中选择的。
4.如权利要求2或3所述的方法,其特征在于,还包括:
所述第一终端设备通过数据传输通道与所述第二终端设备之间传输辅助数据,所述辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。
5.如权利要求4所述的方法,其特征在于,所述方法还包括:
所述第一终端设备通过所述数据传输通道向第二终端设备发送第一操作数据,所述第一操作数据由第一终端设备的用户对第一终端设备上的AR界面进行操作产生的数据。
6.如权利要求4所述的方法,其特征在于,所述AR数据为虚拟模型,所述第一终端设备通过所述第一SBC与所述第二终端设备之间建立有所述数据传输通道;
所述方法还包括:
所述第一终端设备通过所述数据传输通道接收来自第二终端设备的第二操作数据,所述第二操作数据由第二终端设备的用户对所述虚拟模型进行操作产生的数据;
所述第一终端设备使用所述AR数据对所述第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流,包括:
所述第一终端设备根据所述第二操作数据对所述虚拟模型进行渲染,并根据渲染后的虚拟模型对所述第一终端设备的媒体流进行媒体增强处理得到增强AR媒体流。
7.如权利要求4-6任一项所述的方法,其特征在于,所述第一终端设备向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流之前,所述方法还包括:
所述第一终端设备向第一SBC发送呼叫请求,所述呼叫请求携带所述第一终端设备的媒体描述协议SDP信息,所述第一终端设备SDP信息包括所述第一终端设备用于创建所述数据传输通道的参数;
所述第一终端设备接收来自第一SBC发送呼叫响应,所述呼叫响应携带所述第一SBC的SDP信息,所述第一SBC的SDP信息包括所述第一SBC用于创建所述数据传输通道的参数。
8.如权利要求2或3所述的方法,其特征在于,所述第一终端设备向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流之前,所述方法还包括:
所述第一终端设备根据所述AR服务类型向第一SBC发送呼叫请求,所述呼叫请求携带所述第一终端设备的SDP信息,所述第一终端设备的SDP信息包括第一终端设备上用于创建所述第一终端设备与第二终端设备之间AR媒体会话的媒体流通道的参数,所述第一终端设备的SDP信息根据所述AR服务类型确定;
所述第一终端设备接收来自第一SBC发送呼叫响应,所述呼叫响应携带所述第一SBC的SDP信息,所述第一SBC的SDP信息包括所述第一SBC上用于创建所述第一终端设备与第二终端设备之间AR媒体会话的媒体流通道的参数。
9.如权利要求8所述的方法,其特征在于,所述第一终端设备向第一终端设备对应的第一会话边界控制器SBC发送增强AR媒体流,包括:
所述第一终端设备通过所述媒体流通道向所述第一SBC发送所述增强AR媒体流。
10.如权利要求8或9所述的方法,其特征在于,所述AR数据包括虚拟模型,所述根据AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流,包括:
所述第一终端设备响应于所述第一终端设备的用户对所述虚拟模型的操作,根据操作后的虚拟模型对所述AR通话的媒体流进行媒体增强处理得到所述增强AR媒体流。
11.如权利要求2或3所述的方法,其特征在于,所述AR数据包括虚拟模型,还包括:
所述第一终端设备将所述虚拟模型发送给边缘计算节点;
所述第一终端设备根据所述AR服务类型对AR通话的媒体流进行媒体增强处理得到增强AR媒体流,包括:
所述第一终端设备响应于所述第一终端设备的用户对所述虚拟模型的操作,向所述边缘计算节点发送第三操作数据,所述第三操作数据由第一终端设备的用户对所述虚拟模型进行操作产生的数据;
所述第一终端设备接收所述边缘计算设备根据所述第三操作数据对所述虚拟模型渲染后得到的增强虚拟模型;
所述第一终端设备将所述AR通话的媒体流与所述增强虚拟模型进行叠加得到所述增强AR媒体流。
12.一种基于增强现实的通信方法,其特征在于,包括:
第一会话边界控制器SBC接收第一终端设备发送的第一呼叫请求,所述第一呼叫请求携带所述第一终端设备的SDP信息,所述第一终端设备的SDP信息包括第一终端设备用于创建数据传输通道的参数以及用于创建媒体流通道的参数;
所述第一SBC向所述第一终端设备发送第一呼叫响应,所述第一呼叫响应携带所述SBC的SDP信息,所述第一SBC的SDP信息包括所述第一SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
13.如权利要求12所述的方法,其特征在于,所述数据传输通道用于传输所述第一终端设备与第二终端设备进行AR通话的辅助数据;
所述辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项。
14.如权利要求12或13所述的方法,其特征在于,还包括:
所述第一SBC向第二终端设备对应的第二SBC发送第二呼叫请求,所述第二呼叫请求携带所述第一SBC的SDP信息;
所述第一SBC接收所述第二SBC发送的第二呼叫响应,所述第二呼叫请求携带所述第二SBC的SDP信息,所述第二SBC的SDP信息包括所述第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
15.一种基于增强现实的通信方法,其特征在于,包括:
第二会话边界控制器SBC接收第一SBC发送的第二呼叫请求,所述第二呼叫请求携带所述第一SBC的SDP信息,所述第一SBC的SDP信息包括第一SBC用于创建数据传输通道的参数以及用于创建媒体流通道的参数;
所述第二SBC向第一SBC发送第二呼叫响应,所述第二呼叫响应携带所述第二SBC的第一SDP信息,所述第二SBC的第一SDP信息包括所述第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
16.如权利要求15所述的方法,其特征在于,所述第二SBC向第一SBC发送第二呼叫响应之前,还包括:
所述第二SBC向第二终端设备发送第三呼叫请求,所述第三呼叫请求中携带所述第二SBC的第一SDP信息,所述第二SBC的第一SDP信息包括所述第二SBC用于创建数据传输通道的参数,以及用于创建媒体流通道的参数;
所述第二SBC接收所述第二终端设备发送的第三呼叫响应,所述第三呼叫响应中携带所述第二终端设备的SDP信息,所述第二终端设备的SDP信息包括所述第二终端设备用于创建数据传输通道的参数,以及用于创建媒体流通道的参数。
17.如权利要求15所述的方法,其特征在于,所述第二SBC向第一SBC发送第二呼叫响应之前,还包括:
所述第二SBC确定所述第二终端设备不支持AR时,所述第二SBC向所述第二终端设备发送第三呼叫请求,所述第三呼叫请求中携带所述第二SBC的第二SDP信息,所述第二SBC的第二SDP信息仅包括所述第二SBC用于创建媒体流通道的参数;
所述第二SBC接收所述第二终端设备发送的第三呼叫响应,所述第三呼叫响应中携带所述第二终端设备的SDP信息,所述第二SBC的SDP信息包括所述第二终端设备用于创建媒体流通道的参数。
18.如权利要求17所述的方法,其特征在于,还包括:
所述第二SBC通过所述媒体流通道接收来自第一终端设备的AR媒体流,并通过所述数据传输通道接收来自第一终端设备的辅助数据;
所述辅助数据包括点云数据流、空间视频数据、用户视角视频、或用户操作AR界面产生的操作数据中的一项或多项;
所述第二SBC根据所述辅助数据对所述AR媒体流进行媒体增强处理得到增强AR媒体流;
所述第二SBC向所述第二终端设备发送所述增强AR媒体流。
19.一种基于增强现实的通信方法,其特征在于,包括:
增强现实AR服务器接收第一终端设备发送的第一服务请求,所述第一服务请求携带AR服务类型;
所述AR服务器向所述第一终端设备发送第一服务响应,所述第一服务响应携带AR数据。
20.如权利要求19所述的方法,其特征在于,还包括:
所述AR服务器接收所述第一终端设备发送的第一服务请求之前,接收第一终端设备发送的第二服务请求;
所述AR服务器向所述第一终端设备发送的第二服务响应,所述第二服务响应中携带供用户选择的多个服务类型,所述AR服务类型为从所述多个服务类型中选择的。
21.如权利要求19或20所述的方法,其特征在于,还包括:
所述AR服务器接收第二终端设备对应的第二SBC发送的第三服务请求,所述第三服务请求携带所述AR服务类型;
所述AR服务器向所述第二SBC发送第三服务响应,所述第三服务响应中携带所述AR数据。
22.一种装置,其特征在于,所述装置包括通信接口和处理器;
所述通信接口,用于收发信号;
所述处理器,用于通过所述通信接口收发信号并实现如权利要求1至11中任一项所述的方法。
23.一种装置,其特征在于,所述装置包括通信接口和处理器;
所述通信接口,用于收发信号;
所述处理器,用于通过所述通信接口收发信号并实现如权利要求12至18中任一项所述的方法。
24.一种装置,其特征在于,所述装置包括通信接口和处理器;
所述通信接口,用于收发信号;
所述处理器,用于通过所述通信接口收发信号并实现如权利要求19至21中任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911207574.5A CN112887258B (zh) | 2019-11-29 | 2019-11-29 | 一种基于增强现实的通信方法及装置 |
PCT/CN2020/130657 WO2021104181A1 (zh) | 2019-11-29 | 2020-11-20 | 一种基于增强现实的通信方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911207574.5A CN112887258B (zh) | 2019-11-29 | 2019-11-29 | 一种基于增强现实的通信方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112887258A true CN112887258A (zh) | 2021-06-01 |
CN112887258B CN112887258B (zh) | 2022-12-27 |
Family
ID=76039196
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911207574.5A Active CN112887258B (zh) | 2019-11-29 | 2019-11-29 | 一种基于增强现实的通信方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN112887258B (zh) |
WO (1) | WO2021104181A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023151431A1 (zh) * | 2022-02-10 | 2023-08-17 | 华为技术有限公司 | 一种通信方法、装置及通信系统 |
WO2024050744A1 (en) * | 2022-09-08 | 2024-03-14 | Zte Corporation | Systems and methods for augmented reality communication based on data channel |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115919103A (zh) * | 2022-10-28 | 2023-04-07 | 慕思健康睡眠股份有限公司 | 基于智能床垫的通话方法、智能床垫及存储介质 |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1560368A1 (fr) * | 2004-01-30 | 2005-08-03 | France Telecom | Procédé d'établissement d'une session multimédia entre un équipement appelant et un équipement appelé d'un réseau du type à sous domaine multimédia et système de communication mettant en oeuvre ce procédé |
WO2009036782A1 (en) * | 2007-09-18 | 2009-03-26 | Vrmedia S.R.L. | Information processing apparatus and method for remote technical assistance |
WO2009082297A1 (en) * | 2007-12-20 | 2009-07-02 | Telefonaktiebolaget L M Ericsson (Publ) | A method for establishing a local media connection in a communication system |
CN101971618A (zh) * | 2008-03-14 | 2011-02-09 | 阿尔卡特朗讯 | 实现移动终端的丰富视频的方法 |
CN102281293A (zh) * | 2011-08-01 | 2011-12-14 | 中兴通讯股份有限公司 | 传输控制协议类型会话媒体流的传输方法及系统 |
WO2013095383A1 (en) * | 2011-12-20 | 2013-06-27 | Intel Corporation | User-to-user communication enhancement with augmented reality |
CN104158806A (zh) * | 2014-08-13 | 2014-11-19 | 大唐移动通信设备有限公司 | 会话连接建立方法及设备、会话边界控制网元 |
WO2015123774A1 (en) * | 2014-02-18 | 2015-08-27 | Sulon Technologies Inc. | System and method for augmented reality and virtual reality applications |
CN106803921A (zh) * | 2017-03-20 | 2017-06-06 | 深圳市丰巨泰科电子有限公司 | 基于ar技术的即时音视频通信方法及装置 |
CN107222468A (zh) * | 2017-05-22 | 2017-09-29 | 北京邮电大学 | 增强现实处理方法、终端、云端服务器和边缘服务器 |
WO2017197989A1 (zh) * | 2016-05-16 | 2017-11-23 | 中兴通讯股份有限公司 | 一种信令架构及其实现呼叫处理的方法和装置 |
WO2018059934A1 (en) * | 2016-09-30 | 2018-04-05 | Deutsche Telekom Ag | Augmented reality communication system and augmented reality interaction device |
CN108377355A (zh) * | 2016-11-28 | 2018-08-07 | 中兴通讯股份有限公司 | 一种视频数据处理方法、装置及设备 |
US20190068653A1 (en) * | 2017-08-31 | 2019-02-28 | Metaswitch Networks Ltd. | Media bypass |
WO2019096063A1 (zh) * | 2017-11-17 | 2019-05-23 | 华为技术有限公司 | 一种直播通信的方法和装置 |
-
2019
- 2019-11-29 CN CN201911207574.5A patent/CN112887258B/zh active Active
-
2020
- 2020-11-20 WO PCT/CN2020/130657 patent/WO2021104181A1/zh active Application Filing
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1560368A1 (fr) * | 2004-01-30 | 2005-08-03 | France Telecom | Procédé d'établissement d'une session multimédia entre un équipement appelant et un équipement appelé d'un réseau du type à sous domaine multimédia et système de communication mettant en oeuvre ce procédé |
WO2009036782A1 (en) * | 2007-09-18 | 2009-03-26 | Vrmedia S.R.L. | Information processing apparatus and method for remote technical assistance |
WO2009082297A1 (en) * | 2007-12-20 | 2009-07-02 | Telefonaktiebolaget L M Ericsson (Publ) | A method for establishing a local media connection in a communication system |
US20110185069A1 (en) * | 2007-12-20 | 2011-07-28 | Jerker Mattias Zetterlund | Method For Establishing A Local Media Connection In A Communication System |
CN101971618A (zh) * | 2008-03-14 | 2011-02-09 | 阿尔卡特朗讯 | 实现移动终端的丰富视频的方法 |
CN102281293A (zh) * | 2011-08-01 | 2011-12-14 | 中兴通讯股份有限公司 | 传输控制协议类型会话媒体流的传输方法及系统 |
WO2013095383A1 (en) * | 2011-12-20 | 2013-06-27 | Intel Corporation | User-to-user communication enhancement with augmented reality |
WO2015123774A1 (en) * | 2014-02-18 | 2015-08-27 | Sulon Technologies Inc. | System and method for augmented reality and virtual reality applications |
CN104158806A (zh) * | 2014-08-13 | 2014-11-19 | 大唐移动通信设备有限公司 | 会话连接建立方法及设备、会话边界控制网元 |
WO2017197989A1 (zh) * | 2016-05-16 | 2017-11-23 | 中兴通讯股份有限公司 | 一种信令架构及其实现呼叫处理的方法和装置 |
WO2018059934A1 (en) * | 2016-09-30 | 2018-04-05 | Deutsche Telekom Ag | Augmented reality communication system and augmented reality interaction device |
CN108377355A (zh) * | 2016-11-28 | 2018-08-07 | 中兴通讯股份有限公司 | 一种视频数据处理方法、装置及设备 |
CN106803921A (zh) * | 2017-03-20 | 2017-06-06 | 深圳市丰巨泰科电子有限公司 | 基于ar技术的即时音视频通信方法及装置 |
CN107222468A (zh) * | 2017-05-22 | 2017-09-29 | 北京邮电大学 | 增强现实处理方法、终端、云端服务器和边缘服务器 |
US20190068653A1 (en) * | 2017-08-31 | 2019-02-28 | Metaswitch Networks Ltd. | Media bypass |
WO2019096063A1 (zh) * | 2017-11-17 | 2019-05-23 | 华为技术有限公司 | 一种直播通信的方法和装置 |
CN109802932A (zh) * | 2017-11-17 | 2019-05-24 | 华为技术有限公司 | 一种直播通信的方法和装置 |
Non-Patent Citations (1)
Title |
---|
唐艳等: "基于AR模型的脑-机接口问题研究", 《计算机工程与应用》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023151431A1 (zh) * | 2022-02-10 | 2023-08-17 | 华为技术有限公司 | 一种通信方法、装置及通信系统 |
WO2024050744A1 (en) * | 2022-09-08 | 2024-03-14 | Zte Corporation | Systems and methods for augmented reality communication based on data channel |
Also Published As
Publication number | Publication date |
---|---|
CN112887258B (zh) | 2022-12-27 |
WO2021104181A1 (zh) | 2021-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112887258B (zh) | 一种基于增强现实的通信方法及装置 | |
US11895426B2 (en) | Method and apparatus for capturing video, electronic device and computer-readable storage medium | |
JP2020507136A (ja) | Vrオブジェクトの合成方法、装置、プログラム及び記録媒体 | |
KR101656172B1 (ko) | 증강된 가상 현실을 사용하는, 원격 참여자들 간의 개선된 통신 | |
CN112788273B (zh) | 一种增强现实ar通信系统及基于ar的通信方法 | |
US20200053318A1 (en) | Communication processing method, terminal, and storage medium | |
WO2021104037A1 (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN110347979A (zh) | 分屏跨应用的信息分享方法、装置与触控终端、存储介质 | |
CN109831662B (zh) | Ar眼镜屏幕的实时画面投射方法、装置及控制器和介质 | |
TW201308195A (zh) | 於虛擬區域及實體空間之間通訊的技術 | |
WO2021088690A1 (zh) | 一种基于增强现实的通信方法及装置 | |
US8395651B2 (en) | System and method for providing a token in a video environment | |
US20230102054A1 (en) | Method, an apparatus and a computer program product for video encoding and video decoding | |
CN110751707B (zh) | 动画显示方法、装置、电子设备及存储介质 | |
WO2019193364A1 (en) | Method and apparatus for generating augmented reality images | |
CN110012336A (zh) | 直播界面的图片配置方法、终端及装置 | |
US11989814B2 (en) | Image processing method and apparatus, electronic device, and storage medium | |
CN116758201B (zh) | 三维场景的渲染处理方法、设备、系统及计算机存储介质 | |
KR102089439B1 (ko) | 비디오 회의 환경을 위한 비디오 디스플레이 수정 기법 | |
CN103096018A (zh) | 传输信息的方法和终端 | |
CN111459432A (zh) | 虚拟内容的显示方法、装置、电子设备及存储介质 | |
JP5894505B2 (ja) | 画像コミュニケーションシステム、画像生成装置及びプログラム | |
US20220207848A1 (en) | Method and apparatus for generating three dimensional images | |
CN115437723A (zh) | 应用场景的快速切换方法、装置、电子设备和存储介质 | |
CN115941876A (zh) | 音视频会议实现方法、装置、存储介质及计算机设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |