CN116489414A - 直播互动方法、装置、系统、计算设备及存储介质 - Google Patents
直播互动方法、装置、系统、计算设备及存储介质 Download PDFInfo
- Publication number
- CN116489414A CN116489414A CN202211638059.4A CN202211638059A CN116489414A CN 116489414 A CN116489414 A CN 116489414A CN 202211638059 A CN202211638059 A CN 202211638059A CN 116489414 A CN116489414 A CN 116489414A
- Authority
- CN
- China
- Prior art keywords
- client
- anchor
- information
- interaction
- interaction information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000003993 interaction Effects 0.000 title claims abstract description 298
- 238000000034 method Methods 0.000 title claims abstract description 90
- 230000033001 locomotion Effects 0.000 claims abstract description 148
- 238000004590 computer program Methods 0.000 claims abstract description 9
- 230000009471 action Effects 0.000 claims description 30
- 230000002853 ongoing effect Effects 0.000 claims description 19
- 230000005540 biological transmission Effects 0.000 claims description 16
- 230000001815 facial effect Effects 0.000 claims description 7
- 230000004044 response Effects 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 description 26
- 210000000988 bone and bone Anatomy 0.000 description 19
- 238000004891 communication Methods 0.000 description 16
- 230000002452 interceptive effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000014509 gene expression Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 5
- 238000003491 array Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000005021 gait Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
- 238000011282 treatment Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/218—Source of audio or video content, e.g. local disk arrays
- H04N21/2187—Live feed
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
- H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- General Engineering & Computer Science (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本公开提供了一种主播端直播互动方法,包括:实时获取主播动作捕捉数据;基于该数据驱动虚拟主播模型;生成包括该数据的主播端互动信息;将主播端互动信息发送给服务器。本公开还涉及一种客户端直播互动方法,包括:接收主播端互动信息;基于主播动作捕捉数据驱动客户端的虚拟主播模型;实时获取客户虚拟模型驱动信息;生成客户端互动信息;将客户端互动信息发送给服务器。本公开还涉及一种服务端直播互动方法,包括:接收主播端互动信息,以及将其发送给客户端;从客户端接收客户端互动信息,以及将其发送给主播端和/或指定的客户端。本公开还涉及可执行这些直播互动方法的装置、计算设备、计算机可读存储介质和计算机程序产品。
Description
技术领域
本公开涉及计算机技术领域,具体地,涉及直播互动方法,采用这些直播互动方法的装置和包括这些装置的系统,以及还涉及可执行这些直播互动方法的计算设备、计算机可读存储介质和计算机程序产品。
背景技术
随着科技的发展,直播平台应运而生,因为直播更为直观、富有互动性,越来越多的用户愿意通过直播平台来了解相关信息。为了改善直播的效果,很多直播平台启用了虚拟主播,其中,虚拟主播指的是使用虚拟形象(即虚拟主播模型)在直播平台上开展直播活动的主播。在使用虚拟现实技术的直播互动方案中,通常依靠主播的头盔和手柄的数据来驱动虚拟主播模型的移动,而在非虚拟现实技术的直播互动方案中,对虚拟主播模型的控制通常仅是传输图像数据。因此,现有技术的技术方案在对虚拟主播模型进行驱动时,无法完整地表现其肢体动作,也无法精细地体现表情。
因此,期望提供一种直播互动的技术方案,其能够驱动虚拟主播模型像真人主播一样完成动作和体现表情,从而给客户提供更好的体验。
发明内容
根据本公开的一个方面,提供了一种主播端直播互动方法,其包括:实时获取主播动作捕捉数据,其中,所述主播动作捕捉数据描述了主播正在进行的动作;基于所述主播动作捕捉数据驱动所述主播端的虚拟主播模型;生成主播端互动信息,其中,所述主播端互动信息包括所述主播动作捕捉数据;将所述主播端互动信息发送给服务器,使所述服务器将所述主播端互动信息发送到客户端以驱动所述客户端的虚拟主播模型。
根据一些示例性实施例,所述实时获取主播动作捕捉数据包括下述各项中的至少一个:从身体动作捕捉设备实时获取身体动作捕捉数据;从面部动作捕捉设备实时获取面部动作捕捉数据;从手指动作捕捉设备实时获取手指动作捕捉数据。
根据一些示例性实施例,所述生成主播端互动信息还包括:接收主播端音频数据;使所述主播端互动信息还包括所述主播端音频数据。
根据一些示例性实施例,所述生成主播端互动信息还包括:接收主播端指令信息;使所述主播端互动信息还包括所述主播端指令信息。
根据一些示例性实施例,所述生成主播端互动信息还包括:减小所述主播端互动信息中包括的主播动作捕捉数据的数据刷新频率,以减小所述主播动作捕捉数据的数据量。
根据一些示例性实施例,所述主播端直播互动方法还包括:接收来自客户端的客户端互动信息,其中,所述客户端互动信息包括客户虚拟模型驱动信息;基于所述客户虚拟模型驱动信息驱动所述主播端的客户虚拟模型。
根据一些示例性实施例,所述客户端是VR客户端,并且其中,所述客户虚拟模型驱动信息包括所述VR客户端的手柄和头盔的运动数据;所述接收来自客户端的客户端互动信息还包括:响应于所述VR客户端的手柄和头盔的运动数据的数据刷新频率较小,对所述VR客户端的手柄和头盔的运动数据进行插值处理。
根据本公开的第二个方面,提供了一种客户端直播互动方法,其包括:接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;基于所述主播动作捕捉数据驱动所述客户端的虚拟主播模型;实时获取所述客户端的客户虚拟模型驱动信息;生成客户端互动信息,其中,所述客户端互动信息包括所述客户虚拟模型驱动信息;将所述客户端互动信息发送给服务器,使所述服务器将所述客户端互动信息发送到主播端和/或指定的客户端,以驱动所述主播端和/或所述指定的客户端的客户虚拟模型。
根据一些示例性实施例,所述接收主播端互动信息还包括:响应于所述主播端互动信息中包括的主播动作捕捉数据的数据刷新频率较小,对所述主播动作捕捉数据进行插值处理。
根据一些示例性实施例,所述生成客户端互动信息还包括:接收客户端音频数据;使所述客户端互动信息还包括所述客户端音频数据。
根据一些示例性实施例,所述生成客户端互动信息还包括:接收客户端指令信息;使所述客户端互动信息还包括所述客户端指令信息。
根据一些示例性实施例,所述客户端是VR客户端,并且其中,所述客户虚拟模型驱动信息包括所述VR客户端的手柄和头盔的运动数据;所述实时获取所述客户端的客户虚拟模型驱动信息还包括:实时获取所述VR客户端的手柄和头盔的运动数据;所述生成客户端互动信息还包括:减小所述VR客户端的手柄和头盔的运动数据的数据刷新频率。
根据本公开的第三个方面,提供了一种服务端直播互动方法,其包括:从主播端接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;将所述主播端互动信息发送给至少一个客户端;从所述至少一个客户端中的每一个接收客户端互动信息;将所述客户端互动信息发送给所述主播端和/或指定的客户端。
根据本公开的第四个方面,提供了一种主播端直播互动装置,其包括:主播动作捕捉数据获取模块,其被配置成:实时获取主播动作捕捉数据,其中,所述主播动作捕捉数据描述了主播正在进行的动作;主播端虚拟主播模型驱动模块,其被配置成:基于所述主播动作捕捉数据驱动所述主播端的虚拟主播模型;主播端互动信息生成模块,其被配置成:生成主播端互动信息,其中,所述主播端互动信息包括所述主播动作捕捉数据;主播端互动信息发送模块,其被配置成:将所述主播端互动信息发送给服务器;客户端互动信息接收模块,其被配置成:接收来自客户端的客户端互动信息,其中,所述客户端互动信息包括客户虚拟模型驱动信息;主播端客户虚拟模型驱动模块,其被配置成:基于所述客户虚拟模型驱动信息驱动所述主播端的客户虚拟模型。
根据本公开的第五个方面,提供了一种客户端直播互动装置,其包括:主播端互动信息接收模块,其被配置成:接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;客户端虚拟主播模型驱动模块,其被配置成:基于所述主播动作捕捉数据驱动所述客户端的虚拟主播模型;客户虚拟模型驱动信息获取模块,其被配置成:实时获取所述客户端的客户虚拟模型驱动信息;客户端互动信息生成模块,其被配置成:生成客户端互动信息,其中,所述客户端互动信息包括所述客户虚拟模型驱动信息;客户端互动信息发送模块,其被配置成:将所述客户端互动信息发送给服务器。
根据本公开的第六个方面,提供了一种服务器端直播互动装置,其包括:主播端信息接收模块,其被配置成:从主播端接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;主播端信息发送模块,其被配置成:将所述主播端互动信息发送给至少一个客户端;客户端信息接收模块,其被配置成:从所述至少一个客户端中的每一个接收客户端互动信息;客户端信息发送模块,其被配置成:将所述客户端互动信息发送给所述主播端和/或指定的客户端。
根据本公开的第七个方面,提供了一种直播互动系统,其包括:根据本公开的第四个方面所述的主播端直播互动装置;根据本公开的第五个方面所述的客户端直播互动装置;根据本公开的第六个方面所述的服务器端直播互动装置。
根据本公开的第八个方面,提供了一种计算设备,包括处理器和存储器,所述存储器被配置成存储计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据根据本公开的第一个方面及其各示例性实施例所述的主播端直播互动方法,或者使所述处理器执行根据本公开的第二个方面及其各示例性实施例所述的客户端直播互动方法,或者使所述处理器执行根据本公开的第三个方面及其各示例性实施例所述的服务器端直播互动方法。
根据本公开的第九个方面,提供了一种计算机可读存储介质,其被配置成存储计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据根据本公开的第一个方面及其各示例性实施例所述的主播端直播互动方法,或者使所述处理器执行根据本公开的第二个方面及其各示例性实施例所述的客户端直播互动方法,或者使所述处理器执行根据本公开的第三个方面及其各示例性实施例所述的服务器端直播互动方法。
根据本公开的第十个方面,提供了一种计算机程序产品,其包括计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据根据本公开的第一个方面及其各示例性实施例所述的主播端直播互动方法,或者使所述处理器执行根据本公开的第二个方面及其各示例性实施例所述的客户端直播互动方法,或者使所述处理器执行根据本公开的第三个方面及其各示例性实施例所述的服务器端直播互动方法
在根据本公开的技术方案中,基于主播动作捕捉数据来驱动虚拟主播模型,由此,使虚拟主播模型能够完整地表现出肢体动作,并且能够呈现精细的表情,从而能够给客户提供更好的体验。此外,在主播端、客户端以及服务器之间的数据传输中,通过减小数据刷新频率和/或对数据内容进行优化,可以减小数据量,继而减小了对网络传输带宽的需求。
附图说明
下面将结合附图对本公开的具体实施例进行详细的描述,以便能够对本公开的更多细节、特征和优点具有更加充分的认识和理解;在附图中:
图1示意性示出了可以应用根据本公开的技术方案的示例性场景;
图2示意性示出了根据本公开的一些示例性实施例的直播间;
图3以流程图的形式示意性地示出了根据本公开的一些示例性实施例的一种主播端直播互动方法;
图4以流程图的形式示意性地示出了根据本公开的一些示例性实施例的一种客户端直播互动方法;
图5以流程图的形式示意性地示出了根据本公开的一些示例性实施例的一种服务器端直播互动方法;
图6以框图的形式示意性地示出了根据本公开的一些示例性实施例的一种主播端直播互动装置;
图7以框图的形式示意性地示出了根据本公开的一些示例性实施例的一种客户端直播互动装置;
图8以框图的形式示意性地示出了根据本公开的一些示例性实施例的一种服务端直播互动装置;
图9示意性地示出了根据本公开的一些示例性实施例的直播互动系统的架构;
图10以框图的形式示意性地示出了根据本公开的一些示例性实施例的一种直播互动系统;
图11以框图的形式示意性地示出了根据本公开的一些实施例的一种计算设备。
应理解的是,附图中显示的内容都仅仅是示意性的,因此,其不必按照比例进行绘制。此外,在全部附图中,相同、相似或者同类型的特征由相同或相似的附图标记指示。
具体实施方式
下面的描述提供了本公开的各示例性实施例的特定细节,以便本领域的技术人员能够充分理解和实施根据本公开的技术方案。
首先,对本公开的实施例中涉及的部分术语进行说明,以便于本领域技术人员理解:
直播:在现场随着事件的发生、发展进程同步制作和发布信息,具有双向流通过程的信息网络发布方式。
主播:也称实况主、播主、网络主播或者UP主,是指随着网络视频和直播平台的兴起,在网络上公开进行直播的人。在直播过程中,观众可以与主播即时互动(例如,通过弹幕、留言等等),并且主播也可以根据观众的反馈及时调整节目内容或者与观众互动。
虚拟主播:虚拟主播是指使用虚拟形象在直播平台上进行直播的主播。例如,在中国,虚拟主播通常被称为虚拟UP主、Virtual Uploader(VUP)等等,在中国以外的地区,虚拟主播由于普遍活跃于YouTube,因此也被称为Virtual YouTuber(VTuber)。
虚拟现实技术(即Virtual Reality,缩写为VR):也被称虚拟实境或灵境技术,其以计算机技术为基础,综合利用三维图形技术、多媒体技术、仿真技术、显示技术、伺服技术等,通过计算机等设备产生一个逼真的三维视觉、触觉、嗅觉等多种感官体验的虚拟世界,从而使处于该虚拟世界中的人产生一种身临其境的感觉。
动作捕捉:通过在运动物体的关键部位设置传感器,由动作捕捉系统捕捉传感器的位置,再经过计算机处理后得到三维空间坐标的数据,从而对运动物体的运动进行描述的技术。动作捕捉具有日益广泛的应用,例如,可以应用在动画制作、步态分析、生物力学、人机工程等领域。
参见图1,其示意性示出了可以应用根据本公开的一些示例性实施例提供的直播互动方法的示例性场景。如图1所示,场景100可以包括服务器110、主播终端设备120、第一客户终端设备130-1和第二客户终端设备130-2,其中,主播终端设备120、第一客户终端设备130-1和第二客户终端设备130-2能够经由网络120分别与服务器110通过有线或无线通信方式直接或间接地连接。因此,服务器110和各终端设备能够彼此协作,以便执行根据本公开的一些示例性实施例的直播互动方法来提供直播服务。
服务器110可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络、以及大数据和人工智能平台等基础云计算服务的云服务器。终端设备可以是任何合适的电子设备,例如,智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表等,但并不局限于此。在一些实施例中,终端设备可以是采用了VR技术的VR终端设备,例如,包括智能眼镜(如Google® GlassTM)的头戴式设备等。
主播终端设备120可以显示主播端的直播间界面,并在直播间界面中显示相关的虚拟形象;基于直播间界面,接收客户端的互动操作;响应于互动操作,控制虚拟形象执行与互动操作相对应的动作。第一客户终端设备130-1和第二客户终端设备130-2可以用于显示目标直播间的直播间界面,并在直播间界面中显示目标直播间关联的虚拟形象;基于直播间界面,接收到关于目标直播间的主播对象的互动操作;响应于互动操作,控制虚拟形象执行与互动操作相对应的动作。在本公开中,终端设备120、130-1和130-2可以通过运行计算机程序来协助实现本公开各示例性实施例提供的直播互动方法。计算机程序可以是操作系统中的原生程序或软件模块;可以是本地应用程序(APP,Application),即需要在操作系统中安装才能运行的程序;也可以是小程序,即只需要下载到浏览器环境中就可以运行的程序;还可以是能够嵌入至任意APP中的即时通讯小程序。总而言之,上述计算机程序可以是任意形式的应用程序、模块或插件,本公开对此不作任何限制。
网络140的示例可以包括局域网(LAN)、广域网(WAN)、个域网(PAN)、和/或诸如因特网之类的通信网络的任意组合。服务器110、以及主播终端设备120、第一客户终端设备130-1和第二客户终端设备130-2中的每一个可以包括能够通过网络140进行通信的至少一个通信接口(未示出)。作为非限制性示例,这样的通信接口可以是下列各项中的一个或多个:任何类型的网络接口(例如,网络接口卡(NIC))、有线或无线(诸如IEEE 802.11无线LAN(WLAN))无线接口、全球微波接入互操作(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、BluetoothTM接口、近场通信(NFC)接口等。
本公开的各示例性实施例还可以借助于云技术(Cloud Technology)实现,云技术是指在广域网或局域网内将硬件、软件、网络等系列资源统一起来,实现数据的计算、储存、处理和共享的一种托管技术。
云技术是基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术、以及应用技术等的总称,可以组成资源池,按需所用,灵活便利。云计算技术将变成重要支撑。技术网络系统的后台服务需要大量的计算、存储资源。
参见图2,其示意性示出了根据本公开的一些示例性实施例的直播间。如图2所示,直播间200中包括虚拟主播模型210、第一客户虚拟模型220-1和第二客户虚拟模型220-2。虚拟主播模型210通过从主播端获得的驱动数据来进行驱动,其中,驱动数据可以包括涉及主播的动作、表情等方面的驱动数据。第一客户虚拟模型220-1和第二客户虚拟模型220-2分别通过从对应的客户端获得的驱动数据进行驱动。直播间200既显示在主播端的显示界面中,也显示在相关的客户端的显示界面中。
参见图3,其以流程图的形式示意性地示出了根据本公开的一些示例性实施例的主播端直播互动方法。如图3所示,主播端直播互动方法300包括步骤310、320、330和340:
在步骤310,实时获取主播动作捕捉数据,其中,所述主播动作捕捉数据描述了主播正在进行的动作;
在步骤320,基于所述主播动作捕捉数据驱动所述主播端的虚拟主播模型;
在步骤330,生成主播端互动信息,其中,所述主播端互动信息包括所述主播动作捕捉数据;
在步骤340,将所述主播端互动信息发送给服务器,使所述服务器将所述主播端互动信息发送到客户端以驱动所述客户端的虚拟主播模型。
因为使用了动作捕捉设备来获取主播正在进行的动作和/或表情的动作捕捉数据,并且利用该动作捕捉数据来驱动虚拟主播模型,所以根据本公开的主播端直播互动方法能够驱动虚拟主播模型完整地表现肢体动作,并且能够呈现精细的表情。
在一些实施例中,主播端直播互动方法300的步骤310可以包括下述各项中的至少一个:从身体动作捕捉设备实时获取身体动作捕捉数据;从面部动作捕捉设备实时获取面部动作捕捉数据;以及,从手指动作捕捉设备实时获取手指动作捕捉数据。应理解的是,任何其他合适的动作捕捉数据也可以被应用在根据本公开的方法中,因此,本公开对动作捕捉数据的具体类型不作任何限制。
除主播动作捕捉数据之外,主播端互动信息还可以包括其他合适的信息。在一些实施例中,主播端可以收集主播所发出的音频和/或指令,并将其发送给客户端。因此,主播端直播互动方法300的步骤330可以包括下述步骤:接收主播端音频数据;使所述主播端互动信息还包括所述主播端音频数据。或者,主播端直播互动方法300的步骤330可以包括下述步骤:接收主播端指令信息;使所述主播端互动信息还包括所述主播端指令信息。以此方式,根据本公开的主播端直播互动方法能够提供更好的互动体验。
由于主播动作捕捉数据需要记录每一根骨骼的运动,因此当数据刷新频率较高时,例如数据刷新频率为90Hz时,数据量比较大。在一些实施例中,为了适应网络传输带宽,可以减小主播端互动信息中包括的主播动作捕捉数据的数据刷新频率,例如可以从90Hz减小到30Hz,以减小主播动作捕捉数据的数据量。客户端在接收到数据刷新频率减小的主播动作捕捉数据的情况下,可以在客户端以插值的方式补充两次刷新的数据之间减少的内容。由此,主播动作捕捉数据的数据量能够显著减小,使得对网络传输带宽的需求也能够显著减小,同时确保了对主播动作的完整描述。此外,主播动作捕捉数据还可以被优化处理,以进一步减小数据量。作为非限制性示例,主播动作捕捉数据的优化处理可以包括下述方面:对单个骨骼的信息进行优化,针对骨骼的缩放信息全部删除,针对不会移动的骨骼去除移动信息,等等。作为非限制性示例,针对虚拟主播模型,可以建立具体骨骼优化的查找表,用于针对不同骨骼信息进行不同的优化处理。
在一些实施例中,主播端直播互动方法300还可以包括:接收来自客户端的客户端互动信息,其中,所述客户端互动信息包括客户虚拟模型驱动信息;基于所述客户虚拟模型驱动信息驱动所述主播端的客户虚拟模型。客户虚拟模型驱动信息包括与客户虚拟模型相关的运动信息,因此,主播端在从所接收的客户端互动信息中解析出与客户虚拟模型的相关运动信息后,便可利用这些运动信息来驱动客户虚拟模型运动。在一些实施例中,客户端是VR客户端,客户会佩戴头盔和操纵手柄来进行操作和控制,因此,客户虚拟模型驱动信息包括VR客户端的头盔和手柄的运动数据,以便利用这些运动数据来驱动客户虚拟模型。为了减小对网络传输带宽的需求,VR客户端的手柄和头盔的运动数据的数据刷新频率可以被减小,以减小其数据量。在这种情形中,所述接收来自客户端的客户端互动信息还包括:响应于所述VR客户端的手柄和头盔的运动数据的数据刷新频率较小,对所述VR客户端的手柄和头盔的运动数据进行插值处理。作为非限制性示例,在解析到骨骼运动信息并将其设置到虚拟主播模型上以便表现主播的运动时,可以采用以下设置:当前骨骼的信息=目标骨骼信息×插值百分比+当前骨骼的信息(1-插值百分比)。因此,如果插值百分比越大,则骨骼的信息越接近目标骨骼信息,但是也就越卡顿,如果插值百分比越小,则骨骼信息越平滑,但是会越延迟。因此,可以根据实际情况的需要来调整插值百分比的大小,从而获得所需的效果。由此,需要传输的客户端互动信息的数据量能够显著减小,使得对网络传输带宽的需求也能够显著减小。
利用图3所示的主播端直播互动方法及其各示例性实施例的方法,基于主播动作捕捉数据来驱动虚拟主播模型,使虚拟主播模型能够完整地表现出肢体动作,并且能够呈现精细的表情,从而能够给客户提供更好的体验。
参见图4,其以流程图的形式示意性地示出了根据本公开的一些示例性实施例的客户端直播互动方法。如图4所示,客户端直播互动方法400包括步骤410、420、430、440和450:
在步骤410,接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;
在步骤420,基于所述主播动作捕捉数据驱动所述客户端的虚拟主播模型;
在步骤430,实时获取所述客户端的客户虚拟模型驱动信息;
在步骤440,生成客户端互动信息,其中,所述客户端互动信息包括所述客户虚拟模型驱动信息;
在步骤450,将所述客户端互动信息发送给服务器,使所述服务器将所述客户端互动信息发送到主播端和/或指定的客户端,以驱动所述主播端和/或所述指定的客户端的客户虚拟模型。
客户端在接收到主播端互动信息后,会对其进行解析以获得相应的主播动作捕捉数据(其包括例如虚拟主播模型的骨骼信息),以便对客户端的虚拟主播模型进行驱动。此外,主播端互动信息还可以包括相应的音频数据和/或指令信息,在这种情形中,所接收的音频数据被发送给客户端的相应的音频装置进行处理和播放,所接收的指令信息被发送给客户端的相应的控制装置进行处理。
在一些实施例中,主播端互动信息为了减小其数据量,需要减小其数据刷新频率,例如从90Hz减小到30Hz。在这种情形中,客户端在接收到主播端互动信息后,响应于所述主播端互动信息中包括的主播动作捕捉数据的数据刷新频率较小,可以对所述主播动作捕捉数据进行插值处理。作为非限制性示例,客户端在解析到骨骼运动信息并将其设置到虚拟主播模型上以便表现主播的运动时,可以采用以下设置:当前骨骼的信息=目标骨骼信息×插值百分比+当前骨骼的信息(1-插值百分比)。由此可见,如果插值百分比越大,则骨骼的信息越接近目标骨骼信息,但是也就越卡顿,如果插值百分比越小,则骨骼信息越平滑,但是会越延迟。因此,可以根据实际情况的需要来调整插值百分比的大小,从而获得所需的效果。类似地,在解析表情信息并将其设置到虚拟主播模型上以便表现主播的表情时,可以采用类似的平滑插值的方式进行设置。
在一些实施例中,客户端是VR客户端,客户会佩戴头盔和操纵手柄来进行控制。例如,头盔的运动数据可以用于设置整个身体和头部的位移和旋转,手柄的运动数据可以用于设置手部的位移和旋转。因此,客户虚拟模型驱动信息包括VR客户端的手柄和头盔的运动数据,以便利用这些运动数据来驱动客户虚拟模型。在这种情形中,所述实时获取所述客户端的客户虚拟模型驱动信息还包括:实时获取所述VR客户端的手柄和头盔的运动数据。为了减小对网络传输带宽的需求,VR客户端的手柄和头盔的运动数据可以被处理,以减小其数据量。在这种情形中,所述生成客户端互动信息还包括:减小所述VR客户端的手柄和头盔的运动数据的数据刷新频率。由此,客户端互动信息的数据量能够显著减小,使得对网络传输带宽的需求也能够显著减小。
对于客户端而言,除客户虚拟模型驱动信息之外,客户端互动信息还可以包括任何其他合适的信息。在一些实施例中,客户端可以收集客户端音频和/或指令信息,并将其发送给主播端。因此,客户端直播互动方法400的步骤440可以包括下述步骤:接收客户端音频数据;使所述客户端互动信息还包括所述客户端音频数据。或者,客户端直播互动方法400的步骤440可以包括下述步骤:接收客户端指令信息;使所述客户端互动信息还包括所述客户端指令信息。
在图4所示的客户端直播互动方法中,对客户端的虚拟主播模型的驱动同样是基于所接收的主播端互动信息中包括的主播动作捕捉数据来进行的,由此,使虚拟主播模型能够完整地表现出肢体动作,并且能够呈现精细的表情,从而能够给客户提供更好的体验。
参见图5,其以流程图的形式示意性地示出了根据本公开的一些示例性实施例的服务端直播互动方法。如图5所示,服务端直播互动方法500包括步骤510、520、530和540:
在步骤510,从主播端接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;
在步骤520,将所述主播端互动信息发送给至少一个客户端;
在步骤530,从所述至少一个客户端中的每一个接收客户端互动信息;
在步骤540,将所述客户端互动信息发送给所述主播端和/或指定的客户端。
服务端可以实现为服务器,其可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供各种云服务的云服务器。服务端接收从主播端传输进来的数据(即主播端互动信息),同时进行分发。作为非限制性示例,服务端可以查找目前所有在线的客户端ID,并且对所有在线的客户端ID进行主播端数据的发送。此外,服务端还接收来自客户端的数据(即,客户端互动信息),进行分析和广播发送,或者有选择性的发给需要的对象,例如,如果客户希望给主播发送一条私密信息,那么服务端会将该信息只发送给主播查看,其他的客户端则无法查看。
参见图6,其以框图的形式示意性地示出了根据本公开的一些示例性实施例的主播端直播互动装置的结构。如图6所示,主播端直播互动装置600包括:主播动作捕捉数据获取模块610、主播端虚拟主播模型驱动模块620、主播端互动信息生成模块630、主播端互动信息发送模块640、客户端互动信息接收模块650和主播端客户虚拟模型驱动模块660。主播动作捕捉数据获取模块610被配置成:实时获取主播动作捕捉数据,其中,所述主播动作捕捉数据描述了主播正在进行的动作。主播端虚拟主播模型驱动模块620被配置成:基于所述主播动作捕捉数据驱动所述主播端的虚拟主播模型。主播端互动信息生成模块630被配置成:生成主播端互动信息,其中,所述主播端互动信息包括所述主播动作捕捉数据。主播端互动信息发送模块640被配置成:将所述主播端互动信息发送给服务器。客户端互动信息接收模块650被配置成:接收来自客户端的客户端互动信息,其中,所述客户端互动信息包括客户虚拟模型驱动信息。主播端客户虚拟模型驱动模块660被配置成:基于所述客户虚拟模型驱动信息驱动所述主播端的客户虚拟模型。
参见图7,其以框图的形式示意性地示出了根据本公开的一些示例性实施例的客户端直播互动装置的结构。如图7所示,客户端直播互动装置700包括:主播端互动信息接收模块710、客户端虚拟主播模型驱动模块720、客户虚拟模型驱动信息获取模块730、客户端互动信息生成模块740和客户端互动信息发送模块750。主播端互动信息接收模块710被配置成:接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据。客户端虚拟主播模型驱动模块720被配置成:基于所述主播动作捕捉数据驱动所述客户端的虚拟主播模型。客户虚拟模型驱动信息获取模块730被配置成:实时获取所述客户端的客户虚拟模型驱动信息。客户端互动信息生成模块740被配置成:生成客户端互动信息,其中,所述客户端互动信息包括所述客户虚拟模型驱动信息。客户端互动信息发送模块750被配置成:将所述客户端互动信息发送给服务器。
参见图8,其以框图的形式示意性地示出了根据本公开的一些示例性实施例的服务端直播互动装置的结构。如图8所示,服务端直播互动装置800包括:主播端信息接收模块810、主播端信息发送模块820、客户端信息接收模块830和客户端信息发送模块840。主播端信息接收模块810被配置成:从主播端接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据。主播端信息发送模块820被配置成:将所述主播端互动信息发送给至少一个客户端。客户端信息接收模块830被配置成:从所述至少一个客户端中的每一个接收客户端互动信息。客户端信息发送模块840被配置成:将所述客户端互动信息发送给所述主播端和/或指定的客户端。
应理解的是,图6、图7、图8中示出的各个模块分别涉及上文中关于图3、图4、图5中描述的直播互动方法以及其各示例性实施例的方法中对应步骤的操作,因而在此不再赘述。此外,本公开中描述的各个模块均可以在硬件中或在结合软件和/或固件的硬件中实现。例如,这些模块可以被实现为计算机可执行代码/指令,该计算机可执行代码/指令被配置为在一个或多个处理器中执行并存储在计算机可读存储介质中。可替换地,这些模块可以被实现为硬件逻辑/电路。作为非限制性示例,这些模块中的一个或多个可以实现在片上系统(SoC)中。SoC可以包括集成电路芯片(其包括处理器(例如,中央处理单元(CPU)、微控制器、微处理器、数字信号处理器(DSP)等)、存储器、一个或多个通信接口、和/或其他电路中的一个或多个部件),并且可以可选地执行所接收的程序代码和/或包括嵌入式固件以执行功能。
参见图9,其示意性地示出了根据本公开的一些示例性实施例的直播互动系统的架构。如图9所示,该架构包括三个部分,即:主播端、客户端以及服务端。在主播端,通过搭建动作捕捉设备(例如,身体动作捕捉设备、面部动作捕捉设备以及手指动作捕捉设备),实时获取到主播动作捕捉数据,其数据刷新频率可以为例如90Hz。在获取到主播动作捕捉数据的情形中,一方面,主播端可以利用该数据驱动本地的虚拟主播模型运动,另一方面,主播端收集整理数据,以便作为主播端互动信息发送给服务端。在一些实施例中,主播动作捕捉数据的数据刷新频率可以被减小,主播动作捕捉数据的内容可以被优化,以减小数据量。此外,在图9中所示的架构中,主播端还收集主播的音频数据,并且将该音频数据也发送给服务端。主播端还可以接收从服务端发送来的客户头盔和手柄运动数据以及音频数据,从而可以根据客户头盔和手柄运动数据来驱动客户虚拟模型运动,以及播放接收到的音频数据。服务端接收来自主播端的数据,并将其广播发送给客户端,同时,服务端也接收来自客户端的数据,并将其发送给主播端和/或指定的客户端。该架构中包括三个客户端,每个客户端均具有相同的构成,图9中仅示出了客户端1的构成,但应理解的是,客户端2和客户端3可以具有相同的构成。以客户端1为例,客户端1从服务端接收主播端互动信息,并且基于其中包括的主播端动作捕捉数据来驱动客户端1处的虚拟主播模型。此外,客户端1还可以从服务端获取音频数据,并播放该音频。客户端1为VR客户端,因此,客户端1可以获取客户佩戴的头盔和手柄的运动数据,并将头盔和手柄的运动数据作为客户端互动信息发送给服务端,以便有服务端再发送给主播端和/或指定的客户端。客户端1还可以获取本地的音频数据,随后将该音频数据发送给服务端。此外,尽管图9中示出的架构中包括三个客户端,但应理解的是,更少或更多的客户端也是可能的。
参见图10,其以框图的形式示意性地示出了根据本公开的一些示例性实施例的一种直播互动系统。如图10所示,直播互动系统900包括主播端直播互动装置910、客户端直播互动装置920以及服务端直播互动装置930。主播端直播互动装置910可以被实现为如图6所示的主播端直播互动装置600,并且可用于执行如图3所示的主播端直播互动方法300及其各示例性实施例中描述的方法。客户端直播互动装置920可以被实现为如图7所示的客户端直播互动装置700,并且可用于执行如图4所示的客户端直播互动方法400及其各示例性实施例中描述的方法。服务端直播互动装置930可以被实现为如图8所示的客户端直播互动装置800,并且可用于执行如图5所示的服务端直播互动方法500及其各示例性实施例中描述的方法。
参见图11,其以框图的形式示意性地示出了根据本公开的一些实施例的一种计算设备。如图11所示,计算设备1000可以被用于本公开描述的各种应用场景,并且其可以实施本公开描述的各种直播互动方法。
计算设备1000可以包括能够诸如通过系统总线1014或其他适当的方式连接彼此通信的至少一个处理器1002、存储器1004、(多个)通信接口1006、显示设备1008、其他输入/输出(I/O)设备1010以及一个或多个大容量存储装置1012。
处理器1002可以是单个处理单元或多个处理单元,所有处理单元可以包括单个或多个计算单元或者多个核心。处理器1002可以被实施成一个或多个微处理器、微型计算机、微控制器、数字信号处理器、中央处理单元、状态机、逻辑电路和/或基于操作指令来操纵信号的任何设备。除了其他能力之外,处理器1002可以被配置成获取并且执行存储在存储器1004、大容量存储装置1012或者其他计算机可读存储介质中的计算机可读指令,诸如操作系统1016的程序代码、应用程序1018的程序代码、其他程序1020的程序代码等。
存储器1004和大容量存储设备1012是用于存储指令的计算机可读存储介质的示例,指令可以由处理器1002执行来实施前面所描述的各种功能。举例来说,存储器1004一般可以包括易失性存储器和非易失性存储器二者(例如RAM、ROM等等)。此外,大容量存储设备1012一般可以包括硬盘驱动器、固态驱动器、可移除介质、包括外部和可移除驱动器、存储器卡、闪存、软盘、光盘(例如CD、DVD)、存储阵列、网络附属存储、存储区域网等等。存储器1004和大容量存储设备1012在本文中都可以被统称为计算机可读存储器或计算机可读存储介质,并且可以是能够把计算机可读、处理器可执行程序指令存储为计算机可执行代码的非瞬时性介质,计算机可执行代码可以由处理器1002作为被配置成实施在本公开的各示例性实施例中所描述的操作和功能的特定机器来执行。
多个程序模块可以存储在大容量存储设备1012上。这些程序模块包括操作系统1016、一个或多个应用程序1018、其他程序1020和程序数据1022,并且它们可以被处理器1002执行。这样的应用程序或程序模块的示例可以包括例如用于实现以下部件/功能的计算机程序逻辑(例如,计算机可执行代码或指令),即:主播动作捕捉数据获取模块610、主播端虚拟主播模型驱动模块620、主播端互动信息生成模块630、主播端互动信息发送模块640、客户端互动信息接收模块650、主播端客户虚拟模型驱动模块660;主播端互动信息接收模块710、客户端虚拟主播模型驱动模块720、客户虚拟模型驱动信息获取模块730、客户端互动信息生成模块740、客户端互动信息发送模块750;主播端信息接收模块810、主播端信息发送模块820、客户端信息接收模块830和客户端信息发送模块840。
虽然在图11中被图示成存储在计算设备1000的存储器1004中,但是上述各个模块或者它们的一部分可以使用可由计算设备1000访问的任何形式的计算机可读存储介质来实施。如本文所使用的,“计算机可读存储介质”至少包括两种类型的计算机可读存储介质,也就是计算机存储介质和通信介质。计算机存储介质包括通过用于存储信息的任何方法或技术实施的易失性和非易失性、可移除和不可移除介质,信息诸如是计算机可读指令、数据结构、程序模块或者其他数据。计算机存储介质包括而不限于RAM、ROM、EEPROM、闪存或其他存储器技术,CD-ROM、数字通用盘(DVD)、或其他光学存储装置,磁盒、磁带、磁盘存储装置或其他磁性存储设备,或者可以被用来存储信息以供计算设备访问的任何其他非传送介质。与此相对,通信介质可以在诸如载波或其他传送机制之类的已调数据信号中具体实现计算机可读指令、数据结构、程序模块或其他数据。本公开所定义的计算机存储介质不包括通信介质。
计算设备1000还可以包括一个或更多通信接口1006,以用于诸如通过网络、直接连接等等与其他设备交换数据。通信接口1006可以促进在多种网络和协议类型内的通信,其中包括有线网络(例如LAN、电缆等等)和无线网络(例如WLAN、蜂窝、卫星等等)、因特网等等。通信接口1006还可以提供与诸如存储阵列、网络附属存储、存储区域网等等中的外部存储装置(未示出)的通信。
在一些示例中,计算设备1000还可以包括诸如显示器之类的显示设备1008,以用于显示信息和图像。其他I/O设备1010可以是接收来自目标对象的各种输入并且向目标对象提供各种输出的设备,包括但不限于触摸输入设备、手势输入设备、摄影机、键盘、遥控器、鼠标、打印机、音频输入/输出设备等等。
本公开还涉及一种计算机可读存储介质,其被配置成存储计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据本公开各示例性实施例所述的主播端直播互动方法,或者使所述处理器执行根据本公开各示例性实施例所述的客户端直播互动方法,或者使所述处理器执行根据本公开各示例性实施例所述的服务器端直播互动方法。应理解的是,计算机可读存储介质应当是任何合适的存储介质,包括而不限于RAM、ROM、EEPROM、闪存或其他存储器技术,CD-ROM、数字通用盘(DVD)、或其他光学存储装置,磁盒、磁带、磁盘存储装置或其他磁性存储设备,或者可以被用来存储信息以供计算设备访问的任何其他非传送介质。本公开对于计算机可读存储介质不作限制。
此外,本公开还涉及一种计算机程序产品,其包括计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据本公开各示例性实施例所述的主播端直播互动方法,或者使所述处理器执行根据本公开各示例性实施例所述的客户端直播互动方法,或者使所述处理器执行根据本公开各示例性实施例所述的服务器端直播互动方法。
本公开中使用的术语仅用于描述本公开中的实施例,并不意图限制本公开。如本文中使用的,单数形式“一个”、“一”和“该”旨在也包括复数形式,除非上下文清楚地另有指示。还要理解的是,术语“包括”和“包含”当在本公开中使用时,是指所述及的特征的存在,但不排除一,个或多个其他特征的存在或者添加一个或多个其他特征。如本文中使用的,术语“和/或”包括相关联的列出项目中的一个或多个的任意和全部组合。将理解的是,尽管术语“第一”、“第二”、“第三”等在本文中可以用来描述各种特征,但是这些特征不应当由这些术语限制。这些术语仅用来将一个特征与另一个特征相区分。
除非另有定义,本公开中使用的所有术语(包括技术术语和科学术语)具有与本公开所属领域的普通技术人员所通常理解的相同含义。还要理解的是,诸如那些在通常使用的字典中定义的之类的术语应当被解释为具有与其在相关领域和/或本说明书上下文中的含义相一致的含义,并且将不在理想化或过于正式的意义上进行解释,除非本公开中明确地如此定义。
在本说明书的描述中,术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点被包含于本公开的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下以及不违背技术原理的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合,或者可以从本说明书中描述的不同实施例或示例中省略一些技术特征,并且基于这样的结合、组合或省略而得到的实施例或示例也被认为落在本公开的范围内。
本公开所描述的方法包括一个或多个步骤或动作。这些方法步骤和/或动作并不必须按照本公开描述的顺序来执行,而是可以按照不同的顺序来执行,例如它们可以同时被执行或者以相反的顺序来执行,只要不与本公开描述的技术方案的原理矛盾便可。此外,根据实际需要,本公开所描述的方法中的步骤或动作可以被替换成不同的步骤或动作,或者还可以包括附加的步骤或动作。
本公开所描述的各种描述性逻辑框、模块、以及电路是能够以本领域已知的任何合适的技术来实现的硬件电路,例如但不限于,具有合适的组合逻辑门电路的专用集成电路、可编程门阵列、现场可编程门阵列等等。本公开对此不作任何限制。
尽管已经结合一些示例性实施例详细地描述了本公开,但是其并不局限于在本文中所描述的特定形式。相反,本公开的范围仅由所附权利要求限定。
Claims (20)
1.一种主播端直播互动方法,其包括:
实时获取主播动作捕捉数据,其中,所述主播动作捕捉数据描述了主播正在进行的动作;
基于所述主播动作捕捉数据驱动所述主播端的虚拟主播模型;
生成主播端互动信息,其中,所述主播端互动信息包括所述主播动作捕捉数据;
将所述主播端互动信息发送给服务器,使所述服务器将所述主播端互动信息发送到客户端以驱动所述客户端的虚拟主播模型。
2.根据权利要求1所述的主播端直播互动方法,其中,所述实时获取主播动作捕捉数据包括下述各项中的至少一个:
从身体动作捕捉设备实时获取身体动作捕捉数据;
从面部动作捕捉设备实时获取面部动作捕捉数据;
从手指动作捕捉设备实时获取手指动作捕捉数据。
3.根据权利要求1所述的主播端直播互动方法,其中,所述生成主播端互动信息还包括:
接收主播端音频数据;
使所述主播端互动信息还包括所述主播端音频数据。
4.根据权利要求1所述的主播端直播互动方法,其中,所述生成主播端互动信息还包括:
接收主播端指令信息;
使所述主播端互动信息还包括所述主播端指令信息。
5.根据权利要求1所述的主播端直播互动方法,其中,所述生成主播端互动信息还包括:
减小所述主播端互动信息中包括的主播动作捕捉数据的数据刷新频率,以减小所述主播动作捕捉数据的数据量。
6.根据权利要求1所述的主播端直播互动方法,还包括:
接收来自客户端的客户端互动信息,其中,所述客户端互动信息包括客户虚拟模型驱动信息;
基于所述客户虚拟模型驱动信息驱动所述主播端的客户虚拟模型。
7.根据权利要求6所述的主播端直播互动方法,其中,所述客户端是VR客户端,并且其中,所述客户虚拟模型驱动信息包括所述VR客户端的手柄和头盔的运动数据;
所述接收来自客户端的客户端互动信息还包括:响应于所述VR客户端的手柄和头盔的运动数据的数据刷新频率较小,对所述VR客户端的手柄和头盔的运动数据进行插值处理。
8.一种客户端直播互动方法,其包括:
接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;
基于所述主播动作捕捉数据驱动所述客户端的虚拟主播模型;
实时获取所述客户端的客户虚拟模型驱动信息;
生成客户端互动信息,其中,所述客户端互动信息包括所述客户虚拟模型驱动信息;
将所述客户端互动信息发送给服务器,使所述服务器将所述客户端互动信息发送到主播端和/或指定的客户端,以驱动所述主播端和/或所述指定的客户端的客户虚拟模型。
9.根据权利要求8所述的客户端直播互动方法,其中,所述接收主播端互动信息还包括:响应于所述主播端互动信息中包括的主播动作捕捉数据的数据刷新频率较小,对所述主播动作捕捉数据进行插值处理。
10.根据权利要求8所述的客户端直播互动方法,其中,所述生成客户端互动信息还包括:
接收客户端音频数据;
使所述客户端互动信息还包括所述客户端音频数据。
11.根据权利要求8所述的客户端直播互动方法,其中,所述生成客户端互动信息还包括:
接收客户端指令信息;
使所述客户端互动信息还包括所述客户端指令信息。
12.根据权利要求8所述的客户端直播互动方法,其中,所述客户端是VR客户端,并且其中,所述客户虚拟模型驱动信息包括所述VR客户端的手柄和头盔的运动数据;
所述实时获取所述客户端的客户虚拟模型驱动信息还包括:实时获取所述VR客户端的手柄和头盔的运动数据;
所述生成客户端互动信息还包括:减小所述VR客户端的手柄和头盔的运动数据的数据刷新频率。
13.一种服务端直播互动方法,其包括:
从主播端接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;
将所述主播端互动信息发送给至少一个客户端;
从所述至少一个客户端中的每一个接收客户端互动信息;
将所述客户端互动信息发送给所述主播端和/或指定的客户端。
14.一种主播端直播互动装置,其包括:
主播动作捕捉数据获取模块,其被配置成:实时获取主播动作捕捉数据,其中,所述主播动作捕捉数据描述了主播正在进行的动作;
主播端虚拟主播模型驱动模块,其被配置成:基于所述主播动作捕捉数据驱动所述主播端的虚拟主播模型;
主播端互动信息生成模块,其被配置成:生成主播端互动信息,其中,所述主播端互动信息包括所述主播动作捕捉数据;
主播端互动信息发送模块,其被配置成:将所述主播端互动信息发送给服务器;
客户端互动信息接收模块,其被配置成:接收来自客户端的客户端互动信息,其中,所述客户端互动信息包括客户虚拟模型驱动信息;
主播端客户虚拟模型驱动模块,其被配置成:基于所述客户虚拟模型驱动信息驱动所述主播端的客户虚拟模型。
15.一种客户端直播互动装置,其包括:
主播端互动信息接收模块,其被配置成:接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;
客户端虚拟主播模型驱动模块,其被配置成:基于所述主播动作捕捉数据驱动所述客户端的虚拟主播模型;
客户虚拟模型驱动信息获取模块,其被配置成:实时获取所述客户端的客户虚拟模型驱动信息;
客户端互动信息生成模块,其被配置成:生成客户端互动信息,其中,所述客户端互动信息包括所述客户虚拟模型驱动信息;
客户端互动信息发送模块,其被配置成:将所述客户端互动信息发送给服务器。
16.一种服务器端直播互动装置,其包括:
主播端信息接收模块,其被配置成:从主播端接收主播端互动信息,其中,所述主播端互动信息包括描述了主播正在进行的动作的主播动作捕捉数据;
主播端信息发送模块,其被配置成:将所述主播端互动信息发送给至少一个客户端;
客户端信息接收模块,其被配置成:从所述至少一个客户端中的每一个接收客户端互动信息;
客户端信息发送模块,其被配置成:将所述客户端互动信息发送给所述主播端和/或指定的客户端。
17.一种直播互动系统,其包括:
根据权利要求14所述的主播端直播互动装置;
根据权利要求15所述的客户端直播互动装置;
根据权利要求16所述的服务器端直播互动装置。
18.一种计算设备,包括处理器和存储器,所述存储器被配置成存储计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据权利要求1至7中任一项所述的主播端直播互动方法,或者使所述处理器执行根据权利要求8至12中任一项所述的客户端直播互动方法,或者使所述处理器执行根据权利要求13所述的服务器端直播互动方法。
19.一种计算机可读存储介质,其被配置成存储计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据权利要求1至7中任一项所述的主播端直播互动方法,或者使所述处理器执行根据权利要求8至12中任一项所述的客户端直播互动方法,或者使所述处理器执行根据权利要求13所述的服务器端直播互动方法。
20.一种计算机程序产品,其包括计算机可执行指令,所述计算机可执行指令被配置成当在处理器上执行时,使所述处理器执行根据权利要求1至7中任一项所述的主播端直播互动方法,或者使所述处理器执行根据权利要求8至12中任一项所述的客户端直播互动方法,或者使所述处理器执行根据权利要求13所述的服务器端直播互动方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211638059.4A CN116489414A (zh) | 2022-12-20 | 2022-12-20 | 直播互动方法、装置、系统、计算设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211638059.4A CN116489414A (zh) | 2022-12-20 | 2022-12-20 | 直播互动方法、装置、系统、计算设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116489414A true CN116489414A (zh) | 2023-07-25 |
Family
ID=87210752
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211638059.4A Pending CN116489414A (zh) | 2022-12-20 | 2022-12-20 | 直播互动方法、装置、系统、计算设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116489414A (zh) |
-
2022
- 2022-12-20 CN CN202211638059.4A patent/CN116489414A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7072677B2 (ja) | 仮想シーンのシーン画像を送信するための方法及び装置、コンピュータデバイス並びにコンピュータ読み取り可能記憶媒体 | |
JP6310073B2 (ja) | 描画システム、制御方法、及び記憶媒体 | |
US10771565B2 (en) | Sending application input commands over a network | |
Cai et al. | Toward gaming as a service | |
US9965253B2 (en) | Methods and systems for generation and execution of miniapp of computer application served by cloud computing system | |
EP3180911B1 (en) | Immersive video | |
EP3760287A1 (en) | Method and device for generating video frames | |
US9707485B2 (en) | Systems and methods for cloud processing and overlaying of content on streaming video frames of remotely processed applications | |
JP2023089076A (ja) | コンピューティングシステム及び方法 | |
EP2919874B1 (en) | Systems and methods for cloud processing and overlaying of content on streaming video frames of remotely processed applications | |
EP2750032B1 (en) | Methods and systems for generation and execution of miniapp of computer application served by cloud computing system | |
CN113209632B (zh) | 一种云游戏的处理方法、装置、设备及存储介质 | |
AU2011317052A1 (en) | Composite video streaming using stateless compression | |
US20100283795A1 (en) | Non-real-time enhanced image snapshot in a virtual world system | |
CN113079216B (zh) | 一种云应用的实现方法、装置、电子设备及可读存储介质 | |
Shen et al. | Toward immersive communications in 6G | |
CN111298427A (zh) | 一种在虚拟现实云游戏系统中降低画面抖动的方法 | |
US9948691B2 (en) | Reducing input processing latency for remotely executed applications | |
CN115151319A (zh) | 呈现预先录制的游戏进行视频用于游戏内玩家辅助 | |
CN114816052A (zh) | 一种元宇宙系统中显示设备的人机交互装置及其方法 | |
CN115220906A (zh) | 音频/视频合成应用的云执行 | |
US8478855B1 (en) | Application control translation | |
CN116489414A (zh) | 直播互动方法、装置、系统、计算设备及存储介质 | |
Kao et al. | A cloud-based framework to enhance augmented reality | |
Figueroa et al. | An Architecture for Full Body Collaborative VR Applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40091424 Country of ref document: HK |