CN115442658A - 直播方法、装置、存储介质、电子设备及产品 - Google Patents
直播方法、装置、存储介质、电子设备及产品 Download PDFInfo
- Publication number
- CN115442658A CN115442658A CN202210934650.8A CN202210934650A CN115442658A CN 115442658 A CN115442658 A CN 115442658A CN 202210934650 A CN202210934650 A CN 202210934650A CN 115442658 A CN115442658 A CN 115442658A
- Authority
- CN
- China
- Prior art keywords
- dimensional
- live broadcast
- content
- live
- picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 92
- 230000002452 interceptive effect Effects 0.000 claims description 121
- 230000003993 interaction Effects 0.000 claims description 65
- 230000006399 behavior Effects 0.000 claims description 41
- 230000009466 transformation Effects 0.000 claims description 36
- 230000008859 change Effects 0.000 claims description 30
- 230000009471 action Effects 0.000 claims description 27
- 230000004044 response Effects 0.000 claims description 24
- 238000004458 analytical method Methods 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 19
- 230000001960 triggered effect Effects 0.000 claims description 15
- 238000001514 detection method Methods 0.000 claims description 10
- 238000012790 confirmation Methods 0.000 claims description 8
- 230000000694 effects Effects 0.000 abstract description 33
- 238000005070 sampling Methods 0.000 description 57
- 238000010586 diagram Methods 0.000 description 22
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 238000003062 neural network model Methods 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 11
- 238000003384 imaging method Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000005266 casting Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000003321 amplification Effects 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 239000002245 particle Substances 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 238000007654 immersion Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Processing Or Creating Images (AREA)
Abstract
本申请公开了一种直播方法、装置、存储介质、电子设备及产品,涉及互联网技术领域,该方法包括:获取体积视频,所述体积视频用于展示三维直播对象的直播行为;获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。本申请可以有效提升虚拟直播效果。
Description
技术领域
本申请涉及互联网技术领域,具体涉及一种直播方法、装置、存储介质、电子设备及产品。
背景技术
直播发展成为当前互联网中重要的一环,一些场景下存在虚拟直播的需求。当前,一些相关技术中,将关于直播对象的二维平面视频叠加在三维虚拟场景生成形成伪3D内容源进行虚拟直播,这些方式下,用户仅能观看关于直播内容的二维直播画面,直播效果较差;还有一些相关技术中,制作关于直播对象的3D模型,需要针对3D模型制作动作数据等通过复杂的叠加手段叠加至三维虚拟场景来形成3D内容源,这些方式下,内容源对于直播内容通常表现效果很差,直播画面中动作行为等显得特别机械。
因此,目前的虚拟直播手段下,均存在虚拟直播效果较差的问题。
发明内容
本申请实施例提供一种直播方法及相关装置,可以有效提升虚拟直播效果。
本申请实施例提供以下技术方案:
根据本申请的一个实施例,一种直播方法,该方法包括:获取体积视频,所述体积视频用于展示三维直播对象的直播行为;获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
根据本申请的一个实施例,一种直播装置,其包括:视频获取模块,用于获取体积视频,所述体积视频用于展示三维直播对象的直播行为;场景获取模块,用于获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;组合模块,用于将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;直播模块,用于基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
在本申请的一些实施例中,所述直播模块,包括:播放单元,用于播放所述三维直播内容;录制单元,用于在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述三维直播内容中搭建有虚拟相机轨道,所述录制单元,用于:跟随所述虚拟相机轨道在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述录制单元,用于:跟随陀螺仪在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述录制单元,用于:根据直播平台中直播客户端发送的观看角度变化操作,在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述三维直播内容中包括预定三维内容及至少一种虚拟交互内容;所述播放单元,用于:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播平台中的交互触发信号,相对于所述预定三维内容播放所述交互触发信号对应的虚拟交互内容。
在本申请的一些实施例中,所述三维直播内容中包括预定三维内容;所述三维直播画面在所述直播平台中的直播间播放;所述播放单元,用于:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播间中加入用户,相对于所述预定三维内容在预定位置展示所述用户的虚拟形象。
在本申请的一些实施例中,所述装置还包括调整单元,用于:响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放。
在本申请的一些实施例中,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;所述调整单元,用于:响应于接收到所述直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整。
在本申请的一些实施例中,所述三维直播画面在所述直播平台中的直播间播放;所述装置还包括信号确定单元,用于:获取所述直播间中的交互信息;对所述交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中一种。
在本申请的一些实施例中,所述组合模块,包括第一组合单元,用于:根据对所述体积视频与所述三维虚拟场景的组合调整操作,将所述体积视频与所述三维虚拟场景进行调整;响应于组合确认操作,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
在本申请的一些实施例中,所述组合模块,包括第二组合单元,用于:获取所述体积视频的体积视频描述参数;获取所述三维虚拟场景的虚拟场景描述参数;对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数;根据所述内容组合参数将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
在本申请的一些实施例中,所述第二组合单元,用于:获取直播平台中用户所使用终端的终端参数以及用户描述参数;对所述体积视频描述参数、所述虚拟场景描述参数、所述终端参数以及所述用户描述参数进行联合分析处理,得到至少一种所述内容组合参数。
在本申请的一些实施例中,所述三维直播内容为至少一个,不同的所述三维直播内容用于生成向不同类别的用户推荐的三维直播画面。
根据本申请的一个实施例,一种直播方法,包括:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据前述任一项实施例所述的直播方法所生成的。
根据本申请的一个实施例,一种直播装置,包括直播间展示模块,用于:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据前述任一项实施例所述的直播方法所生成的。
在本申请的一些实施例中,所述直播间展示模块,用于:显示直播客户端界面,所述直播客户端界面中展示至少一个直播间;响应于针对所述至少一个直播间中目标直播间的直播间开启操作,展示所述目标直播间的直播间界面。
在本申请的一些实施例中,所述直播间展示模块,用于:响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面,所述初始三维直播画面为对所述三维直播内容中播放的预定三维内容进行视频画面录制所得到的;响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示交互三维直播画面,所述交互三维直播画面为对播放的所述预定三维内容以及所述交互内容触发操作触发的虚拟交互内容进行视频画面录制所得到的,所述虚拟交互内容属于所述三维直播内容。
在本申请的一些实施例中,所述直播间展示模块,用于:响应于所述直播间界面对应的直播间加入用户,所述直播间界面中展示后续三维直播画面,所述后续三维直播画面为对播放的所述预定三维内容以及所述直播间加入用户的虚拟形象进行视频画面录制所得到的。
在本申请的一些实施例中,所述直播间展示模块,用于:响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示变换三维直播画面,所述变换三维直播画面为对所述交互内容触发操作触发的调整播放的所述预定三维内容进行视频画面录制所得到的。
在本申请的一些实施例中,所述装置还包括投票模块,用于:响应于针对所述直播间界面的投票操作,向目标设备发送投票信息,其中,所述目标设备根据所述投票信息决定所述直播间界面对应直播间的直播内容走向。
根据本申请的另一实施例,一种计算机可读存储介质,其上存储有计算机程序,当所述计算机程序被计算机的处理器执行时,使计算机执行本申请实施例所述的方法。
根据本申请的另一实施例,一种电子设备,包括:存储器,存储有计算机程序;处理器,读取存储器存储的计算机程序,以执行本申请实施例所述的方法。
根据本申请的另一实施例,一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行本申请实施例所述的各种可选实现方式中提供的方法。
本申请实施例中,提供一种直播方法,获取体积视频,所述体积视频用于展示三维直播对象的直播行为;获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
以这种方式,通过获取用于展示三维直播对象的直播行为体积视频,由于体积视频直接优秀的通过三维动态模型序列形式表现直播行为,体积视频可以直接便捷地与三维虚拟场景组合得到三维直播内容作为3D内容源,该3D内容源可以极为优秀的表现包含直播行为及三维场景内容的直播内容,生成的三维直播画面中动作行为等直播内容自然度高且可以从多角度展示直播内容,进而,可以有效提升虚拟直播效果。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出了一种可以应用本申请实施例的系统的示意图。
图2示出了根据本申请的一个实施例的直播方法的流程图。
图3示出了一种场景下根据本申请的实施例进行虚拟演唱会的直播的流程图。
图4示出了一种直播客户端的直播客户端界面的示意图。
图5示出了一种终端中打开的直播间界面的示意图。
图6示出了直播间界面播放的一个三维直播画面的示意图。
图7示出了直播间界面播放的另一个三维直播画面的示意图。
图8示出了直播间界面播放的另一个三维直播画面的示意图。
图9示出了直播间界面播放的另一个三维直播画面的示意图。
图10示出了直播间界面播放的另一个三维直播画面的示意图。
图11示出了直播间界面播放的另一个三维直播画面的示意图。
图12示出了直播间界面播放的另一个三维直播画面的示意图。
图13示出了直播间界面播放的另一个三维直播画面的示意图。
图14示出了直播间界面播放的另一个三维直播画面的示意图。
图15示出了直播间界面播放的另一个三维直播画面的示意图。
图16示出了直播间界面播放的另一个三维直播画面的示意图。
图17示出了直播间界面播放的另一个三维直播画面的示意图。
图18示出了根据本申请的一个实施例的直播装置的框图。
图19示出了根据本申请的一个实施例的电子设备的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
图1示出了可以应用本申请实施例的系统100的示意图。如图1所示,系统100可以包括设备101、服务器102、服务器103及终端104。
设备101可以是服务器或计算机等具有数据处理功能的设备。
服务器102及服务器103可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN、以及大数据和人工智能平台等基础云计算服务的云服务器。
终端104可以是任意的终端设备,终端104包括但不限于手机、电脑、智能语音交互设备、智能家电、车载终端、VR/AR设备、智能手表以及计算机等等。
本示例的一种实施方式中,设备101为内容提供商的计算机,服务器103为直播平台的平台服务器,终端104为安装直播客户端的终端,服务器102为连接设备101及服务器103的信息中转服务器,其中,设备101与服务器103也可以直接通过预设接口通讯连接。
其中,设备101可以:获取体积视频,所述体积视频用于展示三维直播对象的直播行为;获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
其中,三维直播画面可以是设备101通过预设接口传输至服务器103的,或者,设备101通过服务器102中转至服务器103的。进一步的,服务器103可以将三维直播画面传输至终端104中的直播客户端。
进而,终端104中可以:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据本申请任一项实施例所述的直播方法所生成的。
图2示意性示出了根据本申请的一个实施例的直播方法的流程图。该直播方法的执行主体可以是任意的设备,例如服务器或终端等,一种方式中,该执行主体为如图1所示的设备101。
如图2所示,该直播方法可以包括步骤S210至步骤S240。
步骤S210,获取体积视频,所述体积视频用于展示三维直播对象的直播行为;
步骤S220,获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;
步骤S230,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;
步骤S240,基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
体积视频即一种用于展示三维直播对象的直播行为的三维动态模型序列,体积视频可以从预定位置获取,例如设备从本地内存中获取或者其他设备中获取。三维直播对象即真实直播对象(例如人、动物或机械等对象)对应三维虚拟对象,直播行为例如跳舞等行为。预先针对进行直播行为的真实直播对象拍摄采集颜色信息、材质信息、深度信息等数据,基于现有的体积视频生成算法即可生成用于展示三维直播对象的直播行为的体积视频。
三维虚拟场景用于展示三维场景内容,三维场景内容可以包括三维的虚拟场景(例如舞台等场景)及虚拟交互内容(例如3D特效),三维虚拟场景可以从预定位置获取,例如设备从本地内存中获取或者其他设备中获取。事先,通过3D软件或程序可以制作三维虚拟场景。
将体积视频与三维虚拟场景可以在虚拟引擎(例如UE4、UE5、Unity 3D等)中直接组合,即可得到包含直播行为及三维场景内容的三维直播内容;基于三维直播内容可以进行三维空间中任意观看角度的视频画面连续录制,进而生成由连续切换观看角度的连续视频画面组成的三维直播画面,该三维直播画面可以实时投放在直播平台进行播放,进而实现三维虚拟直播。
以这种方式,基于步骤S210至步骤S240,通过获取用于展示三维直播对象的直播行为体积视频,由于体积视频直接优秀的通过三维动态模型序列形式表现直播行为,体积视频可以直接便捷地与三维虚拟场景组合得到三维直播内容作为3D内容源,该3D内容源可以极为优秀的表现包含直播行为及三维场景内容的直播内容,生成的三维直播画面中动作行为等直播内容自然度高且可以从多角度展示直播内容,进而,可以有效提升虚拟直播效果。
下面描述图2实施例中进行直播时,所进行的各步骤的进一步可选地其他实施例。
一种实施例中,步骤S240中,基于三维直播内容生成三维直播画面,包括:播放所述三维直播内容;在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在设备中播放三维直播内容,三维直播内容即可对三维直播对象的直播行为及三维场景内容进行动态展现,通过虚拟相机在三维空间中按照目标角度变换,对播放的三维直播内容进行连续地视频画面录制,即可得到三维直播画面。
一种实施例中,三维直播内容中搭建有虚拟相机轨道;在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:跟随虚拟相机轨道在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
制作好三维直播内容后,在三维直播内容可以搭建虚拟相机轨道,将虚拟相机跟随虚拟相机轨道移动,进而可以在三维空间中进行录制角度变换,对三维直播内容进行视频画面录制,得到三维直播画面,实现用户跟随虚拟相机轨道的多角度直播观看。
一种实施例中,在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:跟随设备中陀螺仪在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。可以实现基于陀螺仪的360度直播观看。
一种实施例中,在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:根据直播平台中直播客户端发送的观看角度变化操作,在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
用户可以在直播间中观看直播时,通过转动观看设备或在屏幕中移动观看视角等方式实现观看角度变化操作,直播平台外的设备根据观看角度变化操作,在三维空间中进行录制角度变换,对三维直播内容进行视频画面录制,可以得到不同用户对应的三维直播画面。
一种实施例中,所述三维直播内容中包括预定三维内容及至少一种虚拟交互内容;所述播放所述三维直播内容,包括:
播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播平台中的交互触发信号,相对于所述预定三维内容播放所述交互触发信号对应的虚拟交互内容。
预定三维内容可以是预定的部分常规播放的内容,预定三维内容中可以包括体积视频中部分或全部内容以及包括三维虚拟场景中部分三维场景内容。在以图1中设备101为例的设备中,将预定三维内容进行播放并进行视频画面录制,生成三维直播画面投放到直播平台中直播间,用户可以在以图1中终端104为例的终端中,通过直播间对应的直播间界面观看到预定三维内容对应的初始三维直播画面。可以理解,由于录制角度变换,初始三维直播画面中的连续视频画面内可能会展现预定三维内容的全部或部分,且从三维空间中不同角度进行展现。
三维虚拟场景中还包括至少一种虚拟交互内容,至少一种虚拟交互内容在触发时进行播放。用户在直播客户端中的直播间内可以通过相关交互内容触发操作(例如送礼物等操作)触发“交互触发信号”,当以图1中设备101为例的设备中检测到直播平台中的交互触发信号,从至少一种虚拟交互内容中确定交互触发信号对应的虚拟交互内容,然后,相对于预定三维内容在预定位置可以播放交互触发信号对应的虚拟交互内容,其中,不同的交互触发信号可以对应不同的虚拟交互内容,虚拟交互内容可以是3D特效,例如,3D烟花或3D弹幕或3D礼物等特效。
依此,播放的三维直播内容至少可以包括预定三维内容和虚拟交互内容,针对播放的三维直播内容进行视频画面录制,生成三维直播画面投放到直播平台,用户可以在直播间观看到预定三维内容和虚拟交互内容对应的交互三维直播画面。可以理解,由于录制角度变换,交互三维直播画面中的连续视频画面内可能会展现预定三维内容和虚拟交互内容的全部或部分,且从三维空间中不同角度进行展现。
其中,虚拟交互内容的制作手段可以是传统的CG特效的制作方法,例如,可以使用平面软件制作特效贴图,可以使用特效软件(例如AE、CB、PI等)制作特效序列图,可以使用三维软件(例如3DMAX、MAYA、XSI、LW等)制作特性模型,可以使用游戏引擎(例如UE4、UE5、Unity等)在引擎中通过程序代码实现需要的特效视觉效果。
这样可以通过用户交互实现深度3D虚拟深度交互直播,进一步提升虚拟直播体验。
一种实施例中,所述三维直播内容中包括预定三维内容;所述三维直播画面在所述直播平台中的直播间播放;所述播放所述三维直播内容,包括:
播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播间中加入用户,相对于所述预定三维内容在预定位置展示所述用户的虚拟形象。
预定三维内容可以是预定的部分常规播放的内容,预定三维内容中可以包括体积视频中部分或全部内容以及包括三维虚拟场景中部分三维场景内容。在以图1中设备101为例的设备中,将预定三维内容进行播放并进行视频画面录制,生成三维直播画面投放到直播平台;用户可以以图1中终端104为例的终端中,在直播间的直播间界面观看到预定三维内容对应的初始三维直播画面。
用户进入直播间中后,以图1中设备101为例的设备中针对用户,相对于预定三维内容在预定位置展示用户专属的虚拟形象,该三维的虚拟形象形成三维直播内容的一部分,进一步提升虚拟直播体验。依此,播放的三维直播内容至少可以包括预定三维内容和用户的虚拟形象,以图1中设备101为例的设备中,针对播放的三维直播内容进行视频画面录制,生成三维直播画面投放到直播平台;用户可以在以图1中终端104为例的终端中,在直播间的直播间界面观看到预定三维内容和用户的虚拟形象对应的后续三维直播画面。可以理解,由于录制角度变换,后续三维直播画面中的连续视频画面内可能会展现预定三维内容和直播间内用户的虚拟形象的全部或部分,且从三维空间中不同角度进行展现。
进一步的,一些实施例中,以图1中设备101为例的设备中,可以通过直播平台提供的接口获取用户在直播间的互动信息(如送礼物或点赞或交流区的交流信息等),对互动信息可以进行分类得到用户的互动类型,不同的互动类型对应不同的积分,最终直播间所有用户的积分统计后进行排名,排名前预定名称的用户会获得特殊的虚拟形象(例如带有金闪闪效果的虚拟形象)。
进一步的,一些实施例中,用户进入直播间后,以图1中设备101为例的设备中,可以采集用户的用户ID或名称等标识信息,并将标识信息展现在虚拟形象相对的预定位置。例如,生成一个对应专属的虚拟形象的用户ID顶在虚拟形象的头顶位置上。
一种实施例中,在所述播放所述三维直播内容中的所述预定三维内容之后,所述方法还包括:响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放。
用户在以图1中终端104为例的终端中,在直播客户端中可以通过相关交互内容触发操作(例如送礼物等操作)触发内容调整信号,当以图1中设备101为例的设备中,检测到直播平台中的内容调整信号,对预定三维内容进行调整播放,例如,可以将虚拟的三维直播对象或虚拟的直播场景内容中的信号对应内容进行放大、缩小或时大时小变换等动态调整,进一步提升虚拟直播体验。
依此,播放的三维内容包括调整播放的预定三维内容,以图1中设备101为例的设备中,针对播放的三维内容进行视频画面录制,生成三维直播画面投放到直播平台;用户可以在以图1中终端104为例的终端中,在直播间的直播间界面观看到调整播放的预定三维内容对应的变换三维直播画面。可以理解,由于录制角度变换,变换三维直播画面中的连续视频画面内可能会展现调整播放的预定三维内容的全部或部分,且从三维空间中不同角度进行展现。
一种实施例中,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;所述响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放,包括:响应于接检测所述直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整。以图1中设备101为例的设备中,若检测到对象调整信号,则将播放虚拟直播对象进行动态的调整播放(进行放大后播放、缩小后播放、时大时小变换的播放或或是粒子特效化播放等动态调整)并进行视频画面录制,进而,直播间中的变换三维直播画面中的连续视频画面内,如果录制到虚拟直播对象则可以看到调整播放的虚拟直播对象,进一步提升虚拟直播体验。
一种实施例中,三维直播画面在所述直播平台中的直播间播放;在所述播放所述三维直播内容中的所述预定三维内容之后,所述方法还包括:获取所述直播间中的交互信息;对交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中至少一种。
直播间中的交互信息例如直播客户端中相关交互内容触发操作所产生的送礼物或点赞或交流区的交流信息等,直播间内容交互信息通常是多样的,通过对互动信息分类确定对应的事件触发信号,可以准确触发对应的虚拟交互内容或预定三维内容的调整播放等。例如,通过对交互信息进行分类,确定交互信息对应的事件触发信号为送烟花礼物的交互触发信号以及预定三维内容的内容调整信号,则可以进行3D烟花特效(虚拟交互内容)的播放,和/或,对预定三维内容的调整播放。其中,通过搭建中转信息服务器,基于中转信息服务器可以从直播平台提供的接口获得交互信息。可以理解,根据不同的交互触发时机,直播间界面播放的三维直播画面可以是初始三维直播画面、交互三维直播画面、后续三维直播画面、变换三维直播画面或者多类型交互三维直播画面,其中,多类型交互三维直播画面可以是对预定三维直播内容、虚拟交互内容、直播间加入用户的虚拟形象以及调整播放的所述预定三维内容中至少3种进行视频画面录制得到的,依此,播放的三维直播内容可以包括预定三维直播内容、虚拟交互内容、直播间加入用户的虚拟形象以及调整播放的所述预定三维内容中至少3种,针对播放的三维直播内容进行视频画面录制,生成三维直播画面投放到直播平台,用户可以在直播间观看到多类型交互三维直播画面。可以理解,由于录制角度变换,多类型交互三维直播画面中的连续视频画面内可能会展现播放的三维直播内容的全部或部分,且从三维空间中不同角度进行展现。
进一步的,一些实施例中,在直播间中针对三维直播内容的直播结束后,可以通过直播间中投票决定内容走向,例如直播结束后可以通过投票决定下一个还是上一个直播还是重播等。
一种实施例中,步骤S230,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,包括:
根据对所述体积视频与所述三维虚拟场景的组合调整操作,将所述体积视频与所述三维虚拟场景进行调整;响应于组合确认操作,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
体积视频可以通过插件放入虚拟引擎里面,三维虚拟场景也可以直接放置在虚拟引擎里面,相关用户可以针对虚拟引擎里面体积视频与三维虚拟场景的进行组合调整操作,组合调整操作例如位置调整、大小调整、旋转调整以及渲染等操作,调整完成后,相关用户触发组合确认操作,设备中将调整后的体积视频与三维虚拟场景组合为一个整体,得到至少一个三维直播内容。
一种实施例中,步骤S230,所述将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,包括:
获取所述体积视频的体积视频描述参数;获取所述三维虚拟场景的虚拟场景描述参数;对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数;根据所述内容组合参数将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
体积视频描述参数即可以描述体积视频的相关参数,体积视频描述参数可以包括体积视频中三维直播对象的对象信息(例如性别、名称等信息)、直播行为信息(例如跳舞、武术、吃东西等信息)。虚拟场景描述参数即可以描述三维虚拟场景中三维场景内容的相关参数,虚拟场景描述参数可以包括三维场景内容中包括的场景物品的物品信息(例如物品名称以及物品色彩等)、场景物品之间的相对位置关系信息。
内容组合参数即组合体积视频及三维虚拟场景的参数,内容组合参数可以包括体积视频在三维空间对应的体积大小、相对三维虚拟场景中场景物品的摆放位置、以及三维虚拟场景中场景物品的物品体积大小等。不同的内容组合参数中具有不同的参数。
根据每种内容组合参数将所述体积视频与三维虚拟场景组合,分别得到一个三维直播内容。
一个示例中,内容组合参数为一种,组合得到一个三维直播内容。另一种示例中,内容组合参数为至少2种,基于至少2种内容组合参数分别将体积视频与三维虚拟场景组合,进而得到至少2个三维直播内容,这样可以进一步基于不同的三维直播内容分别生成对应的三维直播画面,每种三维直播内容生成的三维直播画面可以分别在不同的直播间播放,用户可以选择一个直播间进行观看,进一步提升直播效果。
一种实施例中,所述对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数,包括:直接对体积视频描述参数及虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数。
其中,联合分析处理的方式:一种方式中,可以在预设组合参数表中查询体积视频描述参数及虚拟场景描述参数均对应的预设组合参数,得到至少一种内容组合参数;另一种方式中,可以将体积视频描述参数及虚拟场景描述参数输入预先训练好的基于机器学习的第一分析模型,第一分析模型进行联合分析处理输出至少一种组合信息以及每种组合信息的置信度,每种组合信息对应一种内容组合参数。
一种实施例中,所述对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数,包括:
获取直播平台中用户所使用终端的终端参数以及用户的用户描述参数;对所述体积视频描述参数、所述虚拟场景描述参数、所述终端参数以及所述用户描述参数进行联合分析处理,得到至少一种所述内容组合参数。
终端参数即终端相关的参数,终端参数可以包括终端型号、终端类型等参数,用户描述参数即用户相关的参数,用户描述参数可以包括性别、年龄等参数。终端参数以及用户描述参数可以在用户允许/授权的情况下合法获得。
其中,联合分析处理的方式:一种方式中,可以在预设组合参数表中查询体积视频描述参数、虚拟场景描述参数、终端参数以及用户描述参数均对应的预设组合参数,得到至少一种内容组合参数;另一种方式中,可以将体积视频描述参数、虚拟场景描述参数、终端参数以及用户描述参数输入预先训练好的基于机器学习的第二分析模型,第二分析模型进行联合分析处理输出至少一种组合信息以及每种组合信息的置信度,每种组合信息对应一种内容组合参数。
一种实施例中,所述三维直播内容为至少一个,不同的所述三维直播内容用于生成向不同类别的用户推荐的三维直播画面。例如,组合生成3个不同表现的三维直播内容,第一个三维直播内容生成的三维直播画面所投放的直播间向A类用户的推荐,第二个三维直播内容生成的三维直播画面所投放的直播间向B类用户的推荐。
一种实施例中,所述三维直播内容为至少一个,不同的所述三维直播内容用于生成向不同直播间投放的三维直播画面。不同直播间可以向所有用户推荐,由用户选择某个直播间观看对应直播间的三维直播画面。
根据本申请的另一个实施例的直播方法。该直播方法的执行主体可以是任意具有显示功能的设备,例如图1所示的终端104。
一种直播方法,其包括:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据本申请前述任一项实施例所述的直播方法所生成的。
用户可以在以图1中终端104为例的终端中,在直播客户端(例如某个平台的直播应用)中进行直播间开启操作,直播间开启操作例如语音控制或屏幕触控等,直播客户端响应于直播间开启操作,展示直播间界面,直播间界面中即可以播放三维直播画面供用户观看。参阅图5和图6,三维直播画面的连续视频画面中的2帧如图6和7所示,分别从不同角度对播放的三维直播内容录制得到。
一种实施例中,所述响应于直播间开启操作,展示直播间界面,包括:显示直播客户端界面,所述直播客户端界面中展示至少一个直播间;响应于针对所述至少一个直播间中目标直播间的直播间开启操作,展示所述目标直播间的直播间界面。
直播客户端界面即直播客户端的界面,用户可以在以图1中终端104为例的终端中,通过语音控制或屏幕触控等在终端中打开直播客户端,进而终端中显示直播客户端界面。直播客户端界面中展示至少一个直播间,用户进一步可以选择一个目标直播间进行直播间开启操作,进而展示目标直播间的直播间界面。例如,参阅图4及图5,一种场景下,显示的直播客户端界面如图4所示,该直播客户端界面中展示至少4个直播间,用户选择一个目标直播间打开后,展示的目标直播间的直播间界面如图5所示。
进一步的,一种实施例中,显示直播客户端界面,所述直播客户端界面中展示至少一个直播间,可以包括:展示至少一个直播间,每个直播间用于播放不同的三维直播内容所对应的三维直播画面,每个所述直播间的可以展示对应三维直播内容的相关内容(如图4所示的每个所述直播间的可以在未被用户打开时展示对应三维直播内容的相关内容),用户可以根据相关内容选择至少一个直播间中的目标直播间打开。
一种实施例中,所述响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,包括:响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面,所述初始三维直播画面为对所述三维直播内容中播放的预定三维内容进行视频画面录制所得到的;响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示交互三维直播画面,所述交互三维直播画面为对播放的所述预定三维内容以及所述交互内容触发操作触发的虚拟交互内容进行视频画面录制所得到的,所述虚拟交互内容属于所述三维直播内容。
预定三维内容可以是预定的部分常规播放的内容,预定三维内容中可以包括体积视频中部分或全部内容以及包括三维虚拟场景中部分三维场景内容。在以图1中设备101为例的设备中,将预定三维内容进行播放并进行视频画面录制,生成三维直播画面投放到直播平台中直播间;用户可以在以图1中终端104为例的终端中,通过直播间对应的直播间界面观看到预定三维内容对应的初始三维直播画面。可以理解,由于录制角度变换,初始三维直播画面中的连续视频画面内可能会展现预定三维内容的全部或部分,且从三维空间中不同角度进行展现。
三维虚拟场景中还包括至少一种虚拟交互内容,至少一种虚拟交互内容在触发时进行播放。用户在直播客户端中的直播间内可以通过相关交互内容触发操作(例如送礼物等操作)触发“交互触发信号”,当以图1中设备101为例的设备中检测到直播平台中的交互触发信号,从至少一种虚拟交互内容中确定交互触发信号对应的虚拟交互内容,然后,相对于预定三维内容在预定位置可以播放交互触发信号对应的虚拟交互内容,其中,不同的交互触发信号可以对应不同的虚拟交互内容,虚拟交互内容可以是3D特效,例如,3D烟花或3D弹幕或3D礼物等特效。
依此,播放的三维直播内容至少可以包括预定三维内容和虚拟交互内容,针对播放的三维直播内容进行视频画面录制,生成三维直播画面投放到直播平台,用户可以在直播间观看到预定三维内容和虚拟交互内容对应的交互三维直播画面。可以理解,由于录制角度变换,交互三维直播画面中的连续视频画面内可能会展现预定三维内容和虚拟交互内容的全部或部分,且从三维空间中不同角度进行展现。参阅图8所示,如图8所示的交互三维直播画面中的一帧视频画面中展现了3D烟花。
一种实施例中,在响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面之后,还包括:
响应于所述直播间界面对应的直播间加入用户,所述直播间界面中展示后续三维直播画面,所述后续三维直播画面为对播放的所述预定三维内容以及所述直播间加入用户的虚拟形象进行视频画面录制所得到的。
预定三维内容可以是预定的部分常规播放的内容,预定三维内容中可以包括体积视频中部分或全部内容以及包括三维虚拟场景中部分三维场景内容。在以图1中设备101为例的设备中,将预定三维内容进行播放并进行视频画面录制,生成三维直播画面投放到直播平台;用户可以以图1中终端104为例的终端中,在直播间的直播间界面观看到预定三维内容对应的初始三维直播画面。
用户进入直播间中后,以图1中设备101为例的设备中针对用户,相对于预定三维内容在预定位置展示用户专属的虚拟形象,该三维的虚拟形象形成三维直播内容的一部分,进一步提升虚拟直播体验。依此,播放的三维直播内容至少可以包括预定三维内容和用户的虚拟形象,以图1中设备101为例的设备中,针对播放的三维直播内容进行视频画面录制,生成三维直播画面投放到直播平台;用户可以在以图1中终端104为例的终端中,在直播间的直播间界面观看到预定三维内容和用户的虚拟形象对应的后续三维直播画面。可以理解,由于录制角度变换,后续三维直播画面中的连续视频画面内可能会展现预定三维内容和直播间内用户的虚拟形象的全部或部分,且从三维空间中不同角度进行展现。
进一步的,一些实施例中,以图1中设备101为例的设备中,可以通过直播平台提供的接口获取用户在直播间的互动信息(如送礼物或点赞或交流区的交流信息等),对互动信息可以进行分类得到用户的互动类型,不同的互动类型对应不同的积分,最终直播间所有用户的积分统计后进行排名,排名前预定名称的用户会获得特殊的虚拟形象(例如带有金闪闪效果的虚拟形象)。
进一步的,一些实施例中,用户进入直播间后,以图1中设备101为例的设备中,可以采集用户的用户ID或名称等标识信息,并将标识信息展现在虚拟形象相对的预定位置。例如,生成一个对应专属的虚拟形象的用户ID顶在虚拟形象的头顶位置上。
一种实施例中,在响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面之后,还包括:
响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示变换三维直播画面,所述变换三维直播画面为对所述交互内容触发操作触发的调整播放的所述预定三维内容进行视频画面录制所得到的。
用户在以图1中终端104为例的终端中,在直播客户端中可以通过相关交互内容触发操作(例如送礼物等操作或手势操作等)触发内容调整信号,当以图1中设备101为例的设备中,检测到直播平台中的内容调整信号,对预定三维内容进行调整播放,例如,可以将虚拟的三维直播对象或虚拟的直播场景内容中的信号对应内容进行放大、缩小或时大时小变换等动态调整,进一步提升虚拟直播体验。
依此,播放的三维内容包括调整播放的预定三维内容,以图1中设备101为例的设备中,针对播放的三维内容进行视频画面录制,生成三维直播画面投放到直播平台;用户可以在以图1中终端104为例的终端中,在直播间的直播间界面观看到调整播放的预定三维内容对应的变换三维直播画面。可以理解,由于录制角度变换,变换三维直播画面中的连续视频画面内可能会展现调整播放的预定三维内容的全部或部分,且从三维空间中不同角度进行展现。
一种实施例中,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;当以图1中设备101为例的设备中检测到直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整(例如,进行放大后播放、缩小后播放、时大时小变换的播放、粒子特效化播放或拆解播放等动态调整),并进行视频画面录制,进而,以图1中终端104为例的终端中,直播间中的变换三维直播画面中的连续视频画面内,如果录制到虚拟直播对象则可以看到调整播放的虚拟直播对象,进一步提升虚拟直播体验。参阅图9和图10,虚拟的所述三维直播对象为车辆,用户可以在以图1中终端104为例的终端前进行“双手分开手势”的交互内容触发操作,以图1中设备101为例的设备中可以接收到“双手分开手势”的手势信息,根据手势信息得到拆解播放的对象调整信号,进而,将图9中车辆在三维空间中拆解播放并录制视频画面,得到图10所示的变换三维直播画面中的一帧视频画面。
可以理解,根据不同的交互触发时机,直播间界面中播放的三维直播画面可以是初始三维直播画面、交互三维直播画面、后续三维直播画面、变换三维直播画面或者多类型交互三维直播画面,其中,多类型交互三维直播画面可以是对预定三维直播内容、虚拟交互内容、直播间加入用户的虚拟形象以及调整播放的所述预定三维内容中至少3种进行视频画面录制得到的,依此,播放的三维直播内容可以包括预定三维直播内容、虚拟交互内容、直播间加入用户的虚拟形象以及调整播放的所述预定三维内容中至少3种,针对播放的三维直播内容进行视频画面录制,生成三维直播画面投放到直播平台,用户可以在直播间观看到多类型交互三维直播画面。可以理解,由于录制角度变换,多类型交互三维直播画面中的连续视频画面内可能会展现播放的三维直播内容的全部或部分,且从三维空间中不同角度进行展现。
一种实施例中,在所述响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面之后,还包括:
响应于针对所述直播间界面的投票操作,向目标设备发送所述投票信息,其中,所述目标设备根据所述投票信息决定所述直播间界面对应直播间的直播内容走向。
用户可以在直播间界面执行投票操作,投票操作可以是触发预定投屏控件的操作,也可以是发送弹幕的投屏操作,通过投屏操作可以生成投屏信息。参阅图11,一个示例的直播画面中通过发送弹幕的投屏操作在直播间内发送投屏弹幕作为投屏信息(例如再来一次或下一首等)。直播平台的投票信息可以发送至以图1中设备101为例的目标设备,目标设备中综合直播间中所有投票信息决定直播间的直播内容走向,例如,重播当前的三维直播画面或者播放下一个三维直播内容对应的三维直播画面等。
进一步的,本申请前述的实施例中,体积视频(Volumetric Video,又称容积视频、空间视频、体三维视频或6自由度视频等)是一种通过捕获三维空间中信息(如深度信息和色彩信息等)并生成三维动态模型序列的技术。相对于传统的视频,体积视频将空间的概念加入到视频中,用三维模型来更好的还原真实三维世界,而不是以二维的平面视频加上运镜来模拟真实三维世界的空间感。由于体积视频实质为三维模型序列,使得用户可以随自己喜好调整到任意视角进行观看,较二维平面视频具有更高的还原度和沉浸感。
可选地,在本申请中,用于构成体积视频的三维模型可以按照如下方式重建得到:
先获取拍摄对象的不同视角的彩色图像和深度图像,以及彩色图像对应的相机参数;然后根据获取到的彩色图像及其对应的深度图像和相机参数,训练隐式表达拍摄对象三维模型的神经网络模型,并基于训练的神经网络模型进行等值面提取,实现对拍摄对象的三维重建,得到拍摄对象的三维模型。
应当说明的是,本申请实施例中对采用何种架构的神经网络模型不作具体限制,可由本领域技术人员根据实际需要选取。比如,可以选取不带归一化层的多层感知机(Multilayer Perceptron,MLP)作为模型训练的基础模型。
下面将对本申请提供的三维模型重建方法进行详细描述。
首先,可以同步采用多个彩色相机和深度相机对需要进行三维重建的目标物体(该目标物体即为拍摄对象)进行多视角的拍摄,得到目标物体在多个不同视角的彩色图像及对应的深度图像,即在同一拍摄时刻(实际拍摄时刻的差值小于或等于时间阈值即认为拍摄时刻相同),各视角的彩色相机将拍摄得到目标物体在对应视角的彩色图像,相应的,各视角的深度相机将拍摄得到目标物体在对应视角的深度图像。需要说明的是,目标物体可以是任意物体,包括但不限于人物、动物以及植物等生命物体,或者机械、家具、玩偶等非生命物体。
以此,目标物体在不同视角的彩色图像均具备对应的深度图像,即在拍摄时,彩色相机和深度相机可以采用相机组的配置,同一视角的彩色相机配合深度相机同步对同一目标物体进行拍摄。比如,可以搭建一摄影棚,该摄影棚中心区域为拍摄区域,环绕该拍摄区域,在水平方向和垂直方向每间隔一定角度配对设置有多组彩色相机和深度相机。当目标物体处于这些彩色相机和深度相机所环绕的拍摄区域时,即可通过这些彩色相机和深度相机拍摄得到该目标物体在不同视角的彩色图像及对应的深度图像。
此外,进一步获取每一彩色图像对应的彩色相机的相机参数。其中,相机参数包括彩色相机的内外参,可以通过标定确定,相机内参为与彩色相机自身特性相关的参数,包括但不限于彩色相机的焦距、像素等数据,相机外参为彩色相机在世界坐标系中的参数,包括但不限于彩色相机的位置(坐标)和相机的旋转方向等数据。
如上,在获取到目标物体在同一拍摄时刻的多个不同视角的彩色图像及其对应的深度图像之后,即可根据这些彩色图像及其对应深度图像对目标物体进行三维重建。区别于相关技术中将深度信息转换为点云进行三维重建的方式,本申请训练一神经网络模型用以实现对目标物体的三维模型的隐式表达,从而基于该神经网络模型实现对目标物体的三维重建。
可选地,本申请选用一不包括归一化层的多层感知机(Multilayer Perceptron,MLP)作为基础模型,按照如下方式进行训练:
基于对应的相机参数将每一彩色图像中的像素点转化为射线;在射线上采样多个采样点,并确定每一采样点的第一坐标信息以及每一采样点距离像素点的SDF值;将采样点的第一坐标信息输入基础模型,得到基础模型输出的每一采样点的预测SDF值以及预测RGB颜色值;基于预测SDF值与SDF值之间的第一差异,以及预测RGB颜色值与像素点的RGB颜色值之间的第二差异,对基础模型的参数进行调整,直至满足预设停止条件;将满足预设停止条件的基础模型作为隐式表达目标物体的三维模型的神经网络模型。
首先,基于彩色图像对应的相机参数将彩色图像中的一像素点转化为一条射线,该射线可以为经过像素点且垂直于彩色图像面的射线;然后,在该射线上采样多个采样点,采样点的采样过程可以分两步执行,可以先均匀采样部分采样点,然后再在基于像素点的深度值在关键处进一步采样多个采样点,以保证在模型表面附近可以采样到尽量多的采样点;然后,根据相机参数和像素点的深度值计算出采样得到的每一采样点在世界坐标系中的第一坐标信息以及每一采样点的有向距离(Signed Distance Field,SDF)值,其中,SDF值可以为像素点的深度值与采样点距离相机成像面的距离之间的差值,该差值为有符号的值,当差值为正值时,表示采样点在三维模型的外部,当差值为负值时,表示采样点在三维模型的内部,当差值为零时,表示采样点在三维模型的表面;然后,在完成采样点的采样并计算得到每一采样点对应的SDF值之后,进一步将采样点在世界坐标系的第一坐标信息输入基础模型(该基础模型被配置为将输入的坐标信息映射为SDF值和RGB颜色值后输出),将基础模型输出的SDF值记为预测SDF值,将基础模型输出的RGB颜色值记为预测RGB颜色值;然后,基于预测SDF值与采样点对应的SDF值之间的第一差异,以及预测RGB颜色值与采样点所对应像素点的RGB颜色值之间的第二差异,对基础模型的参数进行调整。
此外,对于彩色图像中的其它像素点,同样按照上述方式进行采样点采样,然后将采样点在世界坐标系的坐标信息输入至基础模型以得到对应的预测SDF值和预测RGB颜色值,用于对基础模型的参数进行调整,直至满足预设停止条件,比如,可以配置预设停止条件为对基础模型的迭代次数达到预设次数,或者配置预设停止条件为基础模型收敛。在对基础模型的迭代满足预设停止条件时,即得到能够对拍摄对象的三维模型进行准确地隐式表达的神经网络模型。最后,可以采用等值面提取算法对该神经网络模型进行三维模型表面的提取,从而得到拍摄对象的三维模型。
可选地,在一些实施例中,根据相机参数确定彩色图像的成像面;确定经过彩色图像中像素点且垂直于成像面的射线为像素点对应的射线。
其中,可以根据彩色图像对应的彩色相机的相机参数,确定该彩色图像在世界坐标系中的坐标信息,即确定成像面。然后,可以确定经过彩色图像中像素点且垂直于该成像面的射线为该像素点对应的射线。
可选地,在一些实施例中,根据相机参数确定彩色相机在世界坐标系中的第二坐标信息及旋转角度;根据第二坐标信息和旋转角度确定彩色图像的成像面。
可选地,在一些实施例中,在射线上等间距采样第一数量个第一采样点;根据像素点的深度值确定多个关键采样点,并根据关键采样点采样第二数量个第二采样点;将第一数量个的第一采样点与第二数量个的第二采样点确定为在射线上采样得到的多个采样点。
其中,先在射线上均匀采样n(即第一数量)个第一采样点,n为大于2的正整数;然后,再根据前述像素点的深度值,从n个第一采样点中确定出距离前述像素点最近的预设数量个关键采样点,或者从n个第一采样点中确定出距离前述像素点小于距离阈值的关键采样点;然后,根据确定出的关键采样点再采样m个第二采样点,m为大于1的正整数;最后,将采样得到的n+m个采样点确定为在射线上采样得到的多个采样点。其中,在关键采样点处再多采样m个采样点,可以使得模型的训练效果在三维模型表面处更为精确,从而提升三维模型的重建精度。
可选地,在一些实施例中,根据彩色图像对应的深度图像确定像素点对应的深度值;基于深度值计算每一采样点距离像素点的SDF值;根据相机参数与深度值计算每一采样点的坐标信息。
其中,在每一像素点对应的射线上采样了多个采样点后,对于每一采样点,根据相机参数、像素点的深度值确定彩色相机的拍摄位置与目标物体上对应点之间的距离,然后基于该距离逐一计算每一采样点的SDF值以及计算出每一采样点的坐标信息。
需要说明的是,在完成对基础模型的训练之后,对于给定的任意一个点的坐标信息,即可由完成训练的基础模型预测其对应的SDF值,该预测的SDF值即表示了该点与目标物体的三维模型的位置关系(内部、外部或者表面),实现对目标物体的三维模型的隐式表达,得到用于隐式表达目标物体的三维模型的神经网络模型。
最后,对以上神经网络模型进行等值面提取,比如可以采用等值面提取算法(Marching cubes,MC)绘制出三维模型的表面,得到三维模型表面,进而根据该三维模型表面得到目标物体的三维模型。
本申请提供的三维重建方案,通过神经网络去隐式建模目标物体的三维模型,并加入深度信息提高模型训练的速度和精度。采用本申请提供的三维重建方案,在时序上持续的对拍摄对象进行三维重建,即可得到拍摄对象在不同时刻的三维模型,这些不同时刻的三维模型按时序构成的三维模型序列即为对拍摄对象所拍摄得到的体积视频。以此,可以针对任意拍摄对象进行“体积视频拍摄”,得到特定内容呈现的体积视频。比如,可以对跳舞的拍摄对象进行体积视频拍摄,得到可以在任意角度观看拍摄对象舞蹈的体积视频,可以对教学的拍摄对象进行体积视频拍摄,得到可以在任意角度观看拍摄对象教学的体积视频,等等。
需要说明的是,本申请前述的实施例涉及的体积视频可采用以上体积视频拍摄方式所拍摄得到。
以下结合一种场景下进行虚拟演唱会的流程进一步描述前述实施例。该场景下,通过应用本申请的前述实施例中的直播方法实现虚拟演唱会的直播;该场景下可以通过如图1所示的系统架构实现虚拟演唱会的直播,
参阅图3,示出该场景下应用本申请的前述实施例中的直播方法实现虚拟演唱会的流程,该流程包括步骤S310至步骤S380。
步骤S310,制作体积视频。
具体地,体积视频即一种用于展示三维直播对象的直播行为的三维动态模型序列,针对进行直播行为(该场景下具体为演唱行为)的真实直播对象(该场景下具体为演唱者)拍摄采集颜色信息、材质信息、深度信息等数据,基于现有的体积视频生成算法即可生成用于展示三维直播对象(即真实直播对象对应的三维的虚拟直播对象)的直播行为的体积视频。体积视频可以在如图1所示的设备101或者其他计算设备中制作得到。
步骤S320,制作三维虚拟场景。
具体地,三维虚拟场景用于展示三维场景内容,三维场景内容可以包括三维的虚拟场景(例如舞台等场景)及虚拟交互内容(例如3D特效),三维虚拟场景可以在设备101或者其他计算设备中通过3D软件或程序制作得到。
步骤S330,制作三维直播内容。其中,可以在如图1所示的设备101中制作三维直播内容。
具体地,设备101可以:获取体积视频(即步骤310中制作的),体积视频用于展示三维直播对象的直播行为;获取三维虚拟场景(即步骤320中制作的),三维虚拟场景用于展示三维场景内容;将体积视频与三维虚拟场景组合,得到包含直播行为及三维场景内容的三维直播内容。
其中,一种方式中,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,可以包括:根据对所述体积视频与所述三维虚拟场景的组合调整操作,将所述体积视频与所述三维虚拟场景进行调整;响应于组合确认操作,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。体积视频可以通过插件放入虚拟引擎里面,三维虚拟场景也可以直接放置在虚拟引擎里面,相关用户可以针对虚拟引擎里面体积视频与三维虚拟场景的进行组合调整操作,组合调整操作例如位置调整、大小调整、旋转调整以及渲染等操作,调整完成后,相关用户触发组合确认操作,设备中将调整后的体积视频与三维虚拟场景组合为一个整体,得到至少一个三维直播内容。
一种方式中,所述将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,可以包括:获取所述体积视频的体积视频描述参数;获取所述三维虚拟场景的虚拟场景描述参数;对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数;根据所述内容组合参数将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。体积视频描述参数即可以描述体积视频的相关参数,体积视频描述参数可以包括体积视频中三维直播对象的对象信息(例如性别、名称等信息)、直播行为信息(例如跳舞、演唱等信息)。虚拟场景描述参数即可以描述三维虚拟场景中三维场景内容的相关参数,虚拟场景描述参数可以包括三维场景内容中包括的场景物品的物品信息(例如物品名称以及物品色彩等)、场景物品之间的相对位置关系信息。内容组合参数即组合体积视频及三维虚拟场景的参数,内容组合参数可以包括体积视频在三维空间对应的体积大小、相对三维虚拟场景中场景物品的摆放位置、以及三维虚拟场景中场景物品的物品体积大小等。不同的内容组合参数中具有不同的参数。根据每种内容组合参数将所述体积视频与三维虚拟场景组合,分别得到一个三维直播内容。
步骤S340,生成三维直播画面。其中,可以在如图1所示的设备101中生成三维直播画面。
具体地,设备101中:基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。基于三维直播内容生成三维直播画面,可以包括:播放所述三维直播内容;在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在设备中播放三维直播内容,三维直播内容即可对三维直播对象的直播行为及三维场景内容进行动态展现,通过虚拟相机在三维空间中按照目标角度变换,对播放的三维直播内容进行连续地视频画面录制,即可得到三维直播画面。
一种方式中,步骤S330后在三维直播内容中搭建虚拟相机轨道;在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,可以包括:跟随虚拟相机轨道在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。设备101将虚拟相机跟随虚拟相机轨道移动,进而可以在三维空间中进行录制角度变换,对三维直播内容进行视频画面录制,得到三维直播画面,实现用户跟随虚拟相机轨道的多角度直播观看。
另一种方式中,在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:跟随设备(例如设备101或终端104)中陀螺仪在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。可以实现基于陀螺仪的360度任意方位直播观看。
另一种方式中,在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:根据直播平台中直播客户端发送的观看角度变化操作,在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。用户可以在直播客户端中的直播间观看直播时,通过转动观看设备(即终端104)或在屏幕中移动观看视角等方式实现观看角度变化操作,直播平台外的设备(即设备101)根据观看角度变化操作,在三维空间中进行录制角度变换,对三维直播内容进行视频画面录制,可以得到不同用户对应的三维直播画面。参阅图12及图13,在第一时刻,三维直播画面中展示的视频画面如图12所示,此时,用户在观看设备(即终端104)前进行“基于右手从左至右的滑动”的观看角度变化操作,观看角度变化操作产生的观看角度操作信息发送至直播平台外的设备(即设备101),直播平台外的设备(即设备101)根据观看角度操作信息,将三维直播内容从图12中所示角度进行转向并进行视频画面录制,从而进行录制角度变换,得到如图13所示的三维直播画面中的一帧视频画面。
进一步的,三维直播内容中包括预定三维内容及至少一种虚拟交互内容;所述播放所述三维直播内容,可以包括:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播平台中的交互触发信号,相对于所述预定三维内容播放所述交互触发信号对应的虚拟交互内容。
预定三维内容可以是预定的部分常规播放的内容,预定三维内容中可以包括体积视频中部分或全部内容以及包括三维虚拟场景中部分三维场景内容。将预定三维内容进行播放,生成的三维直播画面投放到直播平台,用户可以在直播间观看到预定三维内容对应的画面。三维虚拟场景中还包括至少一种虚拟交互内容,至少一种虚拟交互内容在触发时进行播放。用户在直播客户端中的直播间可以通过相关操作(例如送礼物等操作)在直播平台中触发交互触发信号,当直播平台外的本地设备(即设备101)检测到直播平台中的交互触发信号,从至少一种虚拟交互内容中确定交互触发信号对应的虚拟交互内容,然后,相对于预定三维内容在预定位置可以播放交互触发信号对应的虚拟交互内容。其中,不同的交互触发信号对应不同的虚拟交互内容,虚拟交互内容可以是3D特效,例如,3D烟花或3D弹幕或3D礼物等特效。虚拟交互内容的制作手段可以是传统的CG特效的制作方法,例如,可以使用平面软件制作特效贴图,可以使用特效软件(例如AE、CB、PI等)制作特效序列图,可以使用三维软件(例如3DMAX、MAYA、XSI、LW等)制作特性模型,可以使用游戏引擎(例如UE4、UE5、Unity等)在引擎中通过程序代码实现需要的特效视觉效果。
进一步的,所述播放所述三维直播内容,可以包括:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播间中加入用户,相对于所述预定三维内容在预定位置展示所述用户的虚拟形象。用户进入直播间中后,直播平台外的本地设备中针对用户,相对于预定三维内容在预定位置展示用户专属的虚拟形象,该三维的虚拟形象形成三维直播内容的一部分,进一步提升虚拟直播体验。
进一步的,可以通过直播平台提供的接口获取用户在直播间的互动信息(如送礼物或点赞或交流区的交流信息等),对互动信息可以进行分类得到用户的互动类型,不同的互动类型对应不同的积分,最终直播间所有用户的积分统计后进行排名,排名前预定名称的用户会获得特殊虚拟形象(例如带有金闪闪效果的虚拟形象)。
进一步的,用户进入直播间后,可以采集用户的用户ID或名称等标识信息,并将标识信息展现在虚拟形象相对的预定位置。例如,生成一个对应专属的虚拟形象的用户ID顶在虚拟形象的头顶位置上。
进一步的,在所述播放所述三维直播内容中的所述预定三维内容之后,还可以包括:响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放。用户在直播客户端中的直播间可以通过相关操作(例如送礼物等操作)在直播平台中触发内容调整信号,当直播平台外的本地设备检测到直播平台中的内容调整信号,对预定三维内容进行调整播放,例如,可以将虚拟的三维直播对象或虚拟的直播场景内容中的信号对应内容进行放大、缩小或时大时小变换等动态调整。
进一步的,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;所述响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放,包括:响应于接收到所述直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整。直播平台外的本地设备若检测到对象调整信号,则将播放虚拟直播对象进行动态调整(进行放大、缩小、时大时小变换或或是粒子特效化等动态调整),进而,直播间中可以看到调整播放的虚拟直播对象。
其中,三维直播画面在所述直播平台中的直播间播放;在所述播放所述三维直播内容中的所述预定三维内容之后,设备101可以:获取所述直播间中的交互信息(其中,设备101可以通过搭建的中转信息服务器(即服务器102)从直播平台(即服务器103)提供的接口获得交互信息。);对交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中一种。直播间中的交互信息例如送礼物或点赞或交流区的交流信息等,直播间内容交互信息通常是多样的,通过对互动信息分类确定对应的事件触发信号,可以准确触发对应的交互内容或动态调整操作等。例如,通过对交互信息进行分类,确定交互信息对应的事件触发信号为送烟花礼物的交互触发信号,则可以播放3D烟花特效(虚拟交互内容)。
步骤S350,将三维直播画面投放到直播平台。其中,三维直播画面可以是设备101通过预设接口传输至服务器103的,或者,设备101通过服务器102中转至服务器103的。
步骤S360,直播平台在直播间投放三维直播画面。具体地,终端104中:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面。其中,服务器103可以将三维直播画面传输至终端104中的直播客户端,在直播客户端中用户通过直播间开启操作打开的直播间对应的直播间界面进行播放,进而,实现直播平台中播放三维直播画面。
其中,一种方式下,所述响应于直播间开启操作,展示直播间界面,可以包括:显示直播客户端界面,所述直播客户端界面中可以展示至少一个直播间;响应于针对所述至少一个直播间中目标直播间的直播间开启操作,展示所述目标直播间的直播间界面。参阅图4及图5,一种示例下,显示的直播客户端界面如图4所示,该直播客户端界面中展示至少4个直播间,用户选择一个目标直播间通过直播间开启操作打开后,展示的目标直播间的直播间界面如图5所示。
此外,另一种方式下,所述响应于直播间开启操作,展示直播间界面,可以包括:用户通过直播间开启操作打开直播客户端后直播客户端中直接展示如图5所示的直播间界面。
可以理解,通过直播间开启操作展示直播间界面的方式还可以是其他可选可实施的方式。
步骤S370,直播交互,具体地,用户在直播间的相关交互操作可以触发设备101中对三维直播内容进行动态调整,设备101中可以实时基于调整后三维直播内容的生成三维直播画面。
一个示例中,设备101可以:获取所述直播间中的交互信息(其中,设备101可以通过搭建的中转信息服务器(即服务器102)从直播平台(即服务器103)提供的接口获得交互信息);对交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中一种;每种事件触发信号触发设备101对三维直播内容进行对应调整;进而,直播间播放的三维直播画面中可以观看到调整后三维直播内容(例如虚拟交互内容或调整播放的虚拟直播对象等)。参阅图14及图15,一个情景下,某个用户的直播间界面中播放的“对三维直播内容进行动态调整”前的三维直播画面如图14所示,该用户的直播间界面中播放的“对三维直播内容进行动态调整”后的三维直播画面如图15所示,图15中播放的画面中演唱者对应的三维直播对象被放大。
另一个示例中,用户进入直播间后,设备101中检测到所述直播间中加入用户,相对于预定三维内容在预定位置展示用户的虚拟形象,直播间播放的三维直播画面中可以观看到用户的虚拟形象。参阅图16及图17,一个情景下,X2用户未加入直播间前,X1用户的直播间界面中播放的“对三维直播内容进行动态调整”前的三维直播画面如图16所示,图16画面中仅展示X1用户的虚拟形象,而未展示X2用户的虚拟形象;X2用户加入直播间后,X1用户的直播间界面中播放的“对三维直播内容进行动态调整”后的三维直播画面如图17所示,图17中播放的画面中展示X1用户及X2用户的虚拟形象。
进一步的,在直播间中针对三维直播内容的直播结束后,设备101中可以通过直播间中用户的投票决定内容走向,例如直播结束后可以通过用户的投票决定下一个还是上一个直播还是重播等。
以这种方式,该场景下通过应用本申请的前述实施例,至少可以具有如下有益效果:通过获取用于展示演唱者的三维直播对象的直播行为体积视频,由于体积视频直接优秀的通过三维动态模型序列形式表现直播行为,体积视频可以直接便捷地与三维虚拟场景组合得到三维直播内容作为3D内容源,该3D内容源可以极为优秀的表现包含演唱者的直播行为及三维场景内容的直播内容,生成的三维直播画面中动作行为等直播内容自然度高且可以从多角度展示直播内容,进而,可以有效提升演唱会的虚拟直播效果。
为便于更好的实施本申请实施例提供的直播方法,本申请实施例还提供一种基于上述直播方法的直播装置。其中名词的含义与上述直播方法中相同,具体实现细节可以参考方法实施例中的说明。图18示出了根据本申请的一个实施例的直播装置的框图。
如图18所示,直播装置400中可以包括视频获取模块410、场景获取模块420、组合模块430及直播模块440。
视频获取模块,用于获取体积视频,所述体积视频用于展示三维直播对象的直播行为;场景获取模块,用于获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;组合模块,用于将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;直播模块,用于基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
在本申请的一些实施例中,所述直播模块,包括:播放单元,用于播放所述三维直播内容;录制单元,用于在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述三维直播内容中搭建有虚拟相机轨道录制单元,用于:跟随所述虚拟相机轨道在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述录制单元,用于:跟随陀螺仪在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述录制单元,用于:根据直播平台中直播客户端发送的观看角度变化操作,在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
在本申请的一些实施例中,所述三维直播内容中包括预定三维内容及至少一种虚拟交互内容;所述播放单元,用于:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播平台中的交互触发信号,相对于所述预定三维内容播放所述交互触发信号对应的虚拟交互内容。
在本申请的一些实施例中,所述三维直播内容中包括预定三维内容;所述三维直播画面在所述直播平台中的直播间播放;所述播放单元,用于:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播间中加入用户,相对于所述预定三维内容在预定位置展示所述用户的虚拟形象。
在本申请的一些实施例中,所述装置还包括调整单元,用于:响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放。
在本申请的一些实施例中,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;所述调整单元,用于:响应于接收到所述直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整。
在本申请的一些实施例中,所述三维直播画面在所述直播平台中的直播间播放;所述装置还包括信号确定单元,用于:获取所述直播间中的交互信息;对所述交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中一种。
在本申请的一些实施例中,所述组合模块,包括第一组合单元,用于:根据对所述体积视频与所述三维虚拟场景的组合调整操作,将所述体积视频与所述三维虚拟场景进行调整;响应于组合确认操作,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
在本申请的一些实施例中,所述组合模块,包括第二组合单元,用于:获取所述体积视频的体积视频描述参数;获取所述三维虚拟场景的虚拟场景描述参数;对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数;根据所述内容组合参数将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
在本申请的一些实施例中,所述第二组合单元,用于:获取直播平台中用户所使用终端的终端参数以及用户描述参数;对所述体积视频描述参数、所述虚拟场景描述参数、所述终端参数以及所述用户描述参数进行联合分析处理,得到至少一种所述内容组合参数。
在本申请的一些实施例中,所述三维直播内容为至少一个,不同的所述三维直播内容用于生成向不同类别的用户推荐的三维直播画面。
根据本申请的一个实施例,一种直播方法,包括:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据前述任一项实施例所述的直播方法所生成的。
根据本申请的一个实施例,一种直播装置,包括直播间展示模块,用于:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据前述任一项实施例所述的直播方法所生成的。
在本申请的一些实施例中,所述直播间展示模块,用于:显示直播客户端界面,所述直播客户端界面中展示至少一个直播间;响应于针对所述至少一个直播间中目标直播间的直播间开启操作,展示所述目标直播间的直播间界面。
在本申请的一些实施例中,所述直播间展示模块,用于:响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面,所述初始三维直播画面为对所述三维直播内容中播放的预定三维内容进行视频画面录制所得到的;响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示交互三维直播画面,所述交互三维直播画面为对播放的所述预定三维内容以及所述交互内容触发操作触发的虚拟交互内容进行视频画面录制所得到的,所述虚拟交互内容属于所述三维直播内容。
在本申请的一些实施例中,所述直播间展示模块,用于:响应于所述直播间界面对应的直播间加入用户,所述直播间界面中展示后续三维直播画面,所述后续三维直播画面为对播放的所述预定三维内容以及所述直播间加入用户的虚拟形象进行视频画面录制所得到的。
在本申请的一些实施例中,所述直播间展示模块,用于:响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示变换三维直播画面,所述变换三维直播画面为对所述交互内容触发操作触发的调整播放的所述预定三维内容进行视频画面录制所得到的。
在本申请的一些实施例中,所述装置还包括投票模块,用于:响应于针对所述直播间界面的投票操作,向目标设备发送所述投票信息,其中,所述目标设备根据所述投票信息决定所述直播间界面对应直播间的直播内容走向。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,本申请实施例还提供一种电子设备,该电子设备可以为终端或者服务器,如图19所示,其示出了本申请实施例所涉及的电子设备的结构示意图,具体来讲:
该电子设备可以包括一个或者一个以上处理核心的处理器501、一个或一个以上计算机可读存储介质的存储器502、电源503和输入单元504等部件。本领域技术人员可以理解,图19中示出的电子设备结构并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器501是该电子设备的控制中心,利用各种接口和线路连接整个计算机设备的各个部分,通过运行或执行存储在存储器502内的软件程序和/或模块,以及调用存储在存储器502内的数据,执行计算机设备的各种功能和处理数据,从而对电子设备进行整体监控。可选的,处理器501可包括一个或多个处理核心;优选的,处理器501可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户页面和应用程序等,调制解调处理器主要处理无线通讯。可以理解的是,上述调制解调处理器也可以不集成到处理器501中。
存储器502可用于存储软件程序以及模块,处理器501通过运行存储在存储器502的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器502可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器502可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器502还可以包括存储器控制器,以提供处理器501对存储器502的访问。
电子设备还包括给各个部件供电的电源503,优选的,电源503可以通过电源管理系统与处理器501逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源503还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该电子设备还可包括输入单元504,该输入单元504可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,电子设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,电子设备中的处理器501会按照如下的指令,将一个或一个以上的计算机程序的进程对应的可执行文件加载到存储器502中,并由处理器501来运行存储在存储器502中的计算机程序,从而本申请前述实施例所实现各种功能。
如处理器501可以执行:获取体积视频,所述体积视频用于展示三维直播对象的直播行为;获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
一些实施例中,所述基于所述三维直播内容生成三维直播画面,包括:播放所述三维直播内容;在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面。
一些实施例中,所述三维直播内容中搭建有虚拟相机轨道;所述在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:跟随所述虚拟相机轨道在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
一些实施例中,所述在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:跟随陀螺仪在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
一些实施例中,所述在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:根据直播平台中直播客户端发送的观看角度变化操作,在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
一些实施例中,所述三维直播内容中包括预定三维内容及至少一种虚拟交互内容;所述播放所述三维直播内容,包括:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播平台中的交互触发信号,相对于所述预定三维内容播放所述交互触发信号对应的虚拟交互内容。
一些实施例中,所述三维直播内容中包括预定三维内容;所述三维直播画面在所述直播平台中的直播间播放;所述播放所述三维直播内容,包括:播放所述三维直播内容中的所述预定三维内容;响应于检测到所述直播间中加入用户,相对于所述预定三维内容在预定位置展示所述用户的虚拟形象。
一些实施例中,在所述播放所述三维直播内容中的所述预定三维内容之后,还包括:响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放。
一些实施例中,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;所述响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放,包括:响应于接收到所述直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整。
一些实施例中,所述三维直播画面在所述直播平台中的直播间播放;在所述播放所述三维直播内容中的所述预定三维内容之后,所述方法还包括:获取所述直播间中的交互信息;对所述交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中一种。
一些实施例中,所述将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,包括:根据对所述体积视频与所述三维虚拟场景的组合调整操作,将所述体积视频与所述三维虚拟场景进行调整;响应于组合确认操作,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
一些实施例中,所述将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,包括:获取所述体积视频的体积视频描述参数;获取所述三维虚拟场景的虚拟场景描述参数;对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数;根据所述内容组合参数将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
一些实施例中,所述对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数,包括:获取直播平台中用户所使用终端的终端参数以及用户的用户描述参数;对所述体积视频描述参数、所述虚拟场景描述参数、所述终端参数以及所述用户描述参数进行联合分析处理,得到至少一种所述内容组合参数。
一些实施例中,所述三维直播内容为至少一个,不同的所述三维直播内容用于生成向不同类别的用户推荐的三维直播画面。
又如处理器501可以执行:响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据本申请任一项实施例所述的直播方法所生成的。
一些实施例中,所述响应于直播间开启操作,展示直播间界面,包括:显示直播客户端界面,所述直播客户端界面中展示至少一个直播间;响应于针对所述至少一个直播间中目标直播间的直播间开启操作,展示所述目标直播间的直播间界面。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过计算机程序来完成,或通过计算机程序控制相关的硬件来完成,该计算机程序可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例还提供一种计算机可读存储介质,其中存储有计算机程序,该计算机程序能够被处理器进行加载,以执行本申请实施例所提供的任一种方法中的步骤。
其中,该计算机可读存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该计算机可读存储介质中所存储的计算机程序,可以执行本申请实施例所提供的任一种方法中的步骤,因此,可以实现本申请实施例所提供的方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
根据本申请的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行本申请上述实施例中各种可选实现方式中提供的方法。
本领域技术人员在考虑说明书及实践这里公开的实施方式后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的实施例,而可以在不脱离其范围的情况下进行各种修改和改变。
Claims (24)
1.一种直播方法,其特征在于,包括:
获取体积视频,所述体积视频用于展示三维直播对象的直播行为;
获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;
将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;
基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
2.根据权利要求1所述的方法,其特征在于,所述基于所述三维直播内容生成三维直播画面,包括:
播放所述三维直播内容;
在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面。
3.根据权利要求2所述的方法,其特征在于,所述三维直播内容中搭建有虚拟相机轨道;
所述在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:
跟随所述虚拟相机轨道在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
4.根据权利要求2所述的方法,其特征在于,所述在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:
跟随陀螺仪在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
5.根据权利要求2所述的方法,其特征在于,所述在三维空间中按照目标角度变换,对播放的所述三维直播内容进行视频画面录制,得到所述三维直播画面,包括:
根据直播平台中直播客户端发送的观看角度变化操作,在三维空间中进行录制角度变换,对所述三维直播内容进行视频画面录制,得到所述三维直播画面。
6.根据权利要求2所述的方法,其特征在于,所述三维直播内容中包括预定三维内容及至少一种虚拟交互内容;
所述播放所述三维直播内容,包括:
播放所述三维直播内容中的所述预定三维内容;
响应于检测到所述直播平台中的交互触发信号,相对于所述预定三维内容播放所述交互触发信号对应的虚拟交互内容。
7.根据权利要求2所述的方法,其特征在于,所述三维直播内容中包括预定三维内容;所述三维直播画面在所述直播平台中的直播间播放;
所述播放所述三维直播内容,包括:
播放所述三维直播内容中的所述预定三维内容;
响应于检测到所述直播间中加入用户,相对于所述预定三维内容在预定位置展示所述用户的虚拟形象。
8.根据权利要求6所述的方法,其特征在于,在所述播放所述三维直播内容中的所述预定三维内容之后,所述方法还包括:
响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放。
9.根据权利要求8所述的方法,其特征在于,所述预定三维内容中包括所述体积视频中虚拟的所述三维直播对象;所述内容调整信号包括对象调整信号;
所述响应于检测到所述直播平台中的内容调整信号,对所述预定三维内容进行调整播放,包括:
响应于接收到所述直播平台中的所述对象调整信号,将虚拟的所述三维直播对象进行动态调整。
10.根据权利要求6所述的方法,其特征在于,所述三维直播画面在所述直播平台中的直播间播放;
在所述播放所述三维直播内容中的所述预定三维内容之后,所述方法还包括:
获取所述直播间中的交互信息;
对所述交互信息进行分类处理,得到所述直播平台中的事件触发信号,所述事件触发信号至少包括交互触发信号及内容调整信号中至少一种。
11.根据权利要求1至10任一项所述的方法,其特征在于,所述将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,包括:
根据对所述体积视频与所述三维虚拟场景的组合调整操作,将所述体积视频与所述三维虚拟场景进行调整;
响应于组合确认操作,将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
12.根据权利要求1至10任一项所述的方法,其特征在于,所述将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容,包括:
获取所述体积视频的体积视频描述参数;
获取所述三维虚拟场景的虚拟场景描述参数;
对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数;
根据所述内容组合参数将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的至少一个所述三维直播内容。
13.根据权利要求12所述的方法,其特征在于,所述对所述体积视频描述参数及所述虚拟场景描述参数进行联合分析处理,得到至少一种内容组合参数,包括:
获取直播平台中用户所使用终端的终端参数以及用户的用户描述参数;
对所述体积视频描述参数、所述虚拟场景描述参数、所述终端参数以及所述用户描述参数进行联合分析处理,得到至少一种所述内容组合参数。
14.根据权利要求1至10任一项所述的方法,其特征在于,所述三维直播内容为至少一个,不同的所述三维直播内容用于生成向不同类别的用户推荐的三维直播画面。
15.一种直播方法,其特征在于,包括:
响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,所述三维直播画面为根据利要要求1至14中任一项所述的直播方法所生成的。
16.根据权利要求15所述的方法,其特征在于,所述响应于直播间开启操作,展示直播间界面,包括:
显示直播客户端界面,所述直播客户端界面中展示至少一个直播间;
响应于针对所述至少一个直播间中目标直播间的直播间开启操作,展示所述目标直播间的直播间界面。
17.根据权利要求15所述的方法,其特征在于,所述响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面,包括:
响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面,所述初始三维直播画面为对所述三维直播内容中播放的预定三维内容进行视频画面录制所得到的;
响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示交互三维直播画面,所述交互三维直播画面为对播放的所述预定三维内容以及所述交互内容触发操作触发的虚拟交互内容进行视频画面录制所得到的,所述虚拟交互内容属于所述三维直播内容。
18.根据权利要求17所述的方法,其特征在于,在响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面之后,还包括:
响应于所述直播间界面对应的直播间加入用户,所述直播间界面中展示后续三维直播画面,所述后续三维直播画面为对播放的所述预定三维内容以及所述直播间加入用户的虚拟形象进行视频画面录制所得到的。
19.根据权利要求17所述的方法,其特征在于,在响应于直播间开启操作,展示直播间界面,所述直播间界面中展示初始三维直播画面之后,还包括:
响应于针对所述直播间界面的交互内容触发操作,所述直播间界面中展示变换三维直播画面,所述变换三维直播画面为对所述交互内容触发操作触发的调整播放的所述预定三维内容进行视频画面录制所得到的。
20.根据权利要求15所述的方法,其特征在于,在所述响应于直播间开启操作,展示直播间界面,所述直播间界面中播放三维直播画面之后,所述方法还包括:
响应于针对所述直播间界面的投票操作,向目标设备发送投票信息,其中,所述目标设备根据所述投票信息决定所述直播间界面对应直播间的直播内容走向。
21.一种直播装置,其特征在于,包括:
视频获取模块,用于获取体积视频,所述体积视频用于展示三维直播对象的直播行为;
场景获取模块,用于获取三维虚拟场景,所述三维虚拟场景用于展示三维场景内容;
组合模块,用于将所述体积视频与所述三维虚拟场景组合,得到包含所述直播行为及所述三维场景内容的三维直播内容;
直播模块,用于基于所述三维直播内容生成三维直播画面,所述三维直播画面用于在直播平台播放。
22.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,当所述计算机程序被计算机的处理器执行时,使计算机执行权利要求1至20任一项所述的方法。
23.一种电子设备,其特征在于,包括:存储器,存储有计算机程序;处理器,读取存储器存储的计算机程序,以执行权利要求1至20任一项所述的方法。
24.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序,所述计算机程序被处理器执行时实现权利要求1至20任一项的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210934650.8A CN115442658B (zh) | 2022-08-04 | 2022-08-04 | 直播方法、装置、存储介质、电子设备及产品 |
PCT/CN2022/136581 WO2024027063A1 (zh) | 2022-08-04 | 2022-12-05 | 直播方法、装置、存储介质、电子设备及产品 |
US18/015,117 US20240048780A1 (en) | 2022-08-04 | 2022-12-05 | Live broadcast method, device, storage medium, electronic equipment and product |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210934650.8A CN115442658B (zh) | 2022-08-04 | 2022-08-04 | 直播方法、装置、存储介质、电子设备及产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115442658A true CN115442658A (zh) | 2022-12-06 |
CN115442658B CN115442658B (zh) | 2024-02-09 |
Family
ID=84241703
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210934650.8A Active CN115442658B (zh) | 2022-08-04 | 2022-08-04 | 直播方法、装置、存储介质、电子设备及产品 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN115442658B (zh) |
WO (1) | WO2024027063A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115695841A (zh) * | 2023-01-05 | 2023-02-03 | 威图瑞(北京)科技有限公司 | 一种在外置式虚拟场景中嵌入在线直播的方法和装置 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104010225A (zh) * | 2014-06-20 | 2014-08-27 | 合一网络技术(北京)有限公司 | 显示全景视频的方法和系统 |
CN105791881A (zh) * | 2016-03-15 | 2016-07-20 | 深圳市望尘科技有限公司 | 一种基于光场摄像机的三维场景录播的实现方法 |
CN106231378A (zh) * | 2016-07-28 | 2016-12-14 | 北京小米移动软件有限公司 | 直播间的显示方法、装置及系统 |
CN108961376A (zh) * | 2018-06-21 | 2018-12-07 | 珠海金山网络游戏科技有限公司 | 虚拟偶像直播中实时绘制三维场景的方法及系统 |
CN111541932A (zh) * | 2020-04-30 | 2020-08-14 | 广州华多网络科技有限公司 | 直播间的用户形象展示方法、装置、设备及存储介质 |
CN111541909A (zh) * | 2020-04-30 | 2020-08-14 | 广州华多网络科技有限公司 | 全景直播的送礼方法、装置、设备及存储介质 |
CN111698522A (zh) * | 2019-03-12 | 2020-09-22 | 北京竞技时代科技有限公司 | 一种基于混合现实的直播系统 |
US20200336668A1 (en) * | 2019-04-16 | 2020-10-22 | At&T Intellectual Property I, L.P. | Selecting spectator viewpoints in volumetric video presentations of live events |
CN112533002A (zh) * | 2020-11-17 | 2021-03-19 | 南京邮电大学 | 一种用于vr全景直播的动态图像融合方法及系统 |
JP2021125030A (ja) * | 2020-02-06 | 2021-08-30 | 株式会社 ディー・エヌ・エー | 拡張現実技術を用いたコンテンツを提供するためのプログラム、システム、及び方法 |
CN113989432A (zh) * | 2021-10-25 | 2022-01-28 | 北京字节跳动网络技术有限公司 | 3d影像的重构方法、装置、电子设备及存储介质 |
CN114647303A (zh) * | 2020-12-18 | 2022-06-21 | 阿里巴巴集团控股有限公司 | 互动方法、装置及计算机程序产品 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106792214B (zh) * | 2016-12-12 | 2021-06-18 | 福建凯米网络科技有限公司 | 一种基于数字视听场所的直播互动方法和系统 |
WO2019041351A1 (zh) * | 2017-09-04 | 2019-03-07 | 艾迪普(北京)文化科技股份有限公司 | 一种3d vr视频与虚拟三维场景实时混叠渲染的方法 |
CN108650523B (zh) * | 2018-05-22 | 2021-09-17 | 广州虎牙信息科技有限公司 | 直播间的显示及虚拟物品选取方法、服务器、终端和介质 |
CN110636324B (zh) * | 2019-10-24 | 2021-06-11 | 腾讯科技(深圳)有限公司 | 界面显示方法、装置、计算机设备及存储介质 |
CN114827637A (zh) * | 2021-01-21 | 2022-07-29 | 北京陌陌信息技术有限公司 | 一种虚拟定制礼物的展示方法、系统、设备和存储介质 |
CN114745598B (zh) * | 2022-04-12 | 2024-03-19 | 北京字跳网络技术有限公司 | 视频数据展示方法、装置、电子设备及存储介质 |
-
2022
- 2022-08-04 CN CN202210934650.8A patent/CN115442658B/zh active Active
- 2022-12-05 WO PCT/CN2022/136581 patent/WO2024027063A1/zh unknown
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104010225A (zh) * | 2014-06-20 | 2014-08-27 | 合一网络技术(北京)有限公司 | 显示全景视频的方法和系统 |
CN105791881A (zh) * | 2016-03-15 | 2016-07-20 | 深圳市望尘科技有限公司 | 一种基于光场摄像机的三维场景录播的实现方法 |
CN106231378A (zh) * | 2016-07-28 | 2016-12-14 | 北京小米移动软件有限公司 | 直播间的显示方法、装置及系统 |
CN108961376A (zh) * | 2018-06-21 | 2018-12-07 | 珠海金山网络游戏科技有限公司 | 虚拟偶像直播中实时绘制三维场景的方法及系统 |
CN111698522A (zh) * | 2019-03-12 | 2020-09-22 | 北京竞技时代科技有限公司 | 一种基于混合现实的直播系统 |
US20200336668A1 (en) * | 2019-04-16 | 2020-10-22 | At&T Intellectual Property I, L.P. | Selecting spectator viewpoints in volumetric video presentations of live events |
JP2021125030A (ja) * | 2020-02-06 | 2021-08-30 | 株式会社 ディー・エヌ・エー | 拡張現実技術を用いたコンテンツを提供するためのプログラム、システム、及び方法 |
CN111541932A (zh) * | 2020-04-30 | 2020-08-14 | 广州华多网络科技有限公司 | 直播间的用户形象展示方法、装置、设备及存储介质 |
CN111541909A (zh) * | 2020-04-30 | 2020-08-14 | 广州华多网络科技有限公司 | 全景直播的送礼方法、装置、设备及存储介质 |
CN112533002A (zh) * | 2020-11-17 | 2021-03-19 | 南京邮电大学 | 一种用于vr全景直播的动态图像融合方法及系统 |
CN114647303A (zh) * | 2020-12-18 | 2022-06-21 | 阿里巴巴集团控股有限公司 | 互动方法、装置及计算机程序产品 |
CN113989432A (zh) * | 2021-10-25 | 2022-01-28 | 北京字节跳动网络技术有限公司 | 3d影像的重构方法、装置、电子设备及存储介质 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115695841A (zh) * | 2023-01-05 | 2023-02-03 | 威图瑞(北京)科技有限公司 | 一种在外置式虚拟场景中嵌入在线直播的方法和装置 |
CN115695841B (zh) * | 2023-01-05 | 2023-03-10 | 威图瑞(北京)科技有限公司 | 一种在外置式虚拟场景中嵌入在线直播的方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115442658B (zh) | 2024-02-09 |
WO2024027063A1 (zh) | 2024-02-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11217006B2 (en) | Methods and systems for performing 3D simulation based on a 2D video image | |
US8990842B2 (en) | Presenting content and augmenting a broadcast | |
US20190270015A1 (en) | Building virtual reality (vr) gaming environments using real-world virtual reality maps | |
US20120159527A1 (en) | Simulated group interaction with multimedia content | |
CN106303555A (zh) | 一种基于混合现实的直播方法、装置和系统 | |
CN107633441A (zh) | 追踪识别视频图像中的商品并展示商品信息的方法和装置 | |
TW202123178A (zh) | 一種分鏡效果的實現方法、裝置及相關產品 | |
CN109743584B (zh) | 全景视频合成方法、服务器、终端设备及存储介质 | |
US20210166461A1 (en) | Avatar animation | |
CN115442658B (zh) | 直播方法、装置、存储介质、电子设备及产品 | |
CN116095353A (zh) | 基于体积视频的直播方法、装置、电子设备及存储介质 | |
CN115442519B (zh) | 视频处理方法、装置及计算机可读存储介质 | |
KR20200028830A (ko) | 실시간 cg 영상 방송 서비스 시스템 | |
US20240048780A1 (en) | Live broadcast method, device, storage medium, electronic equipment and product | |
CN115546408A (zh) | 模型简化方法、装置、存储介质、电子设备及产品 | |
CN104185008B (zh) | 一种生成3d媒体数据的方法和装置 | |
CN115756263A (zh) | 剧本交互方法、装置、存储介质、电子设备及产品 | |
JP7356662B2 (ja) | コンピュータプログラム、及び方法 | |
US11910132B2 (en) | Head tracking for video communications in a virtual environment | |
CN116109974A (zh) | 体积视频展示方法以及相关设备 | |
US11983819B2 (en) | Methods and systems for deforming a 3D body model based on a 2D image of an adorned subject | |
CN116017083A (zh) | 视频回放控制方法、装置、电子设备及存储介质 | |
Hogue et al. | A Visual Programming Interface for Experimenting with Volumetric Video | |
US20230386135A1 (en) | Methods and systems for deforming a 3d body model based on a 2d image of an adorned subject | |
CN116233395A (zh) | 体积视频的视频合拍方法、装置和计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |