CN109104619A - 用于直播的图像处理方法和装置 - Google Patents
用于直播的图像处理方法和装置 Download PDFInfo
- Publication number
- CN109104619A CN109104619A CN201811145764.4A CN201811145764A CN109104619A CN 109104619 A CN109104619 A CN 109104619A CN 201811145764 A CN201811145764 A CN 201811145764A CN 109104619 A CN109104619 A CN 109104619A
- Authority
- CN
- China
- Prior art keywords
- main broadcaster
- image
- personage
- role
- physical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 25
- 210000003128 head Anatomy 0.000 claims description 27
- 238000006467 substitution reaction Methods 0.000 claims description 11
- 238000004088 simulation Methods 0.000 claims description 10
- 210000001508 eye Anatomy 0.000 claims description 7
- 239000008280 blood Substances 0.000 claims description 4
- 210000004369 blood Anatomy 0.000 claims description 4
- 210000000746 body region Anatomy 0.000 claims description 3
- 231100000241 scar Toxicity 0.000 claims description 3
- 239000007921 spray Substances 0.000 claims description 3
- 238000000034 method Methods 0.000 abstract description 18
- 238000004590 computer program Methods 0.000 description 16
- 230000000875 corresponding effect Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 15
- 230000000694 effects Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 6
- 238000005111 flow chemistry technique Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000005611 electricity Effects 0.000 description 2
- 238000005538 encapsulation Methods 0.000 description 2
- 231100000572 poisoning Toxicity 0.000 description 2
- 230000000607 poisoning effect Effects 0.000 description 2
- 239000000758 substrate Substances 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 206010048232 Yawning Diseases 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 235000019504 cigarettes Nutrition 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 208000014674 injury Diseases 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008733 trauma Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/235—Processing of additional data, e.g. scrambling of additional data or processing content descriptors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/435—Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4781—Games
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
Abstract
本公开提供了一种用于直播的图像处理方法。所述方法包括在所述直播的画面中叠加显示包括主播人物的主播图像,接着读取所述直播中由所述主播人物操控的角色的身体状态,其中,所述身体状态包括一个或多个身体部位的状态,然后基于所述角色的身体状态,处理所述主播图像,以使处理后的所述主播图像中所述主播人物与所述角色呈现相同或相似的身体状态。本公开还提供了一种用于直播的图像处理装置。
Description
技术领域
本公开涉及一种用于直播的图像处理方法和一种用于直播的图像处理装置。
背景技术
网络直播越来越受到大众的广泛追捧和欢迎,例如各种游戏直播、教育直播、或者有奖竞猜直播等。目前的直播场景中,通常要么只显示直播内容的画面,要么在显示直播内容的画面的同时叠加显示主播当前的真实画面。而且,由于有些直播的画面(例如,游戏直播)中往往需要大量图像元素渲染场景,从而导致直播的画面中人物角色很小,人物角色的状态细节并不能够清楚的显示。而且,尽管在一些情况下,可以叠加显示主播的当前真实画面,通常也是主播当前录制的真实状态的重现,看得久了之后难免会产生单一乏味的感觉。可见,现有技术中,观看直播视频时,观看者往往无法直观地欣赏到直播的画面中人物角色的一些状态(例如,开心大笑、打哈欠、受伤、爆头、或中毒)等,会使观看者感觉单一无趣。
发明内容
本公开的一个方面提供了一种用于直播的图像处理方法,包括在所述直播的画面中叠加显示包括主播人物的主播图像,接着读取所述直播中由所述主播人物操控的角色的身体状态,其中,所述身体状态包括一个或多个身体部位的状态,然后基于所述角色的身体状态,处理所述主播图像,以使处理后的所述主播图像中所述主播人物与所述角色呈现相同或相似的身体状态。
可选地,基于所述角色的身体状态,处理所述主播图像,包括获取用于使所述主播人物的第一身体部位与所述角色的第一身体部位呈现相同或相似的状态的图形元素,以及将所述图形元素叠加显示在所述主播图像中所述主播人物的第一身体部位的对应位置。
可选地,基于所述角色的身体状态,处理所述主播图像,包括将所述主播图像中所述主播人物的第一身体部位的图像提取出来作为第一子图像,基于所述角色的第一身体部位的状态,处理所述第一子图像以得到第二子图像,以及以所述第二子图像替代所述主播图像中所述主播人物的第一身体部位的图像。
可选地,基于所述角色的身体状态,处理所述主播图像包括提取所述主播图像中所述主播人物的至少一部分身体部位的信息,根据所述至少一部分身体部位的信息,构建与所述主播人物对应的数字人物模型,以所述数字人物模型替代所述主播图像中的所述主播人物;以及通过所述数字人物模型模拟所述角色,以使所述数字人物模型与所述角色呈现相同或相似的身体状态。
可选地,所述图像处理方法还包括识别所述主播图像中所述主播人物的身体。
可选地,所述直播包括直播游戏,所述身体部位包括头部或面部。在所述身体部位包括头部时,所述角色的身体状态包括头部的特定位置有伤痕、头部有穿戴设备、头部的特定位置被击中、和/或头部的特定位置流血。或者在所述身体部位包括面部时,所述角色的身体状态包括眼睛流泪、鼻子喷血、张口大笑、和/或面部呈特定颜色。
本公开的另一个方面提供了一种用于直播的图像处理装置,包括显示模块、读取模块、以及处理模块。显示模块用于在所述直播的画面中叠加显示包括主播人物的主播图像。读取模块用于读取所述直播中由所述主播人物操控的角色的身体状态,其中,所述身体状态包括一个或多个身体部位的状态。处理模块用于基于所述角色的身体状态,处理所述主播图像,以使处理后的所述主播图像中所述主播人物与所述角色呈现相同或相似的身体状态。
可选地,所述处理模块可以包括获取子模块和叠加子模块。获取子模块用于获取用于使所述主播人物的第一身体部位与所述角色的第一身体部位呈现相同或相似的状态的图形元素。叠加子模块用于将所述图形元素叠加显示在所述主播图像中所述主播人物的第一身体部位的对应位置。
可选地,所述处理模块包括第一提取子模块、第一处理子模块、以及第一替代子模块。第一提取子模块用于将所述主播图像中所述主播人物的第一身体部位的图像提取出来作为第一子图像。第一处理子模块用于基于所述角色的第一身体部位的状态,处理所述第一子图像以得到第二子图像。第一替代子模块用于以所述第二子图像替代所述主播图像中所述主播人物的第一身体部位的图像。
可选地,所述处理模块可以包括第二提取子模块、构建子模块、第二替代子模块、以及模拟子模块。第二提取子模块用于提取所述主播图像中所述主播人物的至少一部分身体部位的信息。构建子模块用于根据所述至少一部分身体部位的信息,构建与所述主播人物对应的数字人物模型。第二替代子模块用于以所述数字人物模型替代所述主播图像中的所述主播人物。模拟子模块用于通过所述数字人物模型模拟所述角色,以使所述数字人物模型与所述角色呈现相同或相似的身体状态。
可选地,所述图像处理装置还包括识别模块,用于识别所述主播图像中所述主播人物的身体。
本公开的另一方面提供了一种用于直播的图像处理系统,包括一个或多个存储装置,以及一个或多个处理器。所述存储装置存储有计算机可执行指令。所述处理器执行所述指令以实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
附图说明
为了更完整地理解本公开及其优势,现在将参考结合附图的以下描述,其中:
图1示意性示出了根据本公开实施例的用于直播的图像处理方法和装置的应用场景;
图2示意性示出了根据本公开实施例的用于直播的图像处理方法的流程图;
图3A示意性示出了根据本公开一实施例的处理主播图像的流程图;
图3B示意性示出了根据图3A的流程处理主播图像后获得的直播的画面的一个显示效果实例;
图4A示意性示出了根据本公开另一实施例的处理主播图像的流程图;
图4B示意性示出了根据图4A的流程处理主播图像后获得的直播的画面的一个显示效果实例;
图5示意性示出了根据本公开再一实施例的处理主播图像的流程图;
图6示意性示出了根据本公开另一实施例的用于直播的图像处理方法的流程图;
图7示意性示出了根据本公开实施例的用于直播的图像处理装置的框图;
图8A~8C示意性示出了根据本公开各个实施例的处理模块的框图;以及
图9示意性示出了根据本公开实施例的适用于直播的图像处理的计算机系统的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
附图中示出了一些方框图和/或流程图。应理解,方框图和/或流程图中的一些方框或其组合可以由计算机程序指令来实现。这些计算机程序指令可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,从而这些指令在由该处理器执行时可以创建用于实现这些方框图和/或流程图中所说明的功能/操作的装置。本公开的技术可以硬件和/或软件(包括固件、微代码等)的形式来实现。另外,本公开的技术可以采取存储有指令的计算机可读存储介质上的计算机程序产品的形式,该计算机程序产品可供指令执行系统使用或者结合指令执行系统使用。
本公开的实施例提供了一种用于直播的图像处理方法和装置。该方法包括在该直播的画面中叠加显示包括主播人物的主播图像,读取该直播中由该主播人物操控的角色的身体状态,其中,该身体状态包括一个或多个身体部位的状态,基于该角色的身体状态,处理该主播图像,以使处理后的该主播图像中该主播人物与该角色呈现相同或相似的身体状态。
根据本公开实施例的方法和装置,在视频直播过程中,不仅在直播的画面中叠加主播图像,而且对叠加的主播图像进行处理,使该主播图像中的主播人物呈现出与该主播人物操控的角色的身体状态相同或相近的效果,从而使得角色的状态可以借助该主播图像中的主播人物体现出来,有效提高了直播的观赏性和趣味性。
图1示意性示出了根据本公开实施例的用于直播的图像处理方法和装置的应用场景100。需要注意的是,图1所示仅为可以应用本公开实施例的场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,该应用场景100包括观看者所使用的第一终端设备101、以及主播所使用的第二终端设备102,以及网络103、网络104以及服务器105。网络103可以是用以在第一终端设备101和服务器105之间提供通信链路的介质。网络104可以是用以在第二终端设备102和服务器105之间提供通信链路的介质。网络103和网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。在一些实施例中,网络103和网络104可以是同一个网络,或者网络103和网络104可以是部分重叠地网络。
第一终端设备101和/或第二终端设备102可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如可以是后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。例如,服务器105可以接收第二终端设备102上传的直播流数据,并发送给第一终端设备101。
第二终端设备102例如可以安装有各种直播类应用程序App。直播视频的主播可以通过该第二终端设备102录制并上传直播流数据至服务器105,例如游戏直播、竞猜答题等直播。
第一终端设备101例如可以安装有视频播放软件,能够接收服务器105通过网络103发送的视频流数据并进行播放。观看者可以通过第一终端设备101观看直播视频。
根据本公开的实施例,在应用场景100中,在第一终端设备101中直播的画面中不仅叠加主播图像(例如,件图中主播图像以小窗口的形式显示在直播的画面的右上角),而且对叠加的主播图像进行处理后显示,使该主播图像中的主播人物可以呈现出与主播操控的角色的身体状态相同或相近的效果,从而使得直播视频中的角色的状态可以借助该主播图像中的主播人物体现出来。
需要说明的是,本公开实施例所提供的用于直播的图像处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的用于直播的图像处理装置一般可以设置于服务器105中。本公开实施例所提供的用于直播的图像处理方法也可以由不同于服务器105且能够与第一终端设备101、和/或第二终端设备102、和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的用于直播的图像处理装置也可以设置于不同于服务器105且能够与第一终端设备101、和/或第二终端设备102和/或服务器105通信的服务器或服务器集群中。或者,本公开实施例所提供的用于直播的图像处理方法也可以一部分可以由服务器105执行,另一部分由第一终端设备101执行。相应地,本公开实施例所提供的用于直播的图像处理装置可以一部分设置于服务器105中,另一部分设置于第一终端设备101中。再或者,本公开实施例所提供的用于直播的图像处理方法也可以由第一终端设备101执行。相应地,本公开实施例所提供的用于直播的图像处理装置也可以设置于第一终端设备101中。
需要注意的是,图1所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
图2示意性示出了根据本公开实施例的用于直播的图像处理方法的流程图。
如图2所示,根据本公开的实施例,该用于直播的图像处理方法包括操作S110~S130。该直播例如可以是游戏直播、教育直播、或者有奖竞猜直播等。
在操作S110,在直播的画面中叠加显示包括主播人物的主播图像。
然后在操作S120,读取该直播中由主播人物操控的角色的身体状态,其中,该身体状态包括一个或多个身体部位的状态。
例如,该一个或多个身体部位的状态例如可以是头部、脸部、胸部或者手臂等一个身体部位的状态,或者身体中的若干个身体部位的状态的组合,或者也可以是整个身体的状态(例如,游戏直播中角色中毒后全身发紫)。
根据本公开一个实施例,该直播可以是直播游戏,相应地该身体部位例如可以是头部或面部。例如,在该身体部位包括头部时,该角色的身体状态可以是头部的特定位置有伤痕、头部有穿戴设备、头部的特定位置被击中、和/或头部的特定位置流血。或者又例如,该身体部位包括面部时,该角色的身体状态包括眼睛流泪、鼻子喷血、张口大笑、和/或面部呈特定颜色。
再在操作S130,基于该角色的身体状态,处理该主播图像,以使处理后的主播图像中该主播人物与该角色呈现相同或相似的身体状态。在操作S130中,例如可以是根据该角色的身体状态,将对应的表情、动作、或姿态等元素与该主播图像中的主播人物进行融合显示。在另一些实施例中,还可以根据角色所处的情景对主播图像中主播人物的背景图像进行渲染。例如,当该角色在游戏中取得胜利、或受到奖励等情况,可以对该主播人物叠加烟花、鞭炮、鼓掌等情景元素。
根据本公开的实施例,不仅在直播的画面中叠加主播图像,而且对叠加的主播图像进行处理,使该主播图像中的主播人物呈现出与该主播人物操控的角色的身体状态相同或相近的效果,从而使得角色的状态可以借助该主播图像中的主播人物体现出来,有效地提高了直播的观赏性和趣味性,更容易吸引和留住观众。
图3A示意性示出了根据本公开一实施例的操作S130处理主播图像的流程图。
如图3A所示,根据本公开一实施例,操作S130可以包括操作S131和S132。
在操作S131,获取用于使该主播人物的第一身体部位与该角色的第一身体部位呈现相同或相似的状态的图形元素。
在操作S132,将该图形元素叠加显示在该主播图像中该主播人物的第一身体部位的对应位置。
图3B示意性示出了根据图3A的流程处理主播图像后获得的直播的画面的一个显示效果实例。
如图3B所示,在直播的画面的右上角显示有主播图像。假设在操作S120中读取的该角色的身体状态是胸部被匕首刺中,那么根据本公开的实施例,在操作S131中可以获取一个匕首图形,然后在操作S132中,将该匕首图形叠加显示在该主播图像中该主播人物的胸部对应位置上。
图4A示意性示出了根据本公开另一实施例的操作S130处理主播图像的流程图
如图4A所示,根据本公开另一实施例,操作S130可以包括操作S133~S135。
在操作S133,将该主播图像中该主播人物的第一身体部位的图像提取出来作为第一子图像。
在操作S134,基于该角色的第一身体部位的状态,处理该第一子图像以得到第二子图像。
在操作S135,以该第二子图像替代该主播图像中该主播人物的第一身体部位的图像。
图4B示意性示出了根据图4A的流程处理主播图像后获得的直播的画面的一个显示效果实例。
如图4B所示,例如,假设在操作S120中读取的角色的身体部位为眼睛流泪。那么在操作S133中,例如可以将该主播图像中该主播人物的包括脸的整个头部图像提取出来作为第一子图像。然后在操作S134中对该主播人物的整个头部图像进行处理,例如识别出该主播人物的眼睛,然后对主播人物的眼睛处理获得主播人物泪流满面的第二子图像。在一些实施例中,为了使得显示效果更夸张和逼真,还可以将主播人物泪流满面的第二图像进行放大以清楚显示更多细节。之后,在操作S135中,以该第二字图像替代原主播图像中主播人物的整个头部,就可以得到图4B中所示的主播人物流泪满面的图像。在图4B的示例中,该主播人物的脑袋和身体的比例并不符合实际中人的比例,其中头部部分的细节被明显放大。
再例如,若在操作S120中读取的角色的身体部位为面部表情惊讶。根据本公开的实施例,可以提取出主播图像中主播人物的面部的图像,并处理为下巴掉地上、眼珠子蹦出来等效果的第二子图像,然后以该第二子图像替代主播图像中主播人物的面部。各类举例不一而足,在此不再赘述。
图5示意性示出了根据本公开再一实施例的操作S130处理主播图像的流程图。
如图5所示,根据本公开再一实施例,操作S130可以包括操作S136~S139。
在操作S136,提取该主播图像中该主播人物的至少一部分身体部位的信息。
在操作S137,根据该至少一部分身体部位的信息,构建与该主播人物对应的数字人物模型。
在操作S138,以该数字人物模型替代该主播图像中的该主播人物。
在操作S139,通过该数字人物模型模拟该角色,以使该数字人物模型与该角色呈现相同或相似的身体状态。
根据本公开的实施例,可以模拟出与主播图像中的主播人物对应的数字人物模型,通过这个数字人物模型去模拟游戏中的角色的身体状态。
图6示意性示出了根据本公开另一实施例的用于直播的图像处理方法的流程图。
如图6所示,该方法除了操作S110~S130,还可以包括操作S140,其中操作S140可以在操作S120之前执行。
在操作S140,识别该主播图像中该主播人物的身体。例如,可以通过人体3D识别获得该主播图像中主播人物的身体。
根据本公开的实施例,例如,在游戏主播直播游戏的场景,在游戏场景之外不仅显示主播本人的真实图像,而且可以将游戏中杀伤等显示效果叠加显示在主播图像上。具体地,可以结合对主播图像中主播人物的人体3D识别,获得主播图像中主播人物的身体,然后将角色的身体状态对应的效果,融合显示在主播人物的身体上,使显示的效果更佳逼真。比如眼睛流出的血或者眼泪沿着嘴角淌下来的效果。在一些实施例中,例如,可以读取游戏中主播操控的角色被攻击的位置和方式,比如读取出角色是被刀砍还是中枪,或者是头部受伤还是胸部受伤,甚至受伤程度。进而将对应的效果处理到主播图像中的主播人物的身体上,使主播人物可以直观地表现出这种效果。更进一步地,还可以扩展,例如枪击爆头了,主播人物的头部可以被处理为叠加有特别惨烈的效果。在一些实施例中,例如,可以对爆头场景等叠加马赛克显示,以免场面过于血腥而引起观看者的不适。
图7示意性示出了根据本公开实施例的用于直播的图像处理装置700的框图。
如图7所示,根据本公开的实施例,该装置700包括显示模块710、读取模块720、和处理模块730。该装置700可以用于执行上面参考图2~图6描述的方法,实现根据本公开实施例所描述的用于直播的图像处理方法。
具体地,显示模块710例如可以执行操作S110,用于在该直播的画面中叠加显示包括主播人物的主播图像。
读取模块720例如可以执行操作S120,用于读取该直播中由该主播人物操控的角色的身体状态,其中,该身体状态包括一个或多个身体部位的状态。
处理模块730例如可以执行操作S130,用于基于该角色的身体状态,处理该主播图像,以使处理后的该主播图像中该主播人物与该角色呈现相同或相似的身体状态。
根据本公开的实施例,该装置700还可以包括识别模块740。该识别模块740例如可以执行操作S140,用于识别该主播图像中该主播人物的身体。
图8A~8C示意性示出了根据本公开各个实施例的处理模730的框图。
图8A示意性示出了根据本公开一实施例的处理模块730的框图。
如图8A所示,根据本公开一实施例,该处理模块730可以包括获取子模块731和叠加子模块732。
获取子模块731例如可以执行操作S131,用于获取用于使该主播人物的第一身体部位与该角色的第一身体部位呈现相同或相似的状态的图形元素。
叠加子模块732例如可以执行操作S132,用于将该图形元素叠加显示在该主播图像中该主播人物的第一身体部位的对应位置。
图8B示意性示出了根据本公开另一实施例的处理模块的框图。
如图8B所示,根据本公开另一实施例,该处理模块730可以包括第一提取子模块733、第一处理子模块734和第一替代子模块735。
第一提取子模块733例如可以执行操作S133,用于将该主播图像中该主播人物的第一身体部位的图像提取出来作为第一子图像。
第一处理子模块734例如可以执行操作S134,用于基于该角色的第一身体部位的状态,处理该第一子图像以得到第二子图像。
第一替代子模块735例如可以执行操作S135,用于以该第二子图像替代该主播图像中该主播人物的第一身体部位的图像。
图8C示意性示出了根据本公开再一实施例的处理模块730的框图。
如图8C所示,根据本公开再一实施例,该处理模块730可以包第二提取子模块736、构建子模块737、第二替代子模块738、和模拟子模块739。
第二提取子模块736例如可以执行操作S136,用于提取该主播图像中该主播人物的至少一部分身体部位的信息。
构建子模块737例如可以执行操作S137,用于根据该至少一部分身体部位的信息,构建与该主播人物对应的数字人物模型。
第二替代子模块738例如可以执行操作S138,用于以该数字人物模型替代该主播图像中的该主播人物。
模拟子模块739例如可以执行操作S139,用于通过该数字人物模型模拟该角色,以使该数字人物模型与该角色呈现相同或相似的身体状态。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,显示模块710、读取模块720、处理模块730、识别模块740、获取子模块731、叠加子模块732、第一提取子模块733、第一处理子模块734、第一替代子模块735、第二提取子模块736、构建子模块737、第二替代子模块738、以及模拟子模块739中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,显示模块710、读取模块720、处理模块730、识别模块740、获取子模块731、叠加子模块732、第一提取子模块733、第一处理子模块734、第一替代子模块735、第二提取子模块736、构建子模块737、第二替代子模块738、以及模拟子模块739中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,显示模块710、读取模块720、处理模块730、识别模块740、获取子模块731、叠加子模块732、第一提取子模块733、第一处理子模块734、第一替代子模块735、第二提取子模块736、构建子模块737、第二替代子模块738、以及模拟子模块739中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图9示意性示出了根据本公开实施例的适用于直播的图像处理的计算机系统900的框图。图9示出的计算机系统900仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示,该计算机系统900包括处理器910、以及计算机可读存储介质920。该计算机系统900可以执行根据本公开实施例的方法。
具体地,处理器910例如可以包括通用微处理器、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器910还可以包括用于缓存用途的板载存储器。处理器910可以是用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
计算机可读存储介质920,例如可以是非易失性的计算机可读存储介质,具体示例包括但不限于:磁存储装置,如磁带或硬盘(HDD);光存储装置,如光盘(CD-ROM);存储器,如随机存取存储器(RAM)或闪存;等等。
计算机可读存储介质920可以包括计算机程序921,该计算机程序921可以包括代码/计算机可执行指令,其在由处理器910执行时使得处理器910执行根据本公开实施例的方法或其任何变形。
计算机程序921可被配置为具有例如包括计算机程序模块的计算机程序代码。例如,在示例实施例中,计算机程序921中的代码可以包括一个或多个程序模块,例如包括921A、模块921B、……。应当注意,模块的划分方式和个数并不是固定的,本领域技术人员可以根据实际情况使用合适的程序模块或程序模块组合,当这些程序模块组合被处理器910执行时,使得处理器910可以执行根据本公开实施例的方法或其任何变形。
根据本公开的实施例,显示模块710、读取模块720、处理模块730、识别模块740、获取子模块731、叠加子模块732、第一提取子模块733、第一处理子模块734、第一替代子模块735、第二提取子模块736、构建子模块737、第二替代子模块738、以及模拟子模块739中的至少一个可以实现为参考图9描述的计算机程序模块,其在被处理器910执行时,可以实现上面描述的相应操作。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
尽管已经参照本公开的特定示例性实施例示出并描述了本公开,但是本领域技术人员应该理解,在不背离所附权利要求及其等同物限定的本公开的精神和范围的情况下,可以对本公开进行形式和细节上的多种改变。因此,本公开的范围不应该限于上述实施例,而是应该不仅由所附权利要求来进行确定,还由所附权利要求的等同物来进行限定。
Claims (10)
1.一种用于直播的图像处理方法,包括:
在所述直播的画面中叠加显示包括主播人物的主播图像;
读取所述直播中由所述主播人物操控的角色的身体状态,其中,所述身体状态包括一个或多个身体部位的状态;
基于所述角色的身体状态,处理所述主播图像,以使处理后的所述主播图像中所述主播人物与所述角色呈现相同或相似的身体状态。
2.根据权利要求1所述的图像处理方法,其中,基于所述角色的身体状态,处理所述主播图像,包括:
获取用于使所述主播人物的第一身体部位与所述角色的第一身体部位呈现相同或相似的状态的图形元素;以及
将所述图形元素叠加显示在所述主播图像中所述主播人物的第一身体部位的对应位置。
3.根据权利要求1所述的图像处理方法,其中,基于所述角色的身体状态,处理所述主播图像,包括:
将所述主播图像中所述主播人物的第一身体部位的图像提取出来作为第一子图像;
基于所述角色的第一身体部位的状态,处理所述第一子图像以得到第二子图像;以及
以所述第二子图像替代所述主播图像中所述主播人物的第一身体部位的图像。
4.根据权利要求1所述的图像处理方法,其中,基于所述角色的身体状态,处理所述主播图像,包括:
提取所述主播图像中所述主播人物的至少一部分身体部位的信息;
根据所述至少一部分身体部位的信息,构建与所述主播人物对应的数字人物模型;
以所述数字人物模型替代所述主播图像中的所述主播人物;以及
通过所述数字人物模型模拟所述角色,以使所述数字人物模型与所述角色呈现相同或相似的身体状态。
5.根据权利要求1~4任意一项所述的图像处理方法,还包括:
识别所述主播图像中所述主播人物的身体。
6.根据权利要求1~4任意一项所述的图像处理方法,其中,所述直播包括直播游戏,所述身体部位包括头部或面部:
在所述身体部位包括头部时,所述角色的身体状态包括头部的特定位置有伤痕、头部有穿戴设备、头部的特定位置被击中、和/或头部的特定位置流血;或者
在所述身体部位包括面部时,所述角色的身体状态包括眼睛流泪、鼻子喷血、张口大笑、和/或面部呈特定颜色。
7.一种用于直播的图像处理装置,包括:
显示模块,用于在所述直播的画面中叠加显示包括主播人物的主播图像;
读取模块,用于读取所述直播中由所述主播人物操控的角色的身体状态,其中,所述身体状态包括一个或多个身体部位的状态;
处理模块,用于基于所述角色的身体状态,处理所述主播图像,以使处理后的所述主播图像中所述主播人物与所述角色呈现相同或相似的身体状态。
8.根据权利要求7所述的图像处理装置,其中,所述处理模块包括:
获取子模块,用于获取用于使所述主播人物的第一身体部位与所述角色的第一身体部位呈现相同或相似的状态的图形元素;以及
叠加子模块,用于将所述图形元素叠加显示在所述主播图像中所述主播人物的第一身体部位的对应位置。
9.根据权利要求7所述的图像处理装置,其中,所述处理模块包括:
第一提取子模块,用于将所述主播图像中所述主播人物的第一身体部位的图像提取出来作为第一子图像;
第一处理子模块,用于基于所述角色的第一身体部位的状态,处理所述第一子图像以得到第二子图像;以及
第一替代子模块,用于以所述第二子图像替代所述主播图像中所述主播人物的第一身体部位的图像。
10.根据权利要求7所述的图像处理装置,其中,所述处理模块包括:
第二提取子模块,用于提取所述主播图像中所述主播人物的至少一部分身体部位的信息;
构建子模块,用于根据所述至少一部分身体部位的信息,构建与所述主播人物对应的数字人物模型;
第二替代子模块,用于以所述数字人物模型替代所述主播图像中的所述主播人物;以及
模拟子模块,用于通过所述数字人物模型模拟所述角色,以使所述数字人物模型与所述角色呈现相同或相似的身体状态。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811145764.4A CN109104619B (zh) | 2018-09-28 | 2018-09-28 | 用于直播的图像处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811145764.4A CN109104619B (zh) | 2018-09-28 | 2018-09-28 | 用于直播的图像处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109104619A true CN109104619A (zh) | 2018-12-28 |
CN109104619B CN109104619B (zh) | 2020-10-27 |
Family
ID=64867890
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811145764.4A Active CN109104619B (zh) | 2018-09-28 | 2018-09-28 | 用于直播的图像处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109104619B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111773702A (zh) * | 2020-07-30 | 2020-10-16 | 网易(杭州)网络有限公司 | 一种游戏直播的控制方法及装置 |
CN112153409A (zh) * | 2020-09-29 | 2020-12-29 | 广州虎牙科技有限公司 | 直播方法、装置、直播接收端及存储介质 |
CN113709519A (zh) * | 2021-08-27 | 2021-11-26 | 上海掌门科技有限公司 | 一种用于确定直播遮挡区域的方法与设备 |
WO2023103603A1 (zh) * | 2021-12-10 | 2023-06-15 | 腾讯科技(深圳)有限公司 | 直播互动方法、装置、设备及存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105610868A (zh) * | 2016-03-03 | 2016-05-25 | 腾讯科技(深圳)有限公司 | 一种信息交互的方法、设备及系统 |
CN105791958A (zh) * | 2016-04-22 | 2016-07-20 | 北京小米移动软件有限公司 | 游戏直播方法及装置 |
CN106559696A (zh) * | 2016-12-01 | 2017-04-05 | 北京小米移动软件有限公司 | 信息发送方法及装置 |
CN106658038A (zh) * | 2016-12-19 | 2017-05-10 | 广州虎牙信息科技有限公司 | 基于视频流的直播交互方法及其相应的装置 |
CN106993195A (zh) * | 2017-03-24 | 2017-07-28 | 广州创幻数码科技有限公司 | 虚拟人物角色直播方法及系统 |
CN107274464A (zh) * | 2017-05-31 | 2017-10-20 | 珠海金山网络游戏科技有限公司 | 一种实时交互3d动画的方法、装置和系统 |
CN107277599A (zh) * | 2017-05-31 | 2017-10-20 | 珠海金山网络游戏科技有限公司 | 一种虚拟现实的直播方法、装置和系统 |
US9947139B2 (en) * | 2014-06-20 | 2018-04-17 | Sony Interactive Entertainment America Llc | Method and apparatus for providing hybrid reality environment |
CN108134964A (zh) * | 2017-11-22 | 2018-06-08 | 上海掌门科技有限公司 | 视频直播道具叠加方法、计算机设备及存储介质 |
-
2018
- 2018-09-28 CN CN201811145764.4A patent/CN109104619B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9947139B2 (en) * | 2014-06-20 | 2018-04-17 | Sony Interactive Entertainment America Llc | Method and apparatus for providing hybrid reality environment |
CN105610868A (zh) * | 2016-03-03 | 2016-05-25 | 腾讯科技(深圳)有限公司 | 一种信息交互的方法、设备及系统 |
CN105791958A (zh) * | 2016-04-22 | 2016-07-20 | 北京小米移动软件有限公司 | 游戏直播方法及装置 |
CN106559696A (zh) * | 2016-12-01 | 2017-04-05 | 北京小米移动软件有限公司 | 信息发送方法及装置 |
CN106658038A (zh) * | 2016-12-19 | 2017-05-10 | 广州虎牙信息科技有限公司 | 基于视频流的直播交互方法及其相应的装置 |
CN106993195A (zh) * | 2017-03-24 | 2017-07-28 | 广州创幻数码科技有限公司 | 虚拟人物角色直播方法及系统 |
CN107274464A (zh) * | 2017-05-31 | 2017-10-20 | 珠海金山网络游戏科技有限公司 | 一种实时交互3d动画的方法、装置和系统 |
CN107277599A (zh) * | 2017-05-31 | 2017-10-20 | 珠海金山网络游戏科技有限公司 | 一种虚拟现实的直播方法、装置和系统 |
CN108134964A (zh) * | 2017-11-22 | 2018-06-08 | 上海掌门科技有限公司 | 视频直播道具叠加方法、计算机设备及存储介质 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111773702A (zh) * | 2020-07-30 | 2020-10-16 | 网易(杭州)网络有限公司 | 一种游戏直播的控制方法及装置 |
CN112153409A (zh) * | 2020-09-29 | 2020-12-29 | 广州虎牙科技有限公司 | 直播方法、装置、直播接收端及存储介质 |
CN112153409B (zh) * | 2020-09-29 | 2022-08-19 | 广州虎牙科技有限公司 | 直播方法、装置、直播接收端及存储介质 |
CN113709519A (zh) * | 2021-08-27 | 2021-11-26 | 上海掌门科技有限公司 | 一种用于确定直播遮挡区域的方法与设备 |
CN113709519B (zh) * | 2021-08-27 | 2023-11-17 | 上海掌门科技有限公司 | 一种用于确定直播遮挡区域的方法与设备 |
WO2023103603A1 (zh) * | 2021-12-10 | 2023-06-15 | 腾讯科技(深圳)有限公司 | 直播互动方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109104619B (zh) | 2020-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112348969B (zh) | 增强现实场景下的展示方法、装置、电子设备及存储介质 | |
CN106803057B (zh) | 图像信息处理方法及装置 | |
US11532172B2 (en) | Enhanced training of machine learning systems based on automatically generated realistic gameplay information | |
US11478709B2 (en) | Augmenting virtual reality video games with friend avatars | |
CN109104619A (zh) | 用于直播的图像处理方法和装置 | |
US10380803B1 (en) | Methods and systems for virtualizing a target object within a mixed reality presentation | |
TWI752502B (zh) | 一種分鏡效果的實現方法、電子設備及電腦可讀儲存介質 | |
JP7187182B2 (ja) | データ生成装置、方法およびプログラム | |
CN106730815B (zh) | 一种易实现的体感互动方法及系统 | |
CN108416832B (zh) | 媒体信息的显示方法、装置和存储介质 | |
CN112198959A (zh) | 虚拟现实交互方法、装置及系统 | |
US11501471B2 (en) | Virtual and real composite image data generation method, virtual and real images compositing system, trained model generation method, virtual and real composite image data generation device | |
CN110598700B (zh) | 对象的显示方法和装置、存储介质及电子装置 | |
CN109395387B (zh) | 三维模型的显示方法、装置、存储介质及电子装置 | |
CN111862348A (zh) | 视频显示方法、视频生成方法、装置、设备及存储介质 | |
CN112426712A (zh) | 一种游戏赛事直播画面的生成方法和装置 | |
CN106780761A (zh) | 基于增强现实技术的自闭症儿童兴趣点信息采集系统 | |
CN114095744A (zh) | 视频直播方法、装置、电子设备及可读存储介质 | |
WO2023201937A1 (zh) | 基于故事场景的人机互动方法、装置、设备及介质 | |
US11880945B2 (en) | System and method for populating a virtual crowd in real time using augmented and virtual reality | |
CN111650953B (zh) | 飞行器避障处理方法、装置、电子设备及存储介质 | |
KR20180010724A (ko) | 마커의 분할 및 결합을 통한 오브젝트 생성 증강 현실 장치 및 그 방법 | |
US20230386147A1 (en) | Systems and Methods for Providing Real-Time Composite Video from Multiple Source Devices Featuring Augmented Reality Elements | |
CN105718054A (zh) | 增强现实物的非接触式智能终端控制方法及装置、系统 | |
CN113643417B (zh) | 图像调整方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |