CN111970524B - 交互类直播连麦的控制方法、装置、系统、设备及介质 - Google Patents

交互类直播连麦的控制方法、装置、系统、设备及介质 Download PDF

Info

Publication number
CN111970524B
CN111970524B CN202010821116.7A CN202010821116A CN111970524B CN 111970524 B CN111970524 B CN 111970524B CN 202010821116 A CN202010821116 A CN 202010821116A CN 111970524 B CN111970524 B CN 111970524B
Authority
CN
China
Prior art keywords
terminal
interactive
picture
mirror image
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010821116.7A
Other languages
English (en)
Other versions
CN111970524A (zh
Inventor
王万宏
王亚楼
黄嘉焕
朱勇
李雅欣
车欣
刘佳成
张子豪
王元元
曲喆麒
徐伟豪
陈建平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202010821116.7A priority Critical patent/CN111970524B/zh
Publication of CN111970524A publication Critical patent/CN111970524A/zh
Priority to JP2023502873A priority patent/JP2023533363A/ja
Priority to PCT/CN2021/111925 priority patent/WO2022033494A1/zh
Priority to EP21855545.6A priority patent/EP4184919A4/en
Application granted granted Critical
Publication of CN111970524B publication Critical patent/CN111970524B/zh
Priority to US18/148,185 priority patent/US20230134623A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/218—Source of audio or video content, e.g. local disk arrays
    • H04N21/2187—Live feed
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35—Details of game servers
    • A63F13/355—Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85—Providing additional services to players
    • A63F13/86—Watching games played by other players
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44016—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4781—Games
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4788—Supplemental services, e.g. displaying phone caller identification, shopping application communicating with other users, e.g. chatting

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本公开实施例公开了一种交互类直播连麦的控制方法、装置、系统、设备及介质，其中，交互类直播连麦的控制方法包括：第一终端采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。保证了不同终端在直播场景下交互区域的交互画面的清晰准确，避免了交互画面的错乱。

Description

交互类直播连麦的控制方法、装置、系统、设备及介质
技术领域
本公开实施例涉及计算机数据处理技术领域，尤其涉及一种交互类直播连麦的控制方法、装置、系统、设备及介质。
背景技术
目前，网络直播被广泛接受和应用，直播连麦的应用为网络直播增加了更多的趣味性。
目前的直播连麦时，为了保证观众视角中所在直播间的主播位于同一侧，将两个主播端的视频流直接交换位置。但是，对于交互类型的直播连麦，上述视频流的直接位置交换导致画面错乱，无法实现交互类型的直播连麦。
发明内容
本公开实施例提供了一种交互类直播连麦的控制方法、装置、系统、设备及介质，以形成满足交互类直播连麦场景的显示画面，避免画面混乱。
第一方面，本公开实施例提供了一种交互类直播连麦的控制方法，包括：
第一终端采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；
所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
第二方面，本公开实施例还提供了一种交互类直播连麦的控制方法，包括：
游戏服务器接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面；
所述游戏服务器将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面。
第三方面，本公开实施例还提供了一种交互类直播连麦的控制装置，集成于第一终端，包括：
交互画面获取模块，用于采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；
目标交互画面确定模块，用于将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
第四方面，本公开实施例还提供了一种交互类直播连麦的控制装置，集成于服务器，包括：
镜像交互画面确定模块，用于接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面；
镜像交互画面传输模块，用于将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面。
第五方面，本公开实施例还提供了一种交互类直播连麦的控制系统，包括：第一终端、第二终端和游戏服务器，所述第一终端与所述第二终端处于直播连麦状态，其中：
所述第一终端采集第一交互画面，将所述第一交互画面发送至所述游戏服务器；
所述第二终端采集第二交互画面，将所述第二交互画面发送至所述游戏服务器；
所述游戏服务器分别对所述第一交互画面和所述第二交互画面进行镜像处理，得到第一镜像交互画面和第二镜像交互画面，并将所述第一镜像交互画面传输至所述第二终端，将所述第二镜像交互画面传输至所述第一终端；
所述第一终端基于所述第一交互画面和所述第二镜像交互画面生成第一目标交互画面；
所述第二终端基于所述第二交互画面和所述第一镜像交互画面生成第二目标交互画面。
第六方面，本公开实施例还提供了一种电子设备，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本公开实施例任一所述的交互类直播连麦的控制方法。
第七方面，本公开实施例还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如本公开实施例任一所述的交互类直播连麦的控制方法。
本公开实施例的技术方案，第一终端通过将采集的第一交互画面，以及接收的第二终端的第二交互画面的镜像交互画面进行组合，得到适应于第一终端显示的目标交互画面，保证了不同终端在直播场景下交互区域的交互画面的清晰准确，避免了交互画面的错乱。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。
图1为本公开实施例一所提供的一种交互类直播连麦的控制方法流程示意图；
图2A为本公开实施例一提供的第一终端显示的直播连麦的显示区域的示意图；
图2B为本公开实施例一提供的第二终端显示的直播连麦的显示区域的示意图；
图2C为本公开实施例一提供的一种交互场景的示意图；
图2D是本公开实施例一提供的另一种直播连麦显示区域的示意图；
图3为本公开实施例二所提供的一种交互类直播连麦的控制方法流程示意图；
图4是本发明实施例二提供的一种直播流程示意图；
图5为本公开实施例二所提供的一种交互类直播连麦的控制方法流程示意图；
图6为本公开实施例四提供的一种交互类直播连麦的控制装置结构示意图；
图7是本公开实施例五所提供的一种交互类直播连麦的控制装置结构示意图；
图8为本公开实施例六提供的一种交互类直播连麦的控制系统的结构示意图；
图9是本公开实施例六提供的另一种交互类直播连麦的控制系统的结构示意图；
图10为本公开实施例七所提供的一种电子设备结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
实施例一
图1为本公开实施例一所提供的一种交互类直播连麦的控制方法的流程示意图，本公开实施例适用于在交互类直播连麦的应用场景中，形成直播交互画面的情形，该方法可以由交互类直播连麦的控制装置来执行，该装置可以通过软件和/或硬件的形式实现，可选的，通过电子设备来实现，该电子设备可以是移动终端或者PC端等。
如图1，本实施例的方法包括：
S110、第一终端采集第一交互画面，并接收第二终端的镜像交互画面。
S120、所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
第一终端与第二终端进行直播连麦，第一终端和第二终端可以是诸如手机、平板电脑等的移动终端，或者还可以是PC端等电子设备。第一终端或第二终端可以通过向直播服务器发送连麦请求，该连麦请求中可以包括第一终端和第二终端的标识信息，由直播服务器根据连麦请求进行连麦匹配，实现第一终端和第二终端的直播连麦。
本实施例中，第一终端和第二终端在显示界面的同一交互区域内基于交互对象进行交互。示例性的，参见图2A和图2B，图2A为本公开实施例一提供的第一终端的直播连麦的显示区域的示意图，图2B为本公开实施例一提供的第二终端显示的直播连麦的显示区域的示意图。显示区域中可以包括第一主播的显示区域、第二主播的显示区域和交互区域(虚线区域)，其中，图2A和图2B中交互区域仅为一种示例，交互区域可以是与第一主播的显示区域、第二主播的显示区域全部重叠、部分重叠或完全不重叠，对此不做限定。交互区域的尺寸小于或等于整体显示区域的尺寸。
其中，第一主播的显示区域用于显示第一终端通过摄像头采集的第一主播的图像或视频，第二主播的显示区域用于显示第二终端通过摄像头采集的第二主播的图像或视频。交互区域用于显示第一终端与第二终端的交互画面。其中，交互画面中包括至少一个交互对象，例如图2A和图2B中包括一个交互对象，沿箭头方向运动。需要说明的是，交互对象不局限于图2A和图2B中所示的球状对象，可根据交互场景实时变化，且交互对象的运动方式也可根据各交互场景确定，且其运动方向不局限于图2A和图2B所示。
可选的，交互场景中还可以包括控制对象，即可以受主播输入的控制指令控制的对象。在一些实施例中，控制对象可以不同于互动对象，第一终端和第二终端的控制对象可以不同，即第一终端和第二终端分别对应不同的控制对象，示例性的，参见图2C，图2C为本公开实施例一提供的一种交互场景的示意图。在图2C中，第一终端和第二终端分别对应一个控制对象，可分别控制对应的控制对象进行位置、速度、方向、形态等的变化。且图2C中包括区别与控制对象的交互对象，在交互场景中进行移动。在一些实施例中，控制对象可以是互动对象中的一个或多个，即第一终端或第二终端均可以对交互对象中的一个或多个进行控制，以控制交互对象进行位置、速度、方向、形态等的变化。
根据图2A和图2B可知，在第一终端的显示区域中第一主播的显示区域、在第二终端的显示区域中第二主播的显示区域的位置相同。即在任一终端中，该终端的操作用户的显示区域应位于同一位置，例如连麦显示区域的左侧。同理，交互区域中显示的交互画面同样由两个终端的采集的交互画面确定，其中，第一终端采集第一交互画面，第二终端采集第二交互画面，第一交互画面和第二交互画面的尺寸之和与整体交互画面的尺寸相同，且第一交互画面的尺寸可以与第二交互画面的尺寸相同。示例性的，参见图2A和图2B中，在第一终端的显示区域中，以第一主播显示区域和第二主播显示区域的分割线，位于第一主播显示区域的交互画面为第一交互画面，同理，在第二终端的显示区域中，以第一主播显示区域和第二主播显示区域的分割线，位于第二主播显示区域的交互画面为第二交互画面。参见图2C，对于任一终端的显示的交互画面中，当前终端对应的控制对象位于同一侧，例如交互区域的左侧。交互对象在交互区域中移动，即第一交互画面和/或第二交互画面中包括至少一个互动对象，其中，所述互动对象在所述第一交互画面和第二交互画面中进行移动。
为了形成完整的交互画面，第一终端采集第一交互画面，第二终端采集第二交互画面。可选的，所述第一终端采集第一交互画面，包括：第一终端识别第一用户的视频画面中的控制信息，基于所述控制信息控制互动场景中的被控对象；按帧采集与所述第一终端的交互区域对应的第一交互画面。第一终端可以配置有摄像头，用于采集第一主播的视频，识别视频中各帧视频画面中的控制信息，以控制交互场景中的控制对象。识别视频画面中的控制信息可以是识别第一主播的关键点的位置信息和/或姿态信息确定，例如关键点可以是但不限于手指、手臂和头部等。具体的，可以是通过关键点的位置信息调节控制对象的位置信息，通过关键点的姿态信息调节控制对象的方向或者形态。在一些实施例中，可以是通过识别人脸坐标得到控制对象的控制信息，其中，人脸纵坐标对应控制对象的纵向控制信息，人脸横坐标对应控制对象的横向控制信息，人脸坐标可以是人脸中心点坐标或者任一指定器官的坐标。
根据第一主播的视频中各帧视频画面的控制信息，逐帧确定控制对象在第一终端对应的交互区域中的数据，基于第一终端的交互区域中控制对象和/或交互对象的数据形成对应帧的第一交互画面，其中，第一终端对应的交互区域可以是第一主播显示区域所在侧的部分交互区域，该部分交互区域可以是整体交互区域的一半。
同理，第二终端基于上述方式采集第二交互画面。第二终端将采集的第二交互画面发送至游戏服务器，游戏服务器对接收的第二交互画面进行镜像处理，得到镜像交互画面，并将镜像交互画面传输至第一终端。其中，游戏服务器可以直接将该镜像交互画面传输至第一终端，还可以通过实时通信连接器(Realtime Communication，RTC)传输至第一终端。
第一交互画面和第二交互画面分别携带有采集时刻的时间戳，相应的，镜像交互画面中携带有时间戳，镜像交互画面的时间戳与进行镜像处理的第二交互画面的时间戳相同。
第一终端将具有相同时间戳的第一交互画面和镜像交互画面进行组合，得到第一终端的目标交互画面。具体的，第一交互画面的位置不变，将镜像交互画面与第一交互画面进行对齐和拼接，形成目标交互画面，通过时间戳对第一交互画面和镜像交互画面进行组合，保证了交互画面的同步，避免了交互画面的错乱。多帧目标交互画面形成第一终端展示的目标交互视频，在第一终端的直播连麦显示界面中进行显示，并将该目标交互视频推流至第一终端对应的观众端。
在上述实施例的基础上，第一终端将所述第一交互画面发送至游戏服务器，以使所述游戏服务器对所述第一交互画面进行镜像处理后，并将第一交互画面的镜像交互画面传输至所述第二终端，第二终端基于采集的第二交互画面和第一交互画面的镜像交互画面，形成第二终端的目标交互画面，其中，第二终端的目标交互画面中第二交互画面位于交互区域的左侧，第一交互画面的镜像交互画面位于交互区域的右侧，形成完整的交互画面。
需要说明的是，第一终端或第二终端所显示的显示区域的布局并不局限于图2A或图2B所示。参见图2D，图2D是本公开实施例一提供的另一种直播连麦显示区域的示意图。图2D中第一主播的显示区域、第二主播的显示区域以及交互区域之间不重叠，交互区域中可以包括交互对象和/或控制对象，交互对象和/或控制对象在交互区域的两个交互画面中进行移动。进一步的，图2D中第一主播的显示区域、第二主播的显示区域以及交互区域的布局可根据设计需求进行调节，对此不作限定。
本实施提供的技术方案，第一终端通过将采集的第一交互画面，以及接收的第二终端的第二交互画面的镜像交互画面进行组合，得到适应于第一终端显示的目标交互画面，保证了不同终端在直播场景下交互区域的交互画面的清晰准确，避免了交互画面的错乱。
实施例二
图3为本公开实施例二所提供的一种交互类直播连麦的控制方法流程示意图。在上述实施例的基础上进行了优化，该方法具体包括：
S210、第一终端采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到。
S220、所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
S230、所述第一终端采集第一视频流，并接收所述第二终端的第二视频流，基于所述第一视频流和所述第二视频流形成初始视频合流。
S240、所述第一终端将所述目标交互画面绘制到所述初始视频合流中，生成目标视频合流，其中，所述目标视频合流用于推送至所述第一终端的观众端。
第一终端和第二终端均配置有摄像头。第一终端通过第一摄像头采集第一视频流，该第一视频流可以是包括第一直播的视频流；第二终端通过第二摄像头采集第二视频流，该第二视频流可以是包括第二主播的视频流。第二终端将第二视频流传输至第一终端，例如可以是通过实时通信连接器进行视频流的传输。具体的，第一终端将采集的第一视频流发送至实时通信连接器，第二终端将采集的第二视频流发送至实时通信连接器，实时通信连接器将该第一视频流传输至第二终端，并将第二视频流传输至第一终端。
第一终端将第一视频流和所述第二视频流形成初始视频合流进行合流处理，得到初始视频合流。其中，基于所述第一视频流和所述第二视频流形成初始视频合流，包括：根据所述第一视频流和所述第二视频流的标识，确定所述第一视频流和所述第二视频流的合流位置；根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，形成初始视频合流。参见图2A，图2A中第一主播的显示区域即为第一视频流的合流位置，第二主播的显示区域即为第二视频流的合流位置。对于任一终端，当前终端采集的视频流的合流位置可以是位于当前终端直播连麦显示区域中的第一预设位置，例如可以是左侧位置，连麦终端采集的视频流的合流位置位于当前终端直播连麦显示区域中的第二预设位置，例如可以是右侧位置。
第一终端分别将第一视频流和所述第二视频流的标识，将第一视频流和所述第二视频流分别在对应的合流位置进行合流，得到初始视频合流。可选的，所述根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，包括：基于所述第一视频流和所述第二视频流中各个视频帧的时间戳，将所述第一视频流和所述第二视频流中设置有相同时间戳的视频帧根据所述合流位置分别进行合流处理。基于时间戳对第一视频流和所述第二视频流进行合流，避免两个视频流的直播延时，提高视频流的同步性。
进一步的，第一终端将目标交互画面绘制到初始视频合流中对应的各视频帧中，得到第一终端的目标视频合流。其中，目标交互画面以及初始视频合流中的各视频帧均设置有时间戳，将目标交互画面绘制到具有相同时间戳的视频帧中。
在一些实施例中，目标交互画面中包括控制对象和/或交互对象的数据，基于上述数据将控制对象和/或交互对象在对应视频帧中进行渲染，完成目标交互画面的绘制。在一些实施例中，可以是基于交互区域在显示界面中的位置，将目标交互画面中各像素点的像素值在对应视频帧中进行渲染，完成目标交互画面的绘制。其中，当交互区域分别与第一主播的显示位置和第二主播的显示位置存在重叠时，目标交互画面的画面背景为透明背景，避免对初始视频合流中画面的遮挡，相应的，目标交互画面的尺寸小于或等于初始视频合流中各画面帧的尺寸，参见图2A和图2B。当交互区域分别与第一主播的显示位置和第二主播的显示位置不存在重叠时，目标交互画面的画面背景可根据需求设置，对目标交互画面进行绘制可以是分别将具有相同时间戳的目标交互画面和初始视频合流是视频帧对应的显示区域进行渲染。
目标视频合流在第一终端进行显示，并将该目标视频合流推流至第一终端对应的观众端，以保证观众端显示的直播画面中，所在直播间的主播位于同一预设位置。其中，可以是基于CDN(Content Delivery Network，内容分发网络)服务器实现目标视频合流的推流。
本实施例中，第一终端和第二终端为具有本地合流功能的终端，通过分别第一终端进行视频合流，替代了由直播服务器进行视频合流，减小视频合流的延迟以及避免视频流的卡顿。
示例性的，参见图4，图4是本发明实施例二提供的一种直播流程示意图。摄像机采集第一视频流，并传输至效果处理模块(effect sdk)，由效果处理模块对采集的第一视频流进行美颜处理，特效处理，并接收第二视频流，将第一视频流和第二视频流进行合流处理，得到初始视频合流；效果处理模块采集第一交互画面并接收第二交互画面的镜像交互画面，将第一交互画面和镜像交互画面进行组合后，将得到的目标交互画面绘制到初始视频合流中，得到目标视频合流，传输至livecore中。同时通过第一终端的拾音设备采集音频流或者调用第一终端中的音效音频流，将音频流传输至livecore中，livecore对视频流和音频流进行合流。经由CDN进行推流至观众端，基于表面视图surface view在第一终端进行视频流的显示。
需要说明的是，步骤S210-S220和S230可以顺序执行，还可以同步执行，还可以是先执行步骤S230，在执行步骤S210-S220。
本实施例提供的技术方案，通过由第一终端分别采集第一交互画面和第一视频流，第二终端分别采集第二交互画面和第二视频流，第一终端接收第二视频流以及第二交互画面的镜像交互画面，将第一交互画面和镜像交互画面进行拼接得到目标交互画面，将第一视频流和第二视频流进行合流得到初始视频合流，并将各帧目标交互画面分别绘制到初始视频合流的对应视频帧中，得到目标视频合流，实现了将直播连麦场景下的各个主播视频画面和交互画面的组合，提高了交互类视频合流的准确性，避免了视频合流的错乱。
在上述实施例的基础上，第一终端与第二终端的交互场景可以为游戏场景，通过游戏服务器进行游戏场景内的分数加减、胜负判定。为了保证游戏场景内的时间同步，第一终端接收游戏服务器发送的控制信令，并基于所述控制信令调节所述第一终端与所述第一终端所在的交互场景的状态，其中，所述控制信令由所述游戏服务器同步向所述第一终端和第二终端发送。
通过游戏服务器向进行连麦的两个终端同步发送相同的控制信令，以使第一终端与第二终端同步执行上述控制信令，以提高游戏场景的同步性。可选的，控制信令包括开启信令、结束信令和状态切换信令。其中，开启信令用于控制游戏场景开启，结束信令用于控制游戏场景结束，状态切换信令用于在游戏场景的进行过程中，进行状态切换，状态切换信令的类型和数量可根据游戏场景不同而设置。
通过设置上述控制信令，可在游戏场景的开始、结束以及过程中对第一终端和第二终端进行同步控制，实现场景的同步性，降低延时导致的交互错乱。
实施例三
图5为本公开实施例二所提供的一种交互类直播连麦的控制方法流程示意图。本公开实施例适用于在交互类直播连麦的应用场景中，形成直播交互画面的情形，该方法可以由交互类直播连麦的控制装置来执行，该装置可以通过软件和/或硬件的形式实现，可选的，通过电子设备来实现，该电子设备可以是服务器等。
S310、游戏服务器接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面。
S320、所述游戏服务器将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面。
本实施例中，对于第一终端，游戏服务器将第二终端发送的第二交互画面镜像处理，得到镜像交互画面，并传输至第一终端，以使第一终端基于第一交互画面和所述镜像交互画面形成目标交互画面，无需在上述过程中对第一交互画面进行处理，保证成目标交互画面的正确性，同时降低游戏服务器的计算量。
同理，对于第二终端，游戏服务器将第一终端发送的第一交互画面镜像处理，得到镜像交互画面，并传输至第二终端，以使第二终端基于采集的第二交互画面和所述镜像交互画面形成目标交互画面，无需在上述过程中对第二交互画面进行处理。
可选的，对所述第二交互画面进行镜像处理，包括：以所述第二交互画面中与所述第一交互画面的公共边为镜像边，对所述第二交互画面进行镜像处理。例如可以将第二交互画面中与交互区域的中心线重合的边作为镜像边。以保证镜像处理后得到的镜像交互画面与第一交互画面正确衔接，避免目标交互画面的混乱。具体的，对第二交互画面进行镜像处理可以是基于镜像边，将第二交互画面中的各像素点对应设置在镜像边另一侧的对应位置，示例性的，镜像边为纵向边时，保持像素点的纵坐标不变，当前像素点的横坐标与镜像边的横坐标的差值，与镜像像素点的横坐标与镜像边的横坐标的差值相同。同理，镜像边为横向边时，保持像素点的横坐标不变，当前像素点的纵坐标与镜像边的纵坐标的差值，与镜像像素点的纵坐标与镜像边的纵坐标的差值相同。
本实施例的技术方案，通过游戏服务器对进行连麦的两个终端中的一个终端采集的交互画面进行镜像处理后，传输至另一终端，进行交互画面的组合，得到满足另一终端显示需求的目标交互画面。适应于任意终端，可基于上述方式得到满足各个终端显示需求的目标交互画面，兼顾了交互需求和直播连麦的显示需求，保证了各个终端显示的目标交互画面的准确性。
可选的，所述游戏服务器同步向所述第一终端和所述第二终端发送控制信令，以使所述第一终端和所述第二终端同步执行所述控制信令。其中。所述控制信令包括开启信令、结束信令和状态切换信令。通过设置上述控制信令，可在游戏场景的开始、结束以及过程中对第一终端和第二终端进行同步控制，实现场景的同步性，降低延时导致的交互错乱。
实施例四
图6为本公开实施例四提供的一种交互类直播连麦的控制装置结构示意图，该交互类直播连麦的控制装置集成于终端内，例如可以移动终端或者PC端。如图6所示，该装置包括：交互画面获取模块410和目标交互画面确定模块420。
其中，交互画面获取模块410，用于采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；目标交互画面确定模块420，用于将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
本公开实施例的技术方案，通过交互画面获取模块分别获取第一交互画面和镜像交互画面，并基于目标交互画面确定模块将采集的第一交互画面，以及接收的第二终端的第二交互画面的镜像交互画面进行组合，得到适应于第一终端显示的目标交互画面，保证了不同终端在直播场景下交互区域的交互画面的清晰准确，避免了交互画面的错乱。
在上述技术方案的基础上，所述第一交互画面和/或第二交互画面中包括至少一个互动对象，其中，所述互动对象在所述第一交互画面和第二交互画面中进行移动。
在上述技术方案的基础上，交互画面获取模块410还用于：识别第一用户的视频画面中的控制信息，基于所述控制信息控制互动场景中的被控对象；按帧采集与所述第一终端的交互区域对应的第一交互画面。
在上述技术方案的基础上，所述被控对象不同于所述互动对象，或者，所述被控对象为所述至少一个互动对象中的一个或多个。
在上述技术方案的基础上，该装置还包括：视频流获取模块，用于采集第一视频流，并接收所述第二终端的第二视频流；初始视频合流生成模块，用于基于所述第一视频流和所述第二视频流形成初始视频合流；目标视频合流生成模块，用于将所述目标交互画面绘制到所述初始视频合流中，生成目标视频合流，其中，所述目标视频合流用于推送至所述第一终端的观众端。
在上述技术方案的基础上，初始视频合流生成模块包括：合流位置单元，用于根据所述第一视频流和所述第二视频流的标识，确定所述第一视频流和所述第二视频流的合流位置；合流单元，用于根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，形成初始视频合流。
在上述技术方案的基础上，合流单元还用于：基于所述第一视频流和所述第二视频流中各个视频帧的时间戳，将所述第一视频流和所述第二视频流中设置有相同时间戳的视频帧根据所述合流位置分别进行合流处理。
在上述技术方案的基础上，该装置还包括：信令接收执行模块，用于接收游戏服务器发送的控制信令，并基于所述控制信令调节所述第一终端与所述第一终端所在的交互场景的状态，其中，所述控制信令由所述游戏服务器同步向所述第一终端和第二终端发送。
在上述技术方案的基础上，所述控制信令包括开启信令、结束信令和状态切换信令。
本公开实施例所提供的装置可执行本公开任意实施例所提供的方法，具备执行方法相应的功能模块和有益效果。
值得注意的是，上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开实施例的保护范围。
实施例五
图7是本公开实施例五所提供的一种交互类直播连麦的控制装置结构示意图。该装置可集成于服务器中，如图7所示，所述装置包括：镜像交互画面确定模块510以及镜像交互画面传输模块520。
其中，镜像交互画面确定模块510，用于接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面；镜像交互画面传输模块520，用于将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面。
本公开实施例的技术方案，通过游戏服务器中的镜像交互画面确定模块对进行连麦的两个终端中的一个终端采集的交互画面进行镜像处理后，基于镜像交互画面传输模块传输至另一终端，进行交互画面的组合，得到满足另一终端显示需求的目标交互画面。适应于任意终端，可基于上述方式得到满足各个终端显示需求的目标交互画面，兼顾了交互需求和直播连麦的显示需求，保证了各个终端显示的目标交互画面的准确性。
在上述技术方案的基础上，镜像交互画面确定模块510还用于：以所述第二交互画面中与所述第一交互画面的公共边为镜像边，对所述第二交互画面进行镜像处理。
在上述技术方案的基础上，该装置还包括：控制信令发送模块，用于同步向所述第一终端和所述第二终端发送控制信令，以使所述第一终端和所述第二终端同步执行所述控制信令。
在上述技术方案的基础上，所述控制信令包括开启信令、结束信令和状态切换信令。
本公开实施例所提供的装置可执行本公开任意实施例所提供的方法，具备执行方法相应的功能模块和有益效果。
值得注意的是，上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本公开实施例的保护范围。
实施例六
图8为本公开实施例六提供的一种交互类直播连麦的控制系统的结构示意图，该系统包括：第一终端610、第二终端620和游戏服务器630，其中：
第一终端610采集第一交互画面，将第一交互画面发送至游戏服务器630；
第二终端620采集第二交互画面，将第二交互画面发送至游戏服务器630；
游戏服务器630分别对第一交互画面和第二交互画面进行镜像处理，得到第一镜像交互画面和第二镜像交互画面，并将第一镜像交互画面传输至第二终端620，将第二镜像交互画面传输至第一终端610；
第一终端610基于第一交互画面和第二镜像交互画面生成第一目标交互画面；
第二终端620基于第二交互画面和第一镜像交互画面生成第二目标交互画面。
本实施例提供的技术方案，通过游戏服务器对进行连麦的第一终端和第二终端分别采集的交互画面进行镜像处理后，传输至另一终端，进行交互画面的组合，得到满足另一终端显示需求的目标交互画面。可同时满足第一终端和第二终端的显示需求，保证了各个终端显示的目标交互画面的准确性。
在上述实施例的基础上，所述系统还包括实时通信连接器，分别与所述第一终端、所述第二终端和所述游戏服务器通信连接；示例性的，参见图9，图9是本公开实施例六提供的另一种交互类直播连麦的控制系统的示意图。
所述实时通信连接器用于接收所述游戏服务器传输的所述第一镜像交互画面和所述第二镜像交互画面，并将所述第一镜像交互画面传输至所述第二终端，将所述第二镜像交互画面传输至所述第一终端。
在上述实施例的基础上，所述第一终端采集第一视频流，基于所述实时通信连接器将所述第一视频流传输至所述第二终端；所述第二终端采集第二视频流，基于所述实时通信连接器将所述第二视频流传输至所述第一终端；其中，第一视频流和第二视频流中可以是设置有目标终端的标识，实时通信连接器可根据目标终端的标识确定传输目标。通过实时通信连接器传输镜像交互画面，传输速度快，有效提高传输效率和同步性。
所述第一终端基于所述第一视频流、所述第二视频流和所述第一目标交互画面形成第一视频合流；所述第二终端基于所述第一视频流、所述第二视频流和所述第二目标交互画面形成第二视频合流。
该系统还包括内容分发网络服务器，分别与所述第一终端和所述第二终端通信连接；所述内容分发网络服务器用于接收所述第一终端传输的第一视频合流和所述第二终端传输的第二视频合流，并将所述第一视频合流和所述第二视频合流分别推流至对应的观众端。其中，第一视频合流和第二视频合流可以设置有对应的标识，例如可以是终端标识(例如终端ID等)，内容分发网络服务器根据视频合流中的标识，确定对应的观众端进行推流，以保证推流正确。
所述系统还包括直播服务器，所述直播服务器分别与所述第一终端和所述第二终端通信连接；所述直播服务器用于接收所述第一终端或所述第二终端的连麦请求，基于所述连麦请求将所述第一终端和所述第二终端进行连麦匹配。其中，图9中连麦请求可以配置为http请求。直播服务器仅用于进行直播连麦匹配以及进行直播相关信息的传输，无需进行视频合流处理，减少了直播服务器的工作量，避免了直播服务器的延迟和卡顿。其中，游戏服务器和直播服务器相互独立，不互通。
所述游戏服务器同步向所述第一终端和所述第二终端发送控制信令，以使所述第一终端和所述第二终端同步执行所述控制信令。在图9中，该控制信令被配置为下行游戏信令，其中，下行游戏信令可以是但不限于开始游戏信令、房间准备信令、显示toast信令、单局游戏准备完成信令、单局游戏结束信令、游戏结束信令、游戏数据信令、道具争夺开始信令、道具生效/结束信令、通知信息信令等。上行游戏信令可以是第一终端和第二终端分别向游戏服务器传输的游戏数据信令。
实施例七
下面参考图10，其示出了适于用来实现本公开实施例的电子设备(例如图10中的终端设备或服务器)700的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图10示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图10所示，电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置706加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM703中，还存储有电子设备700操作所需的各种程序和数据。处理装置701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
通常，以下装置可以连接至I/O接口705：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置706；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置707；包括例如磁带、硬盘等的存储装置706；以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图10示出了具有各种装置的电子设备700，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置709从网络上被下载和安装，或者从存储装置706被安装，或者从ROM702被安装。在该计算机程序被处理装置701执行时，执行本公开实施例的方法中限定的上述功能。
本公开实施例提供的电子设备与上述实施例提供的交互类直播连麦的控制方法属于同一发明构思，未在本实施例中详尽描述的技术细节可参见上述实施例，并且本实施例与上述实施例具有相同的有益效果。
实施例八
本公开实施例提供了一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述实施例所提供的交互类直播连麦的控制方法。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：
第一终端采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；
所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元/模块的名称在某种情况下并不构成对该单元本身的限定，例如，行为数据采集模块还可以被描述为“采集模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例，【示例一】提供了一种交互类直播连麦的控制方法，该方法包括：
第一终端采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；
所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面。
根据本公开的一个或多个实施例，【示例二】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述第一交互画面和/或第二交互画面中包括至少一个互动对象，其中，所述互动对象在所述第一交互画面和第二交互画面中进行移动。
根据本公开的一个或多个实施例，【示例三】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述第一终端采集第一交互画面，包括：所述第一终端识别第一用户的视频画面中的控制信息，基于所述控制信息控制互动场景中的被控对象；按帧采集与所述第一终端的交互区域对应的第一交互画面。
根据本公开的一个或多个实施例，【示例四】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述被控对象不同于所述互动对象，或者，所述被控对象为所述至少一个互动对象中的一个或多个。
根据本公开的一个或多个实施例，【示例五】提供了一种交互类直播连麦的控制方法，还包括：
可选的，该方法还包括：
所述第一终端采集第一视频流，并接收所述第二终端的第二视频流，基于所述第一视频流和所述第二视频流形成初始视频合流；
所述第一终端将所述目标交互画面绘制到所述初始视频合流中，生成目标视频合流，其中，所述目标视频合流用于推送至所述第一终端的观众端。
根据本公开的一个或多个实施例，【示例六】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述基于所述第一视频流和所述第二视频流形成初始视频合流，包括：
根据所述第一视频流和所述第二视频流的标识，确定所述第一视频流和所述第二视频流的合流位置；
根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，形成初始视频合流。
根据本公开的一个或多个实施例，【示例七】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，包括：
基于所述第一视频流和所述第二视频流中各个视频帧的时间戳，将所述第一视频流和所述第二视频流中设置有相同时间戳的视频帧根据所述合流位置分别进行合流处理。
根据本公开的一个或多个实施例，【示例八】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述目标交互画面的画面背景为透明背景。
根据本公开的一个或多个实施例，【示例九】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述目标交互画面的尺寸小于或等于所述初始视频合流中各画面帧的尺寸。
根据本公开的一个或多个实施例，【示例十】提供了一种交互类直播连麦的控制方法，还包括：
可选的，该方法还包括：
所述第一终端接收游戏服务器发送的控制信令，并基于所述控制信息调节所述第一终端与所述第一终端所在的交互场景的状态，其中，所述控制信令由所述游戏服务器同步向所述第一终端和第二终端发送。
根据本公开的一个或多个实施例，【示例十一】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述控制信令包括开启信令、结束信令和状态切换信令。
根据本公开的一个或多个实施例，【示例十二】提供了一种交互类直播连麦的控制方法，包括：
游戏服务器接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面；
所述游戏服务器将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面。
根据本公开的一个或多个实施例，【示例十三】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述对所述第二交互画面进行镜像处理，包括：
以所述第二交互画面中与所述第一交互画面的公共边为镜像边，对所述第二交互画面进行镜像处理。
根据本公开的一个或多个实施例，【示例十四】提供了一种交互类直播连麦的控制方法，还包括：
可选的，所述游戏服务器同步向所述第一终端和所述第二终端发送控制信令，以使所述第一终端和所述第二终端同步执行所述控制信令。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (18)

1.一种交互类直播连麦的控制方法，其特征在于，包括：
第一终端采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；
所述第一终端将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面；
所述第一终端采集第一视频流，并接收所述第二终端的第二视频流，基于所述第一视频流和所述第二视频流形成初始视频合流；
所述第一终端将所述目标交互画面绘制到所述初始视频合流中，生成目标视频合流，其中，所述目标视频合流用于推送至所述第一终端的观众端。
2.根据权利要求1所述的方法，其特征在于，所述第一交互画面和/或第二交互画面中包括至少一个互动对象，其中，所述互动对象在所述第一交互画面和第二交互画面中进行移动。
3.根据权利要求2所述的方法，其特征在于，所述第一终端采集第一交互画面，包括：
所述第一终端识别第一用户的视频画面中的控制信息，基于所述控制信息控制互动场景中的被控对象；
按帧采集与所述第一终端的交互区域对应的第一交互画面。
4.根据权利要求3所述的方法，其特征在于，所述被控对象不同于所述互动对象，或者，所述被控对象为所述至少一个互动对象中的一个或多个。
5.根据权利要求1所述的方法，其特征在于，所述基于所述第一视频流和所述第二视频流形成初始视频合流，包括：
根据所述第一视频流和所述第二视频流的标识，确定所述第一视频流和所述第二视频流的合流位置；
根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，形成初始视频合流。
6.根据权利要求5所述的方法，其特征在于，所述根据所述合流位置对所述第一视频流和所述第二视频流进行合流处理，包括：
基于所述第一视频流和所述第二视频流中各个视频帧的时间戳，将所述第一视频流和所述第二视频流中设置有相同时间戳的视频帧根据所述合流位置分别进行合流处理。
7.根据权利要求1所述的方法，其特征在于，还包括：
所述第一终端接收游戏服务器发送的控制信令，并基于所述控制信令调节所述第一终端与所述第一终端所在的交互场景的状态，其中，所述控制信令由所述游戏服务器同步向所述第一终端和第二终端发送。
8.根据权利要求7所述的方法，其特征在于，所述控制信令包括开启信令、结束信令和状态切换信令。
9.一种交互类直播连麦的控制方法，其特征在于，包括：
游戏服务器接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面；
所述游戏服务器将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面，以及将所述目标交互画面绘制到初始视频合流中，生成目标视频合流，所述初始视频合流基于所述第一终端采集的第一视频流和所述第二终端采集的第二视频流合流得到。
10.根据权利要求9所述的方法，其特征在于，所述对所述第二交互画面进行镜像处理，包括：
以所述第二交互画面中与所述第一交互画面的公共边为镜像边，对所述第二交互画面进行镜像处理。
11.根据权利要求10所述的方法，其特征在于，所述方法还包括：
所述游戏服务器同步向所述第一终端和所述第二终端发送控制信令，以使所述第一终端和所述第二终端同步执行所述控制信令。
12.一种交互类直播连麦的控制装置，其特征在于，集成于第一终端，包括：
交互画面获取模块，用于采集第一交互画面，并接收第二终端的镜像交互画面，其中，所述第一终端与所述第二终端连麦，所述第二终端的镜像交互画面通过对所述第二终端的第二交互画面进行镜像处理得到；
目标交互画面确定模块，用于将所述第一交互画面和所述镜像交互画面进行组合，得到目标交互画面；
视频流获取模块，用于采集第一视频流，并接收所述第二终端的第二视频流；
初始视频合流生成模块，用于基于所述第一视频流和所述第二视频流形成初始视频合流；
目标视频合流生成模块，用于将所述目标交互画面绘制到所述初始视频合流中，生成目标视频合流，其中，所述目标视频合流用于推送至所述第一终端的观众端。
13.一种交互类直播连麦的控制装置，其特征在于，集成于服务器，包括：
镜像交互画面确定模块，用于接收第二终端发送的第二交互画面，对所述第二交互画面进行镜像处理，得到镜像交互画面；
镜像交互画面传输模块，用于将所述镜像交互画面基于实时通信连接传输至第一终端，以使所述第一终端基于采集的第一交互画面和所述镜像交互画面形成目标交互画面，以及将所述目标交互画面绘制到初始视频合流中，生成目标视频合流，所述初始视频合流基于所述第一终端采集的第一视频流和所述第二终端采集的第二视频流合流得到。
14.一种交互类直播连麦的控制系统，其特征在于，包括：第一终端、第二终端和游戏服务器，所述第一终端与所述第二终端处于直播连麦状态，其中：
所述第一终端采集第一交互画面，将所述第一交互画面发送至所述游戏服务器；
所述第二终端采集第二交互画面，将所述第二交互画面发送至所述游戏服务器；
所述游戏服务器分别对所述第一交互画面和所述第二交互画面进行镜像处理，得到第一镜像交互画面和第二镜像交互画面，并将所述第一镜像交互画面传输至所述第二终端，将所述第二镜像交互画面传输至所述第一终端；
所述第一终端基于所述第一交互画面和所述第二镜像交互画面生成第一目标交互画面；
所述第二终端基于所述第二交互画面和所述第一镜像交互画面生成第二目标交互画面；
所述第一终端采集第一视频流，将所述第一视频流传输至所述第二终端；
所述第二终端采集第二视频流，将所述第二视频流传输至所述第一终端；
所述第一终端基于所述第一视频流、所述第二视频流和所述第一目标交互画面形成第一视频合流；
所述第二终端基于所述第一视频流、所述第二视频流和所述第二目标交互画面形成第二视频合流。
15.根据权利要求14所述的系统，其特征在于，所述系统还包括实时通信连接器，分别与所述第一终端、所述第二终端和所述游戏服务器通信连接；
所述实时通信连接器用于接收所述游戏服务器传输的所述第一镜像交互画面和所述第二镜像交互画面，并将所述第一镜像交互画面传输至所述第二终端，将所述第二镜像交互画面传输至所述第一终端。
16.根据权利要求14所述的系统，其特征在于，所述系统还包括内容分发网络服务器，分别与所述第一终端和所述第二终端通信连接；
所述内容分发网络服务器用于接收所述第一终端传输的第一视频合流和所述第二终端传输的第二视频合流，并将所述第一视频合流和所述第二视频合流分别推流至对应的观众端。
17.一种电子设备，其特征在于，所述电子设备包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的交互类直播连麦的控制方法，或，权利要求9-11中任一所述的交互类直播连麦的控制方法。
18.一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-8中任一所述的交互类直播连麦的控制方法，和/或，权利要求9-11中任一所述的交互类直播连麦的控制方法。
CN202010821116.7A 2020-08-14 2020-08-14 交互类直播连麦的控制方法、装置、系统、设备及介质 Active CN111970524B (zh)

Priority Applications (5)

Application Number Priority Date Filing Date Title
CN202010821116.7A CN111970524B (zh) 2020-08-14 2020-08-14 交互类直播连麦的控制方法、装置、系统、设备及介质
JP2023502873A JP2023533363A (ja) 2020-08-14 2021-08-11 インタラクティブ型コラボライブ配信の制御方法、装置、システム、機器及び媒体
PCT/CN2021/111925 WO2022033494A1 (zh) 2020-08-14 2021-08-11 交互类直播连麦的控制方法、装置、系统、设备及介质
EP21855545.6A EP4184919A4 (en) 2020-08-14 2021-08-11 METHOD, APPARATUS AND SYSTEM FOR CONTROLLING INTERACTIVE LIVE STREAMING CO-HOSTING, APPARATUS AND MEDIUM
US18/148,185 US20230134623A1 (en) 2020-08-14 2022-12-29 Method and system for controlling interactive live streaming co-hosting, device, and medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010821116.7A CN111970524B (zh) 2020-08-14 2020-08-14 交互类直播连麦的控制方法、装置、系统、设备及介质

Publications (2)

Publication Number Publication Date
CN111970524A CN111970524A (zh) 2020-11-20
CN111970524B true CN111970524B (zh) 2022-03-04

Family

ID=73388896

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010821116.7A Active CN111970524B (zh) 2020-08-14 2020-08-14 交互类直播连麦的控制方法、装置、系统、设备及介质

Country Status (4)

Country Link
EP (1) EP4184919A4 (zh)
JP (1) JP2023533363A (zh)
CN (1) CN111970524B (zh)
WO (1) WO2022033494A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111970524B (zh) * 2020-08-14 2022-03-04 北京字节跳动网络技术有限公司 交互类直播连麦的控制方法、装置、系统、设备及介质
CN112543343B (zh) * 2020-11-27 2024-02-23 广州华多网络科技有限公司 基于连麦直播的直播画面处理方法、装置及电子设备
CN113645472B (zh) * 2021-07-05 2023-04-28 北京达佳互联信息技术有限公司 一种基于播放对象的交互方法、装置、电子设备及存储介质
CN115052180A (zh) * 2022-05-19 2022-09-13 广东职业技术学院 一种农作物生长的远程交互方法、装置和系统
CN115022204B (zh) * 2022-05-26 2023-12-05 阿里巴巴（中国）有限公司 Rtc的传输时延检测方法、装置以及设备
CN115086745B (zh) * 2022-06-30 2024-01-23 北京字跳网络技术有限公司 一种直播视频处理方法、装置、设备及介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107105311A (zh) * 2017-05-25 2017-08-29 北京小米移动软件有限公司 直播方法及装置
CN107566911A (zh) * 2017-09-08 2018-01-09 广州华多网络科技有限公司 一种直播方法、装置、系统及电子设备
CN107680157A (zh) * 2017-09-08 2018-02-09 广州华多网络科技有限公司 一种基于直播的互动方法及直播系统、电子设备
CN107682729A (zh) * 2017-09-08 2018-02-09 广州华多网络科技有限公司 一种基于直播的互动方法及直播系统、电子设备
CN108390816A (zh) * 2015-09-23 2018-08-10 腾讯科技（深圳）有限公司 网络通话方法和装置
CN109068181A (zh) * 2018-07-27 2018-12-21 广州华多网络科技有限公司 基于视频直播的足球游戏交互方法、系统、终端及装置
CN110755845A (zh) * 2019-10-21 2020-02-07 腾讯科技（深圳）有限公司 虚拟世界的画面显示方法、装置、设备及介质
CN111314720A (zh) * 2020-01-23 2020-06-19 网易（杭州）网络有限公司 直播连麦控制方法、装置、电子设备及计算机可读介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10638082B2 (en) * 2014-08-28 2020-04-28 Gregory A. Pearson, Inc. Systems and methods for picture-in-picture video conference functionality
WO2017219347A1 (zh) * 2016-06-24 2017-12-28 北京小米移动软件有限公司 直播显示方法、装置及系统
US9968856B1 (en) * 2016-11-15 2018-05-15 Genvid Technologies, Inc. Systems and methods of video game streaming with interactive overlay and additional data
CN108965769B (zh) * 2018-08-28 2020-02-14 腾讯科技（深圳）有限公司 视频显示方法及装置
CN111385592A (zh) * 2018-12-29 2020-07-07 广州市百果园信息技术有限公司 跨房间直播连线方法、装置、存储介质和服务器
CN111970524B (zh) * 2020-08-14 2022-03-04 北京字节跳动网络技术有限公司 交互类直播连麦的控制方法、装置、系统、设备及介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108390816A (zh) * 2015-09-23 2018-08-10 腾讯科技（深圳）有限公司 网络通话方法和装置
CN107105311A (zh) * 2017-05-25 2017-08-29 北京小米移动软件有限公司 直播方法及装置
CN107566911A (zh) * 2017-09-08 2018-01-09 广州华多网络科技有限公司 一种直播方法、装置、系统及电子设备
CN107680157A (zh) * 2017-09-08 2018-02-09 广州华多网络科技有限公司 一种基于直播的互动方法及直播系统、电子设备
CN107682729A (zh) * 2017-09-08 2018-02-09 广州华多网络科技有限公司 一种基于直播的互动方法及直播系统、电子设备
CN109068181A (zh) * 2018-07-27 2018-12-21 广州华多网络科技有限公司 基于视频直播的足球游戏交互方法、系统、终端及装置
CN110755845A (zh) * 2019-10-21 2020-02-07 腾讯科技（深圳）有限公司 虚拟世界的画面显示方法、装置、设备及介质
CN111314720A (zh) * 2020-01-23 2020-06-19 网易（杭州）网络有限公司 直播连麦控制方法、装置、电子设备及计算机可读介质

Also Published As

Publication number Publication date
WO2022033494A1 (zh) 2022-02-17
JP2023533363A (ja) 2023-08-02
EP4184919A1 (en) 2023-05-24
CN111970524A (zh) 2020-11-20
EP4184919A4 (en) 2024-02-14

Similar Documents

Publication Publication Date Title
CN111970524B (zh) 交互类直播连麦的控制方法、装置、系统、设备及介质
CN111818359B (zh) 直播互动视频的处理方法、装置、电子设备及服务器
CN111343476A (zh) 视频共享方法、装置、电子设备及存储介质
CN112291502B (zh) 信息交互方法、装置、系统和电子设备
CN103200258A (zh) 分布式图像拼接方法、拼接服务器和终端
CN111818383B (zh) 视频数据的生成方法、系统、装置、电子设备及存储介质
CN114095671A (zh) 云会议直播系统、方法、装置、设备及介质
CN112788276A (zh) 视频流显示方法、发送方法、装置、终端、服务器及介质
CN113989173A (zh) 视频融合方法、装置、电子设备及存储介质
CN114567812A (zh) 音频播放方法、装置、系统、电子设备及存储介质
CN113794942B (zh) 自由视角视频的视角切换方法、装置、系统、设备和介质
WO2023226628A1 (zh) 图像展示方法、装置、电子设备及存储介质
CN113923530B (zh) 一种互动信息展示方法、装置、电子设备及存储介质
CN113794844B (zh) 自由视角视频采集系统、方法、装置、服务器和介质
CN113641247A (zh) 视线角度调整方法、装置、电子设备及存储介质
CN111385590A (zh) 直播数据处理方法、装置及终端
CN113891057A (zh) 视频的处理方法、装置、电子设备和存储介质
CN114125358A (zh) 云会议字幕显示方法、系统、装置、电子设备和存储介质
CN113938617A (zh) 一种多路视频显示方法、设备、网络摄像机及存储介质
CN115086686A (zh) 视频处理方法及相关装置
US20230134623A1 (en) Method and system for controlling interactive live streaming co-hosting, device, and medium
CN112565799A (zh) 视频数据处理方法和装置
CN112887653A (zh) 一种信息处理方法和信息处理装置
CN114765695B (zh) 一种直播数据处理方法、装置、设备及介质
WO2022252797A1 (zh) 视频呈现方法、电子设备、计算机存储介质和程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant