CN116366961A - 视频会议方法、装置及计算机设备 - Google Patents

视频会议方法、装置及计算机设备 Download PDF

Info

Publication number
CN116366961A
CN116366961A CN202111599143.5A CN202111599143A CN116366961A CN 116366961 A CN116366961 A CN 116366961A CN 202111599143 A CN202111599143 A CN 202111599143A CN 116366961 A CN116366961 A CN 116366961A
Authority
CN
China
Prior art keywords
participant
current speaker
image
conference
site
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111599143.5A
Other languages
English (en)
Inventor
何毅敏
刘涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangxi 3Nod Digital Technology Co Ltd
Original Assignee
Guangxi 3Nod Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangxi 3Nod Digital Technology Co Ltd filed Critical Guangxi 3Nod Digital Technology Co Ltd
Priority to CN202111599143.5A priority Critical patent/CN116366961A/zh
Publication of CN116366961A publication Critical patent/CN116366961A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00Data switching networks
    • H04L12/02Details
    • H04L12/16Arrangements for providing special services to substations
    • H04L12/18Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H04L12/1813Arrangements for providing special services to substations for broadcast or conference, e.g. multicast for computer conferences, e.g. chat rooms
    • H04L12/1822Conducting the conference, e.g. admission, detection, selection or grouping of participants, correlating users to one or more conference sessions, prioritising transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/40Support for services or applications
    • H04L65/403Arrangements for multi-party communication, e.g. for conferences
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Engineering & Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本申请实施例属于人工智能领域,涉及一种视频会议方法、装置、计算机设备及存储介质,方法包括在需要进行视频会议时,实时获取第一摄像头对会议室内的第一拍摄图像,从第一拍摄图像中提取各个现场参会人的第一状态信息,从而根据现场参会人的第一状态信息来确定当前发言人的位置,最后根据当前发言人的位置来控制第二摄像头对当前发言人进行拍摄,并将拍摄得到第二拍摄图像作为会议图像实时发送给远程参会人,远程参会人无需主动寻找当前发言人,远程参会人可以从第二拍摄图像直观的确定发言人的位置和状态,提升远程参会人的参会体验,提高了视频会议的会议效率。

Description

视频会议方法、装置及计算机设备
技术领域
本申请涉及人工智能技术领域,尤其涉及一种视频会议方法、装置、计算机设备及存储介质。
背景技术
随着互联网技术的发展,视频会议应用越来越广泛,特别是2020新冠病毒爆发以来,全球视频会议市场需求急速攀升,随着公司和学校转移到远程工作,数十亿需要在家中待命的人寻求保持联系会选择视频会议的方式。在多人视频会议过程中,如果参会人员较多,发言人分散时,在会议过程中,远程参会人可能由于清晰度影响而无法确定发言人的位置和状态,影响远程参会人的参会感受,降低会议效率。
发明内容
本申请实施例的目的在于提出一种视频会议方法、装置、计算机设备及存储介质,以解决视频会议效率低的问题。
为了解决上述技术问题,本申请实施例提供一种视频会议方法,采用了如下所述的技术方案:
实时获取第一摄像头对会议室的第一拍摄图像,并根据所述第一拍摄图像提取现场参会人的第一状态信息,所述现场参会人位于所述会议室的内部;
根据所述现场参会人的第一状态信息,确定当前发言人的位置;
根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像;
将所述第二拍摄图像作为会议图像实时发送给远程参会人,所述远程参会人位于所述会议室的外部。
进一步的,所述现场参会人的第一状态信息包括所述现场参会人的第一人脸状态与第一位置状态,所述根据所述现场参会人的第一状态信息,确定当前发言人的位置的步骤具体包括:
根据所述现场参会人的第一人脸状态,从所述现场参会人中确定出当前发言人;
根据述现场参会人的第一位置状态,确定所述当前发言人在所述会议室中的位置。
进一步的,所述根据所述现场参会人的第一人脸状态,从所述现场参会人中确定出当前发言人的步骤包括:
根据所述现场参会人的第一人脸状态,提取所述现场参会人的第一微表情特征;
根据所述现场参会人的第一微表情特征,从所述现场参会人中确定出当前发言人。
进一步的,在所述将所述第二拍摄图像作为会议图像实时发送给远程参会人的步骤之前,所述方法还包括:
根据所述第二拍摄图像提取当前发言人的第二状态信息;
将所述当前发言人的第二状态信息与所述当前发言人的第一状态信息进行比对;
若比对成功,则确定所述第二拍摄图像中的当前发言人为目标发言人。
进一步的,所述将所述当前发言人的第二状态信息与所述当前发言人的第一状态信息进行比对的步骤具体包括:
根据所述第二状态信息,提取所述当前发言人的第二微表情特征;
将所述当前发言人的第二微表情特征与所述当前发言人的第一微表情特征进行比对。
进一步的,所述将所述第二拍摄图像作为会议图像实时发送给远程参会人的步骤具体包括:
将所述第二拍摄图像按预设的处理规则进行处理,得到处理后的第二拍摄图像;
将所述处理后的第二拍摄图像作为会议图像实时发送给远程参会人。
进一步的,在所述根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像的步骤之后,所述方法还包括:
将所述第二拍摄图像发送到会议屏幕的第一指定位置进行显示,所述会议屏幕设置在所述会议室内;以及
当接收到远程参会人的实时发言图像时,将所述实时发言图像发送到会议屏幕的第二指定位置进行显示。
为了解决上述技术问题,本申请实施例还提供一种视频会议装置,采用了如下所述的技术方案:
获取模块,用于实时获取第一摄像头对会议室的第一拍摄图像,并根据所述第一拍摄图像提取现场参会人的第一状态信息,所述现场参会人位于所述会议室的内部;
第一确定模块,用于根据所述现场参会人的第一状态信息,确定当前发言人的位置;
控制模块,用于根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像;
第一发送模块,用于将所述第二拍摄图像作为会议图像实时发送给远程参会人,所述远程参会人位于所述会议室的外部。
为了解决上述技术问题,本申请实施例还提供一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器执行所述计算机程序时实现上述所述的视频会议方法的步骤。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述所述的视频会议方法的步骤。
与现有技术相比,在需要进行视频会议时,实时获取第一摄像头对会议室内的第一拍摄图像,从第一拍摄图像中提取各个现场参会人的第一状态信息,从而根据现场参会人的第一状态信息来确定当前发言人的位置,最后根据当前发言人的位置来控制第二摄像头对当前发言人进行拍摄,并将拍摄得到第二拍摄图像作为会议图像实时发送给远程参会人,远程参会人无需主动寻找当前发言人,远程参会人可以从第二拍摄图像直观的确定发言人的位置和状态,提升远程参会人的参会体验,提高了视频会议的会议效率。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图;
图2是根据本申请的视频会议方法的一个实施例的流程图;
图3是根据本申请的视频会议方法的另一个实施例的流程图;
图4是根据本申请的视频会议方法的另一个实施例的流程图;
图5是根据本申请的会议屏幕的另一个实施例的流程图;
图6是根据本申请的视频会议装置的一个实施例的结构示意图;
图7是根据本申请的计算机设备的一个实施例的结构示意图。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是,本申请实施例所提供的视频会议方法一般由服务器执行,相应地,视频会议装置一般设置于服务器中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的视频会议方法的一个实施例的流程图。所述的视频会议方法,包括以下步骤:
步骤S201,实时获取第一摄像头对会议室的第一拍摄图像,并根据第一拍摄图像提取现场参会人的第一状态信息。
在本实施例中,视频会议方法运行于其上的电子设备(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式与终端进行通信。需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultrawideband)连接、以及其他现在已知或将来开发的无线连接方式。
具体地,现场参会人为位于会议室的内部的参会人员。服务器可以在会议开始时,控制第一摄像头对会议室进行拍摄,并实时获取第一摄像头对会议室的第一拍摄图像。
第一摄像头可以是全景摄像头,通过第一摄像头可以拍摄会议室的全景图像,从而拍摄到会议室中所有参会人员,即是第一拍摄图像中包括所有参会人员的图像。
服务器在获取到第一拍摄图像后,服务器可以通过预设的图像处理技术从第一拍摄图像中提取现场参会人的第一状态信息,现场参会人的第一状态信息可以是现场参会人是否为发言状态。服务器可以根据现场参会人员的第一状态信息,判断某个现场参会人是否为当前发言人,比如,若某个现场参会人不是发言状态,则服务器判断该个现场参会人不是当前发言人,若某现场参会人是发言状态,则服务器判断该个现场参会人是当前发言人。
更具体的,服务器可通过预设的图像处理技术从第一拍摄图像中的提取各个现场参会人的人脸状态或人体状态作为第一状态信息,服务器可以根据现场参会人的人脸状态或人体状态作来判断某个现场参会人是否为当前发言人。比如,若某个现场参会人的人脸状态估计为发言表情或者人体状态估计为发言姿态,则服务器判断该俱现场参会人是当前发言人,若某个现场参会人的人脸状态不是发言表情以及人体状态不是发言姿态,则服务器判断该俱现场参会人不是当前发言人。
步骤S202,根据现场参会人的第一状态信息,确定当前发言人的位置。
具体的,服务器在提取现场参会人的第一状态信息后,确定当前发言人的位置。其中,现场参会人的第一状态信息可以是现场参会人员是否为发言状态。当服务器判断某个现场参会人为发言状态时,可以确定该个现场参会人是当前发言人,并获取该个现场参会人在第一拍摄图像中的位置,并根据该人现场参会人在第一拍摄图像中的位置,确定该个现场参会人员在会议室的位置,从而得到当前发言人的位置。
当前发言人指的是在当前时刻进行发言的现场参会人员,一般来说,在一场会议中,对于一个时刻,只会存在一个发言人。
步骤S203,根据当前发言人的位置,控制第二摄像头对当前发言人进行拍摄,得到第二拍摄图像。
具体的,服务器在确定当前发言人的位置后,可以根据当前发言人的位置,控制第二摄像头对当前发言人进行实时拍摄,得到第二拍摄图像。第二摄像头可以是可旋转摄像头,服务器可以下发旋转与拍摄指令,控制第二摄像头进行旋转与拍摄。旋转与拍摄指令包括旋转角度,旋转角度根据当前发言人的位置进行确定。
第二摄像头可以是特定摄像头,可以对当前发言人进行特定拍摄,得到具有当前发言人特定的第二拍摄图像。
需要说明的是,第一拍摄图像中包括会议室中所有参会人员的人像,第二拍摄图像中包括当前发言人的人像,第二摄像头在服务器的控制下,可以在不同时刻下对不同的当前发言人进行拍摄。
服务器通过第一摄像头实时监控会议室中的现场参会人,当现场参会人发生新增、离席、变更位置、变更发言人等行为时,则控制第二摄像头对发言人进行跟踪,具体可以调整第二摄像头角度、方位来对发言人进行跟踪得到当前时刻的发言人图像。
在一种可能的实施例中,采集会议室全景,保存所有参会人数据,参会人数据可以是人像和参会人标识的结构化数据,比如参会人的人脸图像和姓名、职位等结构化数据。
步骤S204,将第二拍摄图像作为会议图像实时发送给远程参会人。
具体的,远程参会人位于会议室的外部,远程参会人可以通过各个的终端设备连接到服务器,服务器在获取到第二拍摄图像后,可以将第二拍摄图像实时发送给远程参会人的终端,远程参会人通过各自的终端可以参加视频会议,并在终端的显示屏幕中指定位置显示第二拍摄图像。
本实施例中,在需要进行视频会议时,实时获取第一摄像头对会议室内的第一拍摄图像,从第一拍摄图像中提取各个现场参会人的第一状态信息,从而根据现场参会人的第一状态信息来确定当前发言人的位置,最后根据当前发言人的位置来控制第二摄像头对当前发言人进行拍摄,并将拍摄得到第二拍摄图像作为会议图像实时发送给远程参会人,远程参会人无需主动寻找当前发言人,远程参会人可以从第二拍摄图像直观的确定发言人的位置和状态,提升远程参会人的参会体验,提高了视频会议的会议效率。
进一步的,现场参会人的第一状态信息包括现场参会人的第一人脸状态与第一位置状态,在上述步骤S202中,根据现场参会人的第一状态信息,确定当前发言人的位置的步骤具体包括:
根据现场参会人的第一人脸状态,从现场参会人中确定出当前发言人;根据现场参会人的第一位置状态,确定当前发言人在所述会议室中的位置。
具体的,服务器可以通过预设的人脸图像处理技术从第一拍摄图像中提取现场参会人的第一人脸状态。更具体的,服务器可通过预设的人脸状态分类模型从第一拍摄图像中提取现场参会人的第一人脸状态,人脸状态分类的模型中搭载预设的人脸图像处理技术,服务器将第一拍摄图像输入到人脸状态分类模型中,通过人脸状态分类模型自动识别第一拍摄图像中的各个参会人员的第一人脸状态。
更具体的,人脸状态分类模型可以是基于卷积神经网络的分类模型,基于卷积神经网络的分类模型通过人脸数据集进行训练,得到人脸状态分类模型。人脸数据集中包括人脸数据,一条人脸数据包括一个样本人脸与一个人脸状态标注数据,人脸状态标注数据包括发言状态与非发言状态。将人脸数据集划分为训练集与测试集,训练集与测试集中没有重复人脸数据,通过训练集对基于卷积神经网络的分类模型进行有监督学习训练,当基于卷积神经网络的分类模型在测试集中收敛时,则结束训练,得到人脸状态分类模型。
人脸状态分类模型中还对人脸进行检测,获取各个人脸的人脸检测框,人脸状态分类模型的输出为(S,x,y,h,w),其中,S表示人脸状态分类,0表示非发言状态,1表示发言状态,x,y表示人脸检测框的中心点坐标,h表示人脸检测框的高,w表示人脸检测框的宽。其中,人脸状态分类模型输出的第一状态信息为(S1,x1,y1,h1,w1),第一状态信息包括现场参会人的第一人脸状态S1与第一位置状态x1,y1。
服务器可以根据现场参会人的第一状态信息(S1,x1,y1),判断某个现场参会人是否为当前发言人,比如,若某个现场参会人的第一人脸状态S1为0,则该个现场参会人不是发言状态,则服务器判断该个现场参会人不是当前发言人,若某现场参会人是发言状态,则服务器判断该个现场参会人员是当前发言人。
具体的,服务器可以根据当前发言人的第一位置状态(x1,y1),确定当前发言人在会议室中的位置。更具体的,当前发言人的第一位置状态(x1,y1)为当前发言人对应的人脸检测框在第一拍摄图像中的位置,可以根据第一拍摄图像中背景部分与会议室实际背景的映射比例,从而将第一位置状态(x1,y1)映射到会议室空间,得到当前发言人的人脸在会议室中的位置,从而得到当前发言人在会议室中的位置。
在一种可能的实施例中,第一摄像头可以是深度摄像头,第一拍摄图像为深度图像,人脸数据集中的样本人脸还也包括深度信息,相当于样本人脸也是通过深度摄像头进行采集得到。可以设计人脸状态分类模型的输出为(S,x,y,h,w,d),d为人脸检测框的深度。这样,服务器可以根据第一位置状态(x1,y1,d1),将第一位置状态(x1,y1,d1)从第一拍摄图像中映射到会议室空间,得到当前发言人的人脸在会议室中的位置,从而得到当前发言人在会议室中的位置。
本实施例中,通过现场参会人的第一人脸状态从现场参会人中确定出当前发言人,以及通过现场参会人的第一位置状态,确定当前发言人在会议室中的位置,可以快速确定当前发言人以及当前发言人的位置,从而提高视频会议的实时性,更加快速的控制第二摄像头获取第二拍摄图像,进而使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
进一步的,在根据现场参会人的第一人脸状态,从现场参会人中确定出当前发言人的步骤中,可以根据现场参会人的第一人脸状态,提取现场参会人的第一微表情特征;根据现场参会人的第一微表情特征,从现场参会人中确定出当前发言人。
具体的,服务器可以根据现场参会人的第一人脸状态,提取现场参会人的第一微表情特征,第一微表情特征可以是现场参会人的唇部动作,根据现场参会人的唇部动作确定出当前发言人。
本实施例中,根据现场参会人的第一人脸状态,提取现场参会人的第一微表情特征;根据现场参会人的第一微表情特征,可以快速确定当前发言人以及当前发言人的位置,从而提高视频会议的实时性,更加快速的控制第二摄像头获取第二拍摄图像,进而使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
进一步的,继续参考图3,示出了根据本申请的视频会议方法的另一个实施例的流程图。在将第二拍摄图像作为会议图像实时发送给远程参会人的步骤之前,所述的视频会议方法还包括:
步骤S301、根据第二拍摄图像提取当前发言人的第二状态信息。
具体的,服务器在将第二拍摄图像作为会议图像实时发送给远程参会人之前,可以提取当前发言人的第二状态信息。服务器可以通过预设的图像处理技术从第二拍摄图像中提取当前发言人的第二状态信息,当前发言人的第二状态信息可以是当前发言人是否为发言状态。
更具体的,服务器可通过预设的图像处理技术从第二拍摄图像中的提取当前发言人的人脸状态或人体状态作为第二状态信息。
需要说明的是,第二状态信息用于进一步验证当前发言人的准确性。
更具体的,服务器可通过预设的人脸状态分类模型从第二拍摄图像中提取当前发言人的第二人脸状态,人脸状态分类的模型中搭载预设的人脸图像处理技术,服务器将第二拍摄图像输入到人脸状态分类模型中,通过人脸状态分类模型自动识别第二拍摄图像中的当前发言人的第二人脸状态。
通过人脸状态分类模型获取当前发言人的人脸检测框,人脸状态分类模型的输出为(S,x,y,h,w),其中,S表示人脸状态分类,S为0表示非发言状态,S为1表示发言状态,x,y表示人脸检测框的中心点坐标,h表示人脸检测框的高,w表示人脸检测框的宽,其中,人脸状态分类模型输出的第二状态信息为(S2,x2,y2,h2,w2)包括当前发言人的第二人脸状态S2与第二位置状态x2,y2。
步骤S302、将当前发言人的第二状态信息与当前发言人的第一状态信息进行比对。
具体的,服务器在获取当前发言人的第二状态信息后,可以将当前发言人的第二状态信息与当前发言人的每状态信息进行比对,这样可以进一步确定当前发言人的准确性。
需要说明的是,由于第一状态信息是通过人脸状态分类模型对第一拍摄图像进行提取得到,第二状态信息是通过人脸状态分类模型对第二拍摄图像进行提取得到,第一拍摄图像通过第一摄像头采集得到,第二拍摄图像通过第二摄像头采集得到,提取第二状态信息与第一状态信息进行比对,可以进一步确定当前发言人的准确性。
服务器可以将当前发言人的第一状态信息(S1,x1,y1)与当前发言人的第二状态信息(S2,x2,y2)进行比对,判断从第一拍摄图像中确定的当前发言人是否与从第二拍摄图像中确定的当前发言人的人脸状态是否相同,即是第一人脸状态S1与第二人脸状态S2是否都为1。若第一人脸状态S1与第二人脸状态S2都为1,则比对成功,若第二人脸状态S2为0,则比对失败。
步骤S303、若比对成功,则确定第二拍摄图像中的当前发言人为目标发言人。
具体的,会议图像中包括目标发言人,服务器在将当前发言人的第二状态信息与当前发言人的第一状态信息进行比对后,若比对成功,则说明第一拍摄图像确定的当前发言人与第二拍摄图像确定的当前发言人是准确的。则可以将第二拍摄图像听当前发言人作为目标发言人。若比对失败,则在当前时刻发送根据历史时刻会议图像进行预测后的预测会议图像,预测会议图像可以通过图像预测模型进行预测得到,图像预测模型可以是序列预测模型与图像生成模型进行结合得到,比如基于RNN或LSTM的序列预测模型与生成式对抗网络模型进行结合,图像预测模型以历史图像序列为输入,输出未来某时刻的图像,基于RNN或LSTM的序列预测模型根据历史图像序列预测未来某时刻时序特征,生成式对抗网络模型根据未来某时刻时序特征生成对应的图像作为预测会议图像。这样,比对失败时,可以通过预测会议图像代替当前时刻的会议图像,保证了视频的流畅性的情况下。
本实施例中,根据第二拍摄图像提取当前发言人的第二状态信息,将当前发言人的第二状态信息与当前发言人的第一状态信息进行比对,通过每个时刻的第一状态信息和第二状态信息相同来提高当前发言人的准确性,进而使得远程参会人可以更准确的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
进一步的,在将当前发言人的第二状态信息与当前发言人的第一状态信息进行比对的步骤中,可以根据第二状态信息,提取当前发言人的第二微表情特征;将当前发言人的第二微表情特征与当前发言人的第一微表情特征进行比对。
具体的,服务器可以根据当前发言人的第二人脸状态,提取现场参会人的第二微表情特征,第二微表情特征可以是当前发言人的唇部动作,将从第一拍摄图像中提取到的唇部动作与从第二拍摄图像中提取到的唇部动作进行比对,可以从第一拍摄图像和第二拍摄图像中的当前发言人是否一致。
本实施例中,将当前发言人的第二微表情特征与当前发言人的第一微表情特征进行比对,可以从第一拍摄图像和第二拍摄图像中的当前发言人是否一致,进而可以通过每个时刻的第一状态信息和第二状态信息相同来提高当前发言人的准确性,进而使得远程参会人可以更准确的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
进一步的,在将第二拍摄图像作为会议图像实时发送给远程参会人的步骤中,将第二拍摄图像按预设的处理规则进行处理,得到处理后的第二拍摄图像;将处理后的第二拍摄图像作为会议图像实时发送给远程参会人。
具体的,服务器在获取第二拍摄图像后,可以按预设的处理规则进行处理,得到处理后的第二拍摄图像。预设的处理规则可以是对第二拍摄图像进行放大、虚化背景、突出人像等图像处理规则,服务器对第二拍摄图像进行图像处理后,可以将处理后的第二拍摄图像作为会议图像实时发送给远程参会人,从而提高发言人脸图像的采集质量,进而提高会议图像的图像质量。
本实施例中,将第二拍摄图像进行处理后,得到质量更高的发言人脸图像的采集质量,进而提高会议图像的图像质量,进一步提升远程参会人的参会体验和视频会议的会议效率。
进一步的,继续参考图4,示出了根据本申请的视频会议方法的另一个实施例的流程图。在根据当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像的步骤之后,所述的视频会议方法还包括:
步骤S401、将第二拍摄图像发送到会议屏幕的第一指定位置进行显示。
具体的,服务器在获取第二拍摄图像后,可以将第二拍摄图像发送到会议屏幕的第一指定位置进行显示,其中,会议屏幕设置在会议室内。第一指定位置可以是会议屏幕上预先指定的位置,比如可以是会议屏幕左上角、右上角、左下角或右下角。
在一种可能的实施例中,如图5所示,示出了根据本申请的会议屏幕的另一个实施例的流程图。第一摄像头与第二摄像头可以设置在会议屏幕上方对现场参会人进行拍摄。
步骤S402、当接收到远程参会人的实时发言图像时,将实时发言图像发送到会议屏幕的第二指定位置进行显示。
具体的,服务器在接收到远程参会人的实时发言图像时,可以将实时发言图像发送到会议屏幕的第二指定位置进行显示。远程参会人的实时发言图像通过远程参会人的终端设备进行采集,当远程参会人进行发言时,终端设备会实时采集远程参会人的实时发言图像,并实时上传到服务器中。
第二指定位置可以与第一指定位置相同,比如,第一指定位置为左上角,则第二指定位置也为左上角;或者第二指定位置可以与第二指定位置不同,比如,第一指定位置为左上角,则第二指定位置可以为右上角。
在一种可能的实施例中,服务器在接收到远程参会人的实时发言图像时,还可以将实时发言图像发给到其他远程参会人,具体的,服务器将实时发言图像发给到其他远程参会人的终端。
本实施例中,将第二拍摄图像发送到会议屏幕的第一指定位置进行显示,以及将远程参会人的实时发言图像发送到会议屏幕的第二指定位置进行显示,可以使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
本申请可应用于智慧城市领域中,从而推动智慧城市的建设。例如,本申请可应用于智慧城市领域中的广告识别、车牌识别、实体文本识别等多种涉及文字图像的应用领域。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random Access Memory,RAM)等。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图6,作为对上述图2所示方法的实现,本申请提供了一种视频会议装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图6所示,本实施例所述的视频会议装置600包括:获取模块601、第一确定模块602、控制模块603以及第一发送模块604,其中:
获取模块601,用于实时获取第一摄像头对会议室的第一拍摄图像,并根据所述第一拍摄图像提取现场参会人的第一状态信息,所述现场参会人位于所述会议室的内部;
第一确定模块602,用于根据所述现场参会人的第一状态信息,确定当前发言人的位置;
控制模块603,用于根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像;
第一发送模块604,用于将所述第二拍摄图像作为会议图像实时发送给远程参会人,所述远程参会人位于所述会议室的外部。
本实施例中,通过现场参会人的第一人脸状态从现场参会人中确定出当前发言人,以及通过现场参会人的第一位置状态,确定当前发言人在会议室中的位置,可以快速确定当前发言人以及当前发言人的位置,从而提高视频会议的实时性,更加快速的控制第二摄像头获取第二拍摄图像,进而使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
在本实施例的一些可选的实现方式中,第一确定模块602包括:第一确定单元、第二确定单元,其中:
第一确定单元,用于根据所述现场参会人的第一人脸状态,从所述现场参会人中确定出当前发言人;
第二确定单元,用于根据述现场参会人的第一位置状态,确定所述当前发言人在所述会议室中的位置。
本实施例中,根据现场参会人的第一人脸状态,提取现场参会人的第一微表情特征;根据现场参会人的第一微表情特征,可以快速确定当前发言人以及当前发言人的位置,从而提高视频会议的实时性,更加快速的控制第二摄像头获取第二拍摄图像,进而使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
在本实施例的一些可选的实现方式中,第一确定单元包括:提取子单元、确定子单元,其中:
提取子单元,用于根据所述现场参会人的第一人脸状态,提取所述现场参会人的第一微表情特征;
确定子单元,用于根据所述现场参会人的第一微表情特征,从所述现场参会人中确定出当前发言人。
本实施例中,根据现场参会人的第一人脸状态,提取现场参会人的第一微表情特征;根据现场参会人的第一微表情特征,可以快速确定当前发言人以及当前发言人的位置,从而提高视频会议的实时性,更加快速的控制第二摄像头获取第二拍摄图像,进而使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
在本实施例的一些可选的实现方式中,视频会议装置600包括:提取模块、比对模块、第二确定模块,其中,
提取模块,用于根据所述第二拍摄图像提取当前发言人的第二状态信息;
比对模块,用于将所述当前发言人的第二状态信息与所述当前发言人的第一状态信息进行比对;
第二确定模块,用于若比对成功,则确定所述第二拍摄图像中的当前发言人为目标发言人。
本实施例中,根据第二拍摄图像提取当前发言人的第二状态信息,将当前发言人的第二状态信息与当前发言人的第一状态信息进行比对,通过每个时刻的第一状态信息和第二状态信息相同来提高当前发言人的准确性,进而使得远程参会人可以更准确的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
在本实施例的一些可选的实现方式中,比对模块包括:提取单元、比对单元,其中:
提取单元,用于根据所述第二状态信息,提取所述当前发言人的第二微表情特征;
比对单元,用于将所述当前发言人的第二微表情特征与所述当前发言人的第一微表情特征进行比对。
本实施例中,将当前发言人的第二微表情特征与当前发言人的第一微表情特征进行比对,可以从第一拍摄图像和第二拍摄图像中的当前发言人是否一致,进而可以通过每个时刻的第一状态信息和第二状态信息相同来提高当前发言人的准确性,进而使得远程参会人可以更准确的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
在本实施例的一些可选的实现方式中,第一发送模块604包括:处理单元以及发送单元,其中:
处理单元,用于将所述第二拍摄图像按预设的处理规则进行处理,得到处理后的第二拍摄图像;
发送单元,用于将所述处理后的第二拍摄图像作为会议图像实时发送给远程参会人。
本实施例中,将第二拍摄图像进行处理后,得到质量更高的发言人脸图像的采集质量,进而提高会议图像的图像质量,进一步提升远程参会人的参会体验和视频会议的会议效率。
在本实施例的一些可选的实现方式中,视频会议装置600还包括:第二发送模块以及第三发送模块,其中:
第二发送模块,用于将所述第二拍摄图像发送到会议屏幕的第一指定位置进行显示,所述会议屏幕设置在所述会议室内;以及
第三发送模块,用于当接收到远程参会人的实时发言图像时,将所述实时发言图像发送到会议屏幕的第二指定位置进行显示。
在本实施例中,将第二拍摄图像发送到会议屏幕的第一指定位置进行显示,以及将远程参会人的实时发言图像发送到会议屏幕的第二指定位置进行显示,可以使得远程参会人可以更快速的从第二拍摄图像直观的确定发言人的位置和状态,进一步提升远程参会人的参会体验和视频会议的会议效率。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图7,图7为本实施例计算机设备基本结构框图。
所述计算机设备7包括通过系统总线相互通信连接存储器71、处理器72、网络接口73。需要指出的是,图中仅示出了具有组件71-73的计算机设备7,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable GateArray,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器71至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器71可以是所述计算机设备7的内部存储单元,例如该计算机设备7的硬盘或内存。在另一些实施例中,所述存储器71也可以是所述计算机设备7的外部存储设备,例如该计算机设备7上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(FlashCard)等。当然,所述存储器71还可以既包括所述计算机设备7的内部存储单元也包括其外部存储设备。本实施例中,所述存储器71通常用于存储安装于所述计算机设备7的操作系统和各类应用软件,例如视频会议方法的计算机可读指令等。此外,所述存储器71还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器72在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器72通常用于控制所述计算机设备7的总体操作。本实施例中,所述处理器72用于运行所述存储器71中存储的计算机可读指令或者处理数据,例如运行所述视频会议方法的计算机可读指令。
所述网络接口73可包括无线网络接口或有线网络接口,该网络接口73通常用于在所述计算机设备7与其他电子设备之间建立通信连接。
本实施例中提供的计算机设备可以执行上述视频会议方法的步骤。此处视频会议方法的步骤可以是上述各个实施例的视频会议方法中的步骤。
本实施例中,在需要进行视频会议时,实时获取第一摄像头对会议室内的第一拍摄图像,从第一拍摄图像中提取各个现场参会人的第一状态信息,从而根据现场参会人的第一状态信息来确定当前发言人的位置,最后根据当前发言人的位置来控制第二摄像头对当前发言人进行拍摄,并将拍摄得到第二拍摄图像作为会议图像实时发送给远程参会人,远程参会人无需主动寻找当前发言人,远程参会人可以从第二拍摄图像直观的确定发言人的位置和状态,提升远程参会人的参会体验,提高了视频会议的会议效率。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的视频会议方法的步骤。
本实施例中,在需要进行视频会议时,实时获取第一摄像头对会议室内的第一拍摄图像,从第一拍摄图像中提取各个现场参会人的第一状态信息,从而根据现场参会人的第一状态信息来确定当前发言人的位置,最后根据当前发言人的位置来控制第二摄像头对当前发言人进行拍摄,并将拍摄得到第二拍摄图像作为会议图像实时发送给远程参会人,远程参会人无需主动寻找当前发言人,远程参会人可以从第二拍摄图像直观的确定发言人的位置和状态,提升远程参会人的参会体验,提高了视频会议的会议效率。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。

Claims (10)

1.一种视频会议方法,其特征在于,包括下述步骤:
实时获取第一摄像头对会议室的第一拍摄图像,并根据所述第一拍摄图像提取现场参会人的第一状态信息,所述现场参会人位于所述会议室的内部;
根据所述现场参会人的第一状态信息,确定当前发言人的位置;
根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像;
将所述第二拍摄图像作为会议图像实时发送给远程参会人,所述远程参会人位于所述会议室的外部。
2.根据权利要求1所述的视频会议方法,其特征在于,所述现场参会人的第一状态信息包括所述现场参会人的第一人脸状态与第一位置状态,所述根据所述现场参会人的第一状态信息,确定当前发言人的位置的步骤具体包括:
根据所述现场参会人的第一人脸状态,从所述现场参会人中确定出当前发言人;
根据述现场参会人的第一位置状态,确定所述当前发言人在所述会议室中的位置。
3.根据权利要求2所述的视频会议方法,其特征在于,所述根据所述现场参会人的第一人脸状态,从所述现场参会人中确定出当前发言人的步骤包括:
根据所述现场参会人的第一人脸状态,提取所述现场参会人的第一微表情特征;
根据所述现场参会人的第一微表情特征,从所述现场参会人中确定出当前发言人。
4.根据权利要求3所述的视频会议方法,其特征在于,在所述将所述第二拍摄图像作为会议图像实时发送给远程参会人的步骤之前,所述方法还包括:
根据所述第二拍摄图像提取当前发言人的第二状态信息;
将所述当前发言人的第二状态信息与所述当前发言人的第一状态信息进行比对;
若比对成功,则确定所述第二拍摄图像中的当前发言人为目标发言人。
5.根据权利要求4所述的视频会议方法,其特征在于,所述将所述当前发言人的第二状态信息与所述当前发言人的第一状态信息进行比对的步骤具体包括:
根据所述第二状态信息,提取所述当前发言人的第二微表情特征;
将所述当前发言人的第二微表情特征与所述当前发言人的第一微表情特征进行比对。
6.根据权利要求1所述的视频会议方法,其特征在于,所述将所述第二拍摄图像作为会议图像实时发送给远程参会人的步骤具体包括:
将所述第二拍摄图像按预设的处理规则进行处理,得到处理后的第二拍摄图像;
将所述处理后的第二拍摄图像作为会议图像实时发送给远程参会人。
7.根据权利要求1所述的视频会议方法,其特征在于,在所述根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像的步骤之后,所述方法还包括:
将所述第二拍摄图像发送到会议屏幕的第一指定位置进行显示,所述会议屏幕设置在所述会议室内;以及
当接收到远程参会人的实时发言图像时,将所述实时发言图像发送到会议屏幕的第二指定位置进行显示。
8.一种视频会议装置,其特征在于,包括:
获取模块,用于实时获取第一摄像头对会议室的第一拍摄图像,并根据所述第一拍摄图像提取现场参会人的第一状态信息,所述现场参会人位于所述会议室的内部;
第一确定模块,用于根据所述现场参会人的第一状态信息,确定当前发言人的位置;
控制模块,用于根据所述当前发言人的位置,控制第二摄像头对所述当前发言人进行拍摄,得到第二拍摄图像;
第一发送模块,用于将所述第二拍摄图像作为会议图像实时发送给远程参会人,所述远程参会人位于所述会议室的外部。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的视频会议方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的视频会议方法的步骤。
CN202111599143.5A 2021-12-24 2021-12-24 视频会议方法、装置及计算机设备 Pending CN116366961A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111599143.5A CN116366961A (zh) 2021-12-24 2021-12-24 视频会议方法、装置及计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111599143.5A CN116366961A (zh) 2021-12-24 2021-12-24 视频会议方法、装置及计算机设备

Publications (1)

Publication Number Publication Date
CN116366961A true CN116366961A (zh) 2023-06-30

Family

ID=86932028

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111599143.5A Pending CN116366961A (zh) 2021-12-24 2021-12-24 视频会议方法、装置及计算机设备

Country Status (1)

Country Link
CN (1) CN116366961A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116708709A (zh) * 2023-08-01 2023-09-05 深圳市海域达赫科技有限公司 一种基于云服务的通讯系统及方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116708709A (zh) * 2023-08-01 2023-09-05 深圳市海域达赫科技有限公司 一种基于云服务的通讯系统及方法
CN116708709B (zh) * 2023-08-01 2024-03-08 深圳市海域达赫科技有限公司 一种基于云服务的通讯系统及方法

Similar Documents

Publication Publication Date Title
US10241990B2 (en) Gesture based annotations
US11436863B2 (en) Method and apparatus for outputting data
US9746927B2 (en) User interface system and method of operation thereof
WO2020119032A1 (zh) 基于生物特征的声源追踪方法、装置、设备及存储介质
CN112243583A (zh) 多端点混合现实会议
CN107078917A (zh) 托管电话会议
CN110059623B (zh) 用于生成信息的方法和装置
CN112149615A (zh) 人脸活体检测方法、装置、介质及电子设备
CN110059624B (zh) 用于检测活体的方法和装置
CN110427849B (zh) 人脸姿态确定方法、装置、存储介质和电子设备
CN109543011A (zh) 问答数据处理方法、装置、计算机设备和存储介质
CN108470131B (zh) 用于生成提示信息的方法和装置
CN111382655A (zh) 一种举手行为识别方法及装置、电子设备
CN109934150B (zh) 一种会议参与度识别方法、装置、服务器和存储介质
CN116366961A (zh) 视频会议方法、装置及计算机设备
CN116033259B (zh) 生成短视频方法、装置、计算机设备及存储介质
CN111382689A (zh) 一种利用计算机在线学习的打卡系统及方法
CN116681045A (zh) 报表生成方法、装置、计算机设备及存储介质
US20190386840A1 (en) Collaboration systems with automatic command implementation capabilities
CN110942033B (zh) 用于推送信息的方法、装置、电子设备和计算机介质
US11195336B2 (en) Framework for augmented reality applications
CN110263743B (zh) 用于识别图像的方法和装置
CN210534865U (zh) 签到系统
CN111414838A (zh) 一种注意力检测方法、装置、系统、终端及存储介质
CN118075418B (zh) 视频会议内容输出优化方法、装置、设备及其存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination