CN113163153A - 视频会议中违规信息的处理方法、装置、介质及电子设备 - Google Patents

Abstract

本申请的实施例提供了一种视频会议中违规信息的处理方法、装置、介质及电子设备。该方法包括：获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种；根据所述视频流数据进行识别，确定所述视频流数据中的违规信息；根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关；根据所述违规等级，采用与其对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。本申请实施例的技术方案可以规范参会方的参会行为，保证视频会议的会议质量。

Description

视频会议中违规信息的处理方法、装置、介质及电子设备

技术领域

本申请涉及计算机技术领域，具体而言，涉及一种视频会议中违规信息的处理方法、装置、介质及电子设备。

背景技术

随着计算机技术的发展，视频会议系统在生活中的应用也越来越广泛，其能够将声音、影像及文件资料进行远程传送，达到多方参与者即时且互动沟通的目的。然而，在会议过程中，参与者的参会行为将会直接影响会议质量，例如参与者出现违规行为或者传达违规信息等。由此，如何在会议过程中，规范参会者的参会行为，保证视频会议的会议质量成为了亟待解决的技术问题。

发明内容

本申请的实施例提供了一种视频会议中违规信息的处理方法、装置、介质及电子设备，进而至少在一定程度上可以规范参会者的参会行为，进而保证视频会议的会议质量。

本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。

根据本申请实施例的一个方面，提供了一种视频会议中违规信息的处理方法，该方法包括：

获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种；

根据所述视频流数据进行识别，确定所述视频流数据中的违规信息；

根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关；

根据所述违规等级，采用与其对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。

根据本申请实施例的一个方面，提供了一种视频会议中违规信息的处理装置，该装置包括：

获取模块，用于获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种；

识别模块，用于根据所述视频流数据进行识别，确定所述视频流数据中的违规信息；

确定模块，用于根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关；

处理模块，用于根据所述违规等级，采用对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。

在本申请一些实施例中，基于前述方案，该识别模块被配置为：对所述视频流数据进行绘制，得到与所述视频流数据对应的至少一个图像帧，根据所述至少一个图像帧，确定所述至少一个图像帧中的违规信息，所述违规信息根据是否为人体隐私部位、人体裸露面积以及是否为敏感动作中的至少一个进行确定。

在本申请一些实施例中，基于前述方案，若所述违规信息根据人体裸露面积进行确定，该确定模块被配置为：根据所述人体裸露面积占所述至少一个图像帧中人体总面积的比例，确定所述违规信息对应的违规等级。

在本申请一些实施例中，基于前述方案，该识别模块被配置为：根据所述视频流数据，获取所述视频流数据中包含的音频数据；根据所述音频数据进行语音识别，确定所述音频数据对应的文字信息；根据所述文字信息进行识别，确定所述文字信息中包含的违规词汇。

在本申请一些实施例中，基于前述方案，该确定模块被配置为：根据所述违规词汇的字数占所述文字信息的总字数的比例，确定所述违规信息对应的违规等级。

在本申请一些实施例中，基于前述方案，所述违规等级包括普通违规和严重违规，该处理模块被配置为：若所述违规等级为普通违规，将所述视频流数据中的违规信息进行消除，并将消除后的所述视频流数据向其他参会终端进行发送；若所述违规等级为严重违规，停止所述当前参会终端的视频流数据传输，并在所述当前参会终端显示用于指示用户规范参会行为的违规提示信息。

在本申请一些实施例中，基于前述方案，该识别模块被配置为：获取所述当前参会终端的终端地址信息，以及所述当前参会终端的登陆账号的常用地址信息；若所述终端地址信息不是所述常用地址信息，对所述视频流数据中所包含的背景图像进行模糊处理；根据模糊处理后的所述视频流数据进行识别，确定所述视频流数据中的违规信息。

根据本申请实施例的一个方面，提供了一种计算机可读介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上述实施例中所述的视频会议中违规信息的处理方法。

根据本申请实施例的一个方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中所述的视频会议中违规信息的处理方法。

在本申请的一些实施例所提供的技术方案中，通过获取当前参会终端的待传输的视频流数据，该视频流数据包括图像数据和音频数据中的至少一种，根据该视频流数据进行识别，确定视频流数据中的违规信息，并根据该违规信息，确定违规信息对应的违规等级，再根据该违规等级，采用与其对应的违规处理策略对该视频流数据进行处理，并将处理后的视频流数据向其他参会终端进行发送。由此，可以在视频流数据传输前，确定是否存在违规信息以及违规信息对应的违规等级，从而能够采取对应的违规处理策略对视频流数据进行处理，以规范参会方的参会行为，保证视频会议的会议质量。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图。

图2示出了根据本申请的一个实施例的视频会议中违规信息的处理方法的流程示意图。

图3示出了根据本申请的一个实施例的图2的视频会议中违规信息的处理方法中步骤S220的流程示意图。

图4示出了根据本申请的另一个实施例的视频会议中违规信息的处理方法中步骤S220的流程示意图。

图5示出了根据本申请的再一个实施例的图2的视频会议中违规信息的处理方法中步骤S220的流程示意图。

图6示出了根据本申请的一个实施例的视频会议中违规信息的处理方法的流程框图。

图7示出了根据本申请的一个实施例的视频会议中违规信息的处理装置的框图。

图8示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本申请将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

图1示出了可以应用本申请实施例的技术方案的示例性系统架构的示意图。

如图1所示，系统架构可以包括参会终端110和服务器120，参会终端110和服务器120可以通过网络进行连接，该网络可以包括各种连接类型，例如有线通信链路、无线通信链路等等。

应该理解的，图1中的参会终端110、服务器120的数目仅仅是示意性的。根据实现需要，可以具有任意数目的参会终端和服务器。比如，服务器120可以是由多个服务器组成的服务器集群等。

需要说明的，该参会终端110可以是智能手机、平板电脑、便携式电脑、台式电脑中的一种或多种，其也可以是其他具有视频通讯功能的电子设备，本申请对此不作特殊限定。

用户可以使用参会终端110通过网络与服务器120进行交互，从而实现参会终端之间的信息传输。例如用户可以使用参会终端110获取图像以及音频，并向服务器120进行传输，服务器120可以获取当前参会终端的待传输的视频流数据，该视频流数据可以包括图像数据和音频数据中的至少一种，根据该视频流数据进行识别，确定视频流数据中的违规信息，并根据该违规信息，确定违规信息对应的违规等级，再根据违规等级，采用与其对应的违规处理策略对视频流数据进行处理，再将处理后的视频流数据向其他参会终端进行发送。

需要说明的是，本申请实施例所提供的视频会议中违规信息的处理方法一般由服务器120执行，相应地，视频会议中违规信息的处理装置一般设置于服务器120中。但是，在本申请的其它实施例中，参会终端也可以与服务器具有相似的功能，从而执行本申请实施例所提供的视频会议中违规信息的处理方法的方案。

以下对本申请实施例的技术方案的实现细节进行详细阐述：

图2示出了根据本申请的一个实施例的视频会议中违规信息的处理方法的流程示意图。参照图2所示，该视频会议中违规信息的处理方法至少包括步骤S210至步骤S240，详细介绍如下：

在步骤S210中，获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种。

其中，参会终端可以是参会方用以参加视频会议的终端设备。该参会终端可以具有图像获取装置(例如摄像头等)、音频获取装置(例如麦克风等)以及显示装置(例如显示屏等)。由此，参会终端可以获取参会方的图像数据以及音频数据以形成视频流数据进行传输，并将其他参会终端所发送的视频流数据在显示装置中进行显示，从而实现会议的沟通。

在本申请一示例性实施例中，参会方可以点击参会终端的显示界面中的特殊区域(例如“加入会议”或者“发起会议”等按键)，以开启参会终端的图像获取功能以及音频获取功能，并实时获取参会方的图像数据以及音频数据以形成视频流数据。

参会终端可以将所形成的视频流数据向服务器进行发送，服务器则可以接收该视频流数据，并在对应处理后向参与会议的其他参会终端进行传输。应该理解的，参会终端的数量为至少两个，即两个或者两个以上的任意数量，根据实际参会方的数量，具有对应数量的参会终端。

需要说明的，当前参会终端与其他参会终端是相对的，二者之间是动态对应的，例如服务器在处理参会终端A的视频流数据时，则参会终端A为当前参会终端，参会终端B为其他参会终端，而服务器在处理参会终端B的视频流数据时，则参会终端A为其他参会终端等。

在步骤S220中，根据所述视频流数据进行识别，确定所述视频流数据中的违规信息。

其中，违规信息可以是关于衣着暴露、涉黄、暴力或者涉及政治等领域的信息，其还可以是不符合会议的相关规定的信息等。应该理解的，该违规信息会影响视频会议的正常进行以及影响参会方的参会体验，因此根据待传输的视频流数据识别出其中的违规信息，可以保证视频会议的正常进行，并提升参会方的参会体验。

在本申请一示例性实施例中，服务器可以根据参会终端所发送的视频流数据进行识别，以从视频流数据中识别出其所包含的违规信息，例如识别出参会方是否具有违规背景、敏感动作、人体隐私部位以及是否衣着暴露等，以规范参会者的参会行为，保证会议的正常进行。

在一示例中，服务器可以根据该视频流数据，获取该视频流数据所传输的图像数据，并根据该图像数据进行图像识别，以确定该图像数据中是否存在违规信息。具体地，服务器可以将所获取的图像数据输入至预先训练完成的机器学习模型中，以使机器学习模型输出该图像数据是否具有违规信息以及具体的违规信息类型的判定结果。

需要说明的，本领域技术人员可以采用大量的图像训练数据预先对机器学习模型进行训练，该图像训练数据可以是包含各种违规信息类型的图像数据，本领域技术人员可以根据机器学习模型的输出结果，对该机器学习模型进行调参，以使该机器学习模型的输出结果能够与该图像训练数据对应的违规信息类型相对应，以保证机器学习模型的识别准确性。

请继续参考图2，在步骤S230中，根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关。

其中，违规等级可以是用于描述违规信息的违规程度的信息，应该理解的，违规程度越高，则对应的违规等级也就越高。

在本申请一示例性实施例中，服务器可以根据视频流数据中所包含的违规信息，确定该违规信息对应的违规等级。在一示例中，服务器可以根据违规信息的类型确定其对应的违规等级，本领域技术人员可以预先设定违规信息的类型与违规等级的对应关系表，例如涉及政治的违规信息对应的违规等级为严重，涉黄、暴力的违规信息对应的违规等级为一般，衣着暴露或者侮辱性语言的违规信息对应的违规等级为微小，等等。

在另一示例中，服务器也可以根据违规信息占视频流数据所传输的信息的比例而确定该违规信息的违规等级。例如，可以根据衣着暴露的面积占对应的人物的总面积的比例，确定该违规信息对应的违规等级，或者可以根据侮辱性语言的字数占参会方所说文字的总字数，确定该违规信息对应的违规等级等等，即违规等级与所述违规信息占视频流数据传输的信息的比例成正相关。

本领域技术人员可以预先设定对应于不同违规等级的比例阈值，例如违规信息占视频流数据所传输的信息的比例达到20％，则对应的违规等级为微小，比例介于20％至50％，则对应的违规等级为一般，比例达到50％及以上，则对应的违规等级为严重，等等。以上数字仅为示例性举例，本领域技术人员可以根据实现需要，确定对应的比例阈值，本申请对此不作特殊限定。

在步骤S240中，根据所述违规等级，采用与其对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。

其中，违规处理策略可以是由本领域技术人员预先设定，用以对违规信息进行处理的处理策略。本领域技术人员可以预先设定与违规等级对应的违规处理策略，比如违规等级为微小，则可以不对该违规信息进行处理，在当前参会终端显示请参会方注意规范参会行为的信息；若违规等级为一般，则可以对该违规信息进行消除或者模糊处理，例如对图像数据中所包含的违规信息进行马赛克处理，或者对音频数据中所包含的侮辱性语言进行消声处理等；若违规等级为严重，则服务器可以禁止传输该视频流数据，并提示参会方规范参会行为等。

由此，本领域技术人员可以根据不同的违规等级设定不同的违规处理策略，从而使违规处理策略与不同违规等级的违规信息相适配，保证了视频会议的正常进行。

在本申请一示例性实施例中，本领域技术人员可以预先设定违规等级与违规处理策略的对应关系表。服务器在确定违规信息对应的违规等级之后，可以根据所确定的违规等级查询对应关系表，从而确定该违规等级所对应的违规处理策略，以采用对应的违规处理策略对该违规信息进行处理。

在处理完成之后，服务器可以将处理后的视频流数据向其他参会终端进行发送，以供其他参会终端进行获取。应该理解的，该其他参会终端可以是除当前参会终端(即视频流数据的发送终端)以外的所有参会终端。

由此，在图2所示的实施例中，通过识别出视频流数据中包含的违规信息，并根据该违规信息确定该违规信息对应的违规等级，再采取与该违规等级对应的违规处理策略对视频流数据进行处理，从而可以规范参会方的参会行为，保证视频会议的会议质量。

基于图2所示的实施例，图3示出了根据本申请的一个实施例的图2的视频会议中违规信息的处理方法中步骤S220的流程示意图。参照图3所示，步骤S220至少包括步骤S310至步骤S320，详细介绍如下：

在步骤S310中，对所述视频流数据进行绘制，得到与所述视频流数据对应的至少一个图像帧。

在本申请一示例性实施例中，服务器可以采用绘制工具例如Canvas可画等对视频流数据进行绘制，从而得到与该视频流数据对应的图像帧。服务器在对视频流数据进行绘制之后，可以从中选取预定数量的图像帧，例如服务器可以按照图像帧对应的时间顺序每隔预定间隔选取一张图像帧，或者服务器可以从所绘制的图像帧中随机选取预定数量的图像帧，等等。

需要说明的，本申请所述的至少一个，可以是一个，也可以是一个以上的任意数量，例如两个、五个或者十五个等。由此，服务器可以无需对视频流所对应的图像帧进行逐一识别，即可确定该视频流数据所包含的违规信息，提高了违规信息的识别效率，也节约了服务器的计算资源。

在步骤S320中，根据所述至少一个图像帧，确定所述至少一个图像帧中的违规信息，所述违规信息根据是否为人体隐私部位、人体裸露面积以及是否为敏感动作中的至少一个进行确定。

在本申请一示例性实施例中，本领域技术人员可以预先构建机器学习模型，并采用包含人体隐私部位、衣着暴露以及敏感动作的图像训练数据对该机器学习模型进行训练，以使该机器学习模型能够准确识别图像中是否具有违规信息以及违规信息的类型。

服务器可以将所绘制的与视频流数据对应的图像帧输入至训练完成的机器学习模型中，以使该机器学习模型能够确定该图像帧中是否具有违规信息以及对应的违规信息的类型。

由此，通过对视频流数据进行绘制，得到与该视频流数据对应的至少一个图像帧，再对该至少一个图像帧进行识别，以确定该图像帧中的违规信息，可以提高对图像帧的识别效率，同时采用机器学习模型对该图像帧进行识别，无需人工进行识别，也可以提高违规信息的识别效率。

基于图2和图3所示的实施例，在本申请的一个实施例中，若所述违规信息根据人体裸露面积进行确定，则所述根据所述违规信息，确定所述违规信息对应的违规等级，包括：

根据所述人体裸露面积占所述至少一个图像帧中人体总面积的比例，确定所述违规信息对应的违规等级。

在该实施例中，机器学习模型在对图像帧进行识别时，可以识别出该图像帧所包含的人体图像的裸露区域，并计算该裸露区域的面积。具体地，服务器可以计算该裸露区域所包含的像素点的数量，并计算该人体图像所包含的像素点的数量，并将该裸露区域所包含的像素点的数量除以该人体图像所包含的像素点的数量，以得到人体裸露面积占人体总面积的比例。

在一示例中，机器学习模型可以检测图像帧中所包含的人体图像中人脸的关键点，例如鼻子、嘴唇、眼睛等，从而确定该人体图像中的人脸区域。应该理解的，在机器学习模型的识别过程中，可能会将人脸区域识别为裸露区域。因此，当确定人脸区域之后，服务器可以将裸露区域包含的像素点的数量减去人脸区域包含的像素点的数量，以得到更准确的人体裸露面积。相应的，人体图像所包含的像素点的数量也应对应减去该人脸区域所包含的像素点的数量，进而可以得到更准确的人体裸露面积占人体总面积的比例。

本领域技术人员可以预先设定比例阈值，例如比例达到20％，则对应的违规等级为微小，比例介于20％至50％，则对应的违规等级为一般，比例达到50％及以上，则对应的违规等级为严重，等等。服务器可以将该比例与预先设定的比例阈值进行比较，从而确定该比例所处的阈值区间，从而确定该违规信息对应的违规等级。

由此，通过计算人体裸露面积占人体总面积的比例，以根据该比例确定对应的违规等级，可以保证违规等级确定的准确性。

基于图2所示的实施例，图4示出了根据本申请的另一个实施例的视频会议中违规信息的处理方法中步骤S220的流程示意图。参照图4所示，步骤S220至少包括步骤S410至步骤S430，详细介绍如下：

在步骤S410中，根据所述视频流数据，获取所述视频流数据中包含的音频数据。

在本申请一个示例性实施例中，服务器可以根据当前参会终端所传输的视频流数据，对该视频流数据进行解析，将视频流数据中所包含的音频数据进行提取，以获取对应的音频数据。

在步骤S420中，根据所述音频数据进行语音识别，确定所述音频数据对应的文字信息。

在本申请一个示例性实施例中，服务器可以将该音频数据输入至语音识别模型中，以使语音识别模型输出该音频数据对应的文字信息。需要说明的，本领域技术人员可以采用现有的语音识别模型，本申请在此不再赘述。

在步骤S430中，根据所述文字信息进行识别，确定所述文字信息中包含的违规词汇。

在本申请一示例性实施例中，服务器可以将识别得到的文字信息进行分词处理，以得到与该文字信息对应的词汇集合，该词汇集合可以包含至少一个词汇。

本领域技术人员可以预先设定违规词汇库，将涉黄、暴力、涉及政治等领域的词汇添加至违规词汇库中。服务器可以将词汇集合中所包含的词汇逐一与违规词汇库中所包含的违规词汇进行比对，根据比对结果从而确定该词汇集合中是否存在违规词汇。

由此，在图4所示的实施例中，通过获取视频流数据中的音频数据，并对该音频数据进行语音识别，确定该音频数据对应的文字信息，再对该文字信息进行识别，确定该文字信息中包含的违规词汇。由此可以识别出参会方在会议过程中是否语言中存在违规词汇，以保证违规信息的识别的全面性。

基于图4所示的实施例，在本申请的一个示例性实施例中，所述根据所述违规信息，确定所述违规信息对应的违规等级，包括：

根据所述违规词汇的字数占所述文字信息的总字数的比例，确定所述违规信息对应的违规等级。

在该实施例中，服务器可以根据该文字信息所包含的违规词汇，计算该违规词汇的字数占该文字信息的总字数的比例，从而根据该比例确定该违规信息对应的违规等级。

具体地，本领域技术人员可以预先设定比例阈值，例如比例达到20％，则对应的违规等级为微小，比例介于20％至50％，则对应的违规等级为一般，比例达到50％及以上，则对应的违规等级为严重，等等。服务器可以将该违规词汇的字数占该文字信息的总字数的比例与预先设定的比例阈值进行比较，从而确定该比例所处的阈值区间，从而确定该违规信息对应的违规等级。

在上述实施例中，根据文字信息中所包含的违规词汇，计算该违规词汇的字数占文字信息的总字数的比例，以确定该违规信息对应的违规等级。由此，可以保证违规等级确定的准确性，避免因为参会方的偶然行为，出现违规等级确定错误的情况发生。

基于图2所示的实施例，在本申请的一个实施例中，所述违规等级包括普通违规和严重违规，则所述根据所述违规等级，采用对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送，包括：

若所述违规等级为普通违规，将所述视频流数据中的违规信息进行消除，并将消除后的所述视频流数据向其他参会终端进行发送；

若所述违规等级为严重违规，停止所述当前参会终端的视频流数据传输，并在所述当前参会终端显示用于指示用户规范参会行为的违规提示信息。

在该实施例中，违规等级可以设置为普通违规和严重违规，应该理解的，严重违规的违规程度大于普通违规，对于严重违规的情况应给予重视。因此，若确定违规等级为普通违规，服务器则可以将视频流数据中的违规信息进行消除，例如可以对图像数据中所包含的违规图像信息进行马赛克处理或者遮挡处理等，对音频数据中所包含的违规词汇进行消声处理等。由于该违规等级为普通违规，则在违规信息进行消除之后，服务器可以将违规信息消除后的视频流数据继续向其他参会终端进行发送，以保证视频会议的正常进行。

而若违规等级为严重违规，则表示参会方的违规行为较为严重。因此，服务器可以停止当前参会终端的视频流数据传输，并在该当前参会终端的显示界面显示用于指示用户规范参会行为的违规提示信息，例如该违规提示信息可以为“请规范当前参会行为”，等等。在一示例中，该违规提示信息还可以包含参会方的违规类型，例如该违规提示信息可以为“违规类型：衣着暴露，请规范当前参会行为”，等等，以供参会方知晓自身的违规类型，以便于进行规范。

参会方在规范自身的参会行为之后，可以点击参会终端上的特殊区域(例如“重新加入会议”按键等)，以重新请求加入会议，以保证会议的正常进行。

基于图2所示的实施例，图5示出了根据本申请的再一个实施例的图2的视频会议中违规信息的处理方法中步骤S220的流程示意图。参照图5所示，步骤S220至少包括步骤S510至步骤S530，详细介绍如下：

在步骤S510中，获取所述当前参会终端的终端地址信息，以及所述当前参会终端的登陆账号的常用地址信息。

在该实施例中，服务器可以获取当前参会终端的终端地址信息，该终端地址信息可以是当前参会终端的IP地址，服务器还可以获取当前参会终端的登陆账号的常用地址信息。需要说明的，该账号可以是与视频会议应用程序相对应的账号，例如微信账号或者QQ账号等。参会方可以通过该账号登陆对应的视频会议应用程序，从而参加会议。

应该理解的，该账号的常用地址信息可以是参会方的常用终端的IP地址，例如工作电脑的IP地址等。在一示例中，服务器可以根据该账号的历史登陆记录，从该历史登陆记录中选取出现次数最多的IP地址以作为该账号的常用地址信息。另一示例中，该账号的拥有者可以手动输入常用地址信息，从而确定常用地址信息确定的准确性。

在步骤S520中，若所述终端地址信息不是所述常用地址信息，对所述视频流数据中所包含的背景图像进行模糊处理。

在该实施例中，服务器可以将终端地址信息与登录账号的常用地址信息进行比对，若二者不同，则表示该参会方并不在工作环境中，因此，服务器可以将视频流数据中所包含的背景图像进行模糊处理。具体地，服务器可以识别出视频流数据中所包含的人体图像区域，并将除人体图像区域以外的区域识别为背景区域。服务器可以通过调节背景区域所包含的像素点的像素值，从而对背景图像进行模糊处理，以避免因为参会方处于某些隐私环境，而造成隐私信息的泄露，保证了参会反的隐私安全。

在步骤S530中，根据模糊处理后的所述视频流数据进行识别，确定所述视频流数据中的违规信息。

在本申请一个实施例中，在对视频流数据中所包含的背景图像进行模糊处理之后，服务器可以根据模糊处理后的视频流数据进行识别，以确定该视频流数据中是否存在违规信息以及违规信息的类型。具体的识别方法可以参照上文所述的识别方法，本申请在此不再赘述。

由此，在图5所示的实施例中，通过比对当前参会终端的终端地址信息以及登陆账号的常用地址信息，确定参会方是否处于工作环境以外的环境中，若是，则对视频流数据中所包含的背景图像进行模糊处理，由此可以保证该参会方的隐私安全，避免因为背景图像而泄露该参会方的隐私信息。

基于上述实施例的技术方案，以下介绍本申请实施例的一个具体应用场景：

请参考图6，图6示出了根据本申请的一个实施例的视频会议中违规信息的处理方法的流程框图(以下以违规信息为涉黄信息为例进行说明)。

参照图6所示，参会终端可以向音视频服务器传输音视频数据(即视频流数据)，该音视频服务器具有数据传输功能，其主要用于实现参会终端之间的音视频数据的相互传输。音视频服务器接收到参会终端所发送的音视频数据之后，可以将该音视频数据向鉴黄服务器进行传输，鉴黄服务器可以根据该音视频数据进行识别，从而确定该音视频数据是否具有涉黄信息(即违规信息)。

若不存在涉黄信息，则鉴黄服务器对音视频数据不进行处理，并将音视频数据回传至音视频服务器中；若音视频数据中存在涉黄信息，则鉴黄服务器可以对该音视频数据中所包含的涉黄信息进行处理，例如对涉黄的图像进行马赛克处理、或者对涉黄的音频信息进行消声处理等，从而消除该音视频数据中所包含的涉黄信息。鉴黄服务器可以将处理之后的音视频数据回传至音视频服务器。

音视频服务器在接收到鉴黄服务器所回传的音视频数据之后，将该音视频数据向其他参会终端进行传输，从而规范视频会议的参会方的参会行为，避免其存在涉黄信息，保证了视频会议的会议质量。

以下介绍本申请的装置实施例，可以用于执行本申请上述实施例中的视频会议中违规信息的处理方法。对于本申请装置实施例中未披露的细节，请参照本申请上述的视频会议中违规信息的处理方法的实施例。

图7示出了根据本申请的一个实施例的视频会议中违规信息的处理装置的框图。

参照图7所示，根据本申请的一个实施例的视频会议中违规信息的处理装置，包括：

根据本申请实施例的一个方面，提供了一种视频会议中违规信息的处理装置，该装置包括：

获取模块710，用于获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种；

识别模块720，用于根据所述视频流数据进行识别，确定所述视频流数据中的违规信息；

确定模块730，用于根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关；

处理模块740，用于根据所述违规等级，采用对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。

在本申请一些实施例中，基于前述方案，该识别模块720被配置为：对所述视频流数据进行绘制，得到与所述视频流数据对应的至少一个图像帧，根据所述至少一个图像帧，确定所述至少一个图像帧中的违规信息，所述违规信息根据是否为人体隐私部位、人体裸露面积以及是否为敏感动作中的至少一个进行确定。

在本申请一些实施例中，基于前述方案，若所述违规信息根据人体裸露面积进行确定，该确定模块730被配置为：根据所述人体裸露面积占所述至少一个图像帧中人体总面积的比例，确定所述违规信息对应的违规等级。

在本申请一些实施例中，基于前述方案，该识别模块720被配置为：根据所述视频流数据，获取所述视频流数据中包含的音频数据；根据所述音频数据进行语音识别，确定所述音频数据对应的文字信息；根据所述文字信息进行识别，确定所述文字信息中包含的违规词汇。

在本申请一些实施例中，基于前述方案，该确定模块730被配置为：根据所述违规词汇的字数占所述文字信息的总字数的比例，确定所述违规信息对应的违规等级。

在本申请一些实施例中，基于前述方案，所述违规等级包括普通违规和严重违规，该处理模块740被配置为：若所述违规等级为普通违规，将所述视频流数据中的违规信息进行消除，并将消除后的所述视频流数据向其他参会终端进行发送；若所述违规等级为严重违规，停止所述当前参会终端的视频流数据传输，并在所述当前参会终端显示用于指示用户规范参会行为的违规提示信息。

在本申请一些实施例中，基于前述方案，该识别模块720被配置为：获取所述当前参会终端的终端地址信息，以及所述当前参会终端的登陆账号的常用地址信息；若所述终端地址信息不是所述常用地址信息，对所述视频流数据中所包含的背景图像进行模糊处理；根据模糊处理后的所述视频流数据进行识别，确定所述视频流数据中的违规信息。

图8示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

需要说明的是，图8示出的电子设备的计算机系统仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图8所示，计算机系统包括中央处理单元(Central Processing Unit，CPU)801，其可以根据存储在只读存储器(Read-Only Memory，ROM)802中的程序或者从储存部分808加载到随机访问存储器(Random Access Memory，RAM)803中的程序而执行各种适当的动作和处理，例如执行上述实施例中所述的方法。在RAM 803中，还存储有系统操作所需的各种程序和数据。CPU 801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(Input/Output，I/O)接口805也连接至总线804。

以下部件连接至I/O接口805：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分807；包括硬盘等的储存部分808；以及包括诸如LAN(Local Area Network，局域网)卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至I/O接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入储存部分808。

特别地，根据本申请的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本申请的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的计算机程序。在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被中央处理单元(CPU)801执行时，执行本申请的系统中限定的各种功能。

需要说明的是，本申请实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的计算机程序。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的计算机程序可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。其中，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的单元也可以设置在处理器中。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现上述实施例中所述的方法。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本申请实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的实施方式后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。

应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims (10)

1.一种视频会议中违规信息的处理方法，其特征在于，包括：

获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种；

根据所述视频流数据进行识别，确定所述视频流数据中的违规信息；

根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关；

根据所述违规等级，采用与其对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。

2.根据权利要求1所述的方法，其特征在于，根据所述视频流数据进行识别，确定所述视频流数据中的违规信息，包括：

对所述视频流数据进行绘制，得到与所述视频流数据对应的至少一个图像帧；

根据所述至少一个图像帧，确定所述至少一个图像帧中的违规信息，所述违规信息根据是否为人体隐私部位、人体裸露面积以及是否为敏感动作中的至少一个进行确定。

3.根据权利要求2所述的方法，其特征在于，若所述违规信息根据人体裸露面积进行确定；

所述根据所述违规信息，确定所述违规信息对应的违规等级，包括：

根据所述人体裸露面积占所述至少一个图像帧中人体总面积的比例，确定所述违规信息对应的违规等级。

4.根据权利要求1所述的方法，其特征在于，根据所述视频流数据进行识别，确定所述视频流数据中的违规信息，包括；

根据所述视频流数据，获取所述视频流数据中包含的音频数据；

根据所述音频数据进行语音识别，确定所述音频数据对应的文字信息；

根据所述文字信息进行识别，确定所述文字信息中包含的违规词汇。

5.根据权利要求4所述的方法，其特征在于，所述根据所述违规信息，确定所述违规信息对应的违规等级，包括：

根据所述违规词汇的字数占所述文字信息的总字数的比例，确定所述违规信息对应的违规等级。

6.根据权利要求1所述的方法，其特征在于，所述违规等级包括普通违规和严重违规；

所述根据所述违规等级，采用对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送，包括：

若所述违规等级为普通违规，将所述视频流数据中的违规信息进行消除，并将消除后的所述视频流数据向其他参会终端进行发送；

若所述违规等级为严重违规，停止所述当前参会终端的视频流数据传输，并在所述当前参会终端显示用于指示用户规范参会行为的违规提示信息。

7.根据权利要求1所述的方法，其特征在于，所述根据所述视频流数据进行识别，确定所述视频流数据中的违规信息，包括：

获取所述当前参会终端的终端地址信息，以及所述当前参会终端的登陆账号的常用地址信息；

若所述终端地址信息不是所述常用地址信息，对所述视频流数据中所包含的背景图像进行模糊处理；

根据模糊处理后的所述视频流数据进行识别，确定所述视频流数据中的违规信息。

8.一种视频会议中违规信息的处理装置，其特征在于，包括：

获取模块，用于获取当前参会终端的待传输的视频流数据，所述视频流数据包括图像数据和音频数据中的至少一种；

识别模块，用于根据所述视频流数据进行识别，确定所述视频流数据中的违规信息；

确定模块，用于根据所述违规信息，确定所述违规信息对应的违规等级，所述违规等级与所述违规信息占所述视频流数据传输的信息的比例成正相关；

处理模块，用于根据所述违规等级，采用对应的违规处理策略对所述视频流数据进行处理，并将处理后的所述视频流数据向其他参会终端进行发送。

9.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的视频会议中违规信息的处理方法。

10.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1至7中任一项所述的视频会议中违规信息的处理方法。

Images