CN115665472A - 传输内容管控装置及方法 - Google Patents

Abstract

本申请公开一种传输内容管控装置及方法，涉及无线传输技术领域。本申请的装置包括：接收单元，用于接收投送设备发送的当前传输内容；检测单元，用于对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果中包括所述当前传输内容对应的违规内容的属性信息；判断单元，用于基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；显示单元，用于当所述当前传输内容合法时，则输出显示所述当前传输内容；生成单元，用于当所述当前传输内容不合法时，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

Description

传输内容管控装置及方法

技术领域

本申请涉及无线传输技术领域，尤其涉及一种传输内容管控装置及方法。

背景技术

投屏、蓝牙等技术均是一种无线技术标准，可实现固定设备、移动设备和楼宇个人域网之间的短距离数据交换，具体来说，是将一个设备上输出显示的内容通过不同协议“实时地”发送到另一个设备上输出显示，输出显示的内容包括相册、视频、音频等各类多媒体信息，也包括在投送设备上的实时操作内容。即投送设备将当前显示的内容作为当前传输内容发送至显示设备上，并由显示设备对当前传输内容进行输出显示，以便与其他用户对当前传输内容进行分享。例如在企业会议、教学演示、集体宣讲等场景下，均会将手机、ipad、电脑等投送设备中当前输出显示的内容发送至投影机、会议平板、拼接屏、电子白板、电视机等显示设备中输出显示。

目前，当显示设备接收到投送设备发送的当前传输内容时，会直接将当前传输内容在显示设备中输出显示。然而，直接输出显示当前传输内容不仅会造成投送用户的个人隐私泄露，还会影响观看用户的身心健康，进而导致用户的使用体验较差。

发明内容

本申请实施例提供一种传输内容管控装置及方法，主要目的在于避免对投送用户造成个人隐私泄露，同时避免观看用户的身心健康受到影响，进而实现对当前传输内容的合理管控，提升用户的使用体验。

为解决上述技术问题，本申请实施例提供如下技术方案：

第一方面，本申请提供了一种传输内容管控装置，所述装置包括：

接收单元，用于接收投送设备发送的当前传输内容；

检测单元，用于对所述接收单元获得的所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果中包括所述当前传输内容对应的违规内容的属性信息；

判断单元，用于基于所述检测单元获得的所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；

显示单元，用于当所述判断单元判定所述当前传输内容合法时，则输出显示所述当前传输内容；

生成单元，用于当所述判断单元判定所述当前传输内容不合法时，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

可选的，所述当前传输内容为视频内容；所述检测单元，具体用于，

在所述视频内容中抽取预设数量的视频帧图像；

将每个所述视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得所述视频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述视频帧图像是否为违规图像以及每个所述视频帧图像对应的属性信息；

根据所述视频内容对应的匹配结果确定所述视频内容对应的违规图像的属性信息，并将所述视频内容对应的违规图像的属性信息作为所述当前传输内容对应的检测结果。

可选的，所述当前传输内容为音频内容；所述检测单元，具体用于，

对所述音频内容进行转换处理，以获得所述音频内容对应的文本内容，所述文本内容包含多个词汇；

将每个所述词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得所述音频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述词汇是否为违规词汇以及每个所述词汇对应的属性信息；

根据所述音频内容对应的匹配结果确定所述音频内容对应的违规词汇的属性信息，并将所述音频内容对应的违规词汇的属性信息作为所述当前传输内容对应的检测结果。

可选的，所述当前传输内容为视频内容，所述违规内容的属性信息为所述视频内容对应的违规图像的属性信息；所述判断单元，具体用于，

根据所述视频内容对应的违规图像的属性信息确定所述视频内容的违规发生场景；

判断所述视频内容的发生场景是否为合法场景；

当所述视频内容的违规发生场景为合法场景时，则确定所述当前传输内容为合法；

当所述视频内容的违规发生场景不为合法场景时，则确定所述当前传输内容为不合法。

可选的，当所述当前传输内容为音频内容，所述违规内容的属性信息为所述音频内容对应的违规词汇的属性信息；所述判断单元，具体用于，

根据所述音频内容对应的违规词汇的属性信息确定所述音频内容的违规词汇数量；

判断所述音频内容的违规词汇数量是否小于预置词汇数量阈值；

当所述音频内容的违规词汇数量小于预置词汇数量阈值时，则确定所述当前传输内容为合法；

当所述音频内容的违规词汇数量不小于预置词汇数量阈值时，则确定所述当前传输内容为不合法。

可选的，所述装置还包括：

第一确定单元，用于在所述生成单元之前根据所述当前传输内容对应的违规内容的属性信息确定所述当前传输内容对应的违规内容类型；

获取单元，用于获取预设时间段内通过历史提示信息形成的用户浏览信息，并基于所述通过历史提示信息形成的用户浏览信息确定用户常览内容类型，所述用户常览内容类型至少为一种；

所述判断单元，还用于判断所述第一确定单元获得的所述当前传输内容对应的违规内容类型与所述获取单元获得的所述用户常览内容类型是否匹配；

所述显示单元，还用于当所述判断单元判定所述当前传输内容对应的违规内容类型与所述用户常览内容类型匹配时，则输出显示所述当前传输内容；

所述生成单元，还用于当所述判断单元判定所述当前传输内容对应的违规内容类型与所述用户常览内容类型不匹配时，则生成所述当前传输内容对应的所述当前提示信息，并输出显示所述当前提示信息。

可选的，所述装置还包括：

第二确定单元，用于在所述显示单元之前确定所述当前传输内容对应的内容来源信息；

加密单元，用于对所述第二确定单元获得的内容来源信息进行加密处理，以使得输出显示所述当前传输内容时隐藏所述当前传输内容对应的内容来源信息。

可选的，所述判断单元，还用于在所述检测单元之前判断所述当前传输内容对应的使用场景是否为公共场景；

所述检测单元，具体用于，

当所述判断单元判断所述当前传输内容对应的使用场景为公共场景时，则对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果。

第二方面，本申请提供了一种传输内容管控方法，所述方法包括：

接收投送设备发送的当前传输内容；

对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果中包括所述当前传输内容对应的违规内容的属性信息；

基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；

若是，则输出显示所述当前传输内容；

若否，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

可选的，所述当前传输内容为视频内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，包括：

在所述视频内容中抽取预设数量的视频帧图像；

将每个所述视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得所述视频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述视频帧图像是否为违规图像以及每个所述视频帧图像对应的属性信息；

根据所述视频内容对应的匹配结果确定所述视频内容对应的违规图像的属性信息，并将所述视频内容对应的违规图像的属性信息作为所述当前传输内容对应的检测结果。

可选的，所述当前传输内容为音频内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，包括：

对所述音频内容进行转换处理，以获得所述音频内容对应的文本内容，所述文本内容包含多个词汇；

将每个所述词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得所述音频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述词汇是否为违规词汇以及每个所述词汇对应的属性信息；

根据所述音频内容对应的匹配结果确定所述音频内容对应的违规词汇的属性信息，并将所述音频内容对应的违规词汇的属性信息作为所述当前传输内容对应的检测结果。

可选的，所述当前传输内容为视频内容，所述违规内容的属性信息为所述视频内容对应的违规图像的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法，包括：

根据所述视频内容对应的违规图像的属性信息确定所述视频内容的违规发生场景；

判断所述视频内容的违规发生场景是否为合法场景；

若是，则确定所述当前传输内容为合法；

若否，则确定所述当前传输内容为不合法。

可选的，当所述当前传输内容为音频内容，所述违规内容的属性信息为所述音频内容对应的违规词汇的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法，包括：

根据所述音频内容对应的违规图像的属性信息确定所述音频内容的违规词汇数量；

判断所述音频内容的违规词汇数量是否小于预置词汇数量阈值；

若是，则确定所述当前传输内容为合法；

若否，则确定所述当前传输内容为不合法。

可选的，在生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息之前，所述方法还包括：

根据所述当前传输内容对应的违规内容的属性信息确定所述当前传输内容对应的违规内容类型；

获取预设时间段内通过历史提示信息形成的用户浏览信息，并基于所述通过历史提示信息形成的用户浏览信息确定用户常览内容类型，所述用户常览内容类型至少为一种；

判断所述当前传输内容对应的违规内容类型与所述用户常览内容类型是否匹配；

若匹配，则输出显示所述当前传输内容；

若不匹配，则执行生成所述当前传输内容对应的所述当前提示信息，并输出显示所述当前提示信息的步骤。

可选的，在输出显示所述当前传输内容之前，所述方法还包括：

确定所述当前传输内容对应的内容来源信息；

对所述内容来源信息进行加密处理，以使得输出显示所述当前传输内容时隐藏所述当前传输内容对应的内容来源信息。

可选的，在对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果之前，所述方法还包括：

判断所述当前传输内容对应的使用场景是否为公共场景；

若是，则执行对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果的步骤。

第三方面，本申请的实施例提供了一种存储介质，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行第二方面所述的传输内容管控方法。

第四方面，本申请的实施例提供了一种传输内容管控装置，所述装置包括存储介质；及一个或者多个处理器，所述存储介质与所述处理器耦合，所述处理器被配置为执行所述存储介质中存储的程序指令；所述程序指令运行时执行第二方面所述的传输内容管控方法。

借由上述技术方案，本申请提供的技术方案至少具有下列优点：

本申请提供一种传输内容管控装置及方法，本申请提供的传输内容管控装置包括：接收单元、检测单元、判断单元、显示单元和生成单元；首先，由接收单元接收投送设备发送的当前传输内容；其次由检测单元对接收单元获得的当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，其中，检测结果中包括当前传输内容对应的违规内容的属性信息；再次，由判断单元基于当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法；最后，由显示单元在判断单元判定当前传输内容合法时，则输出显示当前传输内容；由生成单元在当判断单元判定当前传输内容不合法时，则生成当前传输内容对应的当前提示信息，并输出显示当前提示信息。在本申请中，当接收到当前传输内容后，先通过对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，并且检测结果中包括当前传输内容对应的违规内容的属性信息，再基于当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法，在合法时直接输出显示当前传输内容，在不合法时生成并输出显示当前提示信息，以提醒用户当前传输内容中存在不合法内容，从而避免对投送用户造成个人隐私泄露，同时避免对观看用户的身心健康造成影响，进而对当前传输内容实现合理的管控，提升用户的使用体验。

上述说明仅是本申请技术方案的概述，为了能够更清楚了解本申请的技术手段，而可依照说明书的内容予以实施，并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂，以下特举本申请的具体实施方式。

附图说明

通过参考附图阅读下文的详细描述，本申请示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本申请的若干实施方式，相同或对应的标号表示相同或对应的部分，其中：

图1示出了本申请实施例提供的一种传输内容管控装置的组成框图；

图2示出了本申请实施例提供的另一种传输内容管控装置的组成框图；

图3示出了本申请实施例提供的一种传输内容管控方法流程图。

具体实施方式

下面将参照附图更详细地描述本申请的示例性实施方式。虽然附图中显示了本申请的示例性实施方式，然而应当理解，可以以各种形式实现本申请而不应被这里阐述的实施方式所限制。相反，提供这些实施方式是为了能够更透彻地理解本申请，并且能够将本申请的范围完整的传达给本领域的技术人员。

需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本申请所属领域技术人员所理解的通常意义。

投屏、蓝牙等技术均是一种无线技术标准，可实现固定设备、移动设备和楼宇个人域网之间的短距离数据交换，具体来说，是将一个设备上输出显示的内容通过不同协议“实时地”发送到另一个设备上输出显示，输出显示的内容包括相册、视频、音频等各类多媒体信息，也包括在投送设备上的实时操作内容。即投送设备将当前显示的内容作为当前传输内容发送至显示设备上，并由显示设备对当前传输内容进行输出显示，以便与其他用户对当前传输内容进行分享。例如在企业会议、教学演示、集体宣讲等场景下，均会将手机、ipad、电脑等投送设备中当前输出显示的内容发送至投影机、会议平板、拼接屏、电子白板、电视机等显示设备中输出显示。

目前，当显示设备接收到投送设备发送的当前传输内容时，如果当前传输内容中出现不适合输出显示的视频内容、音频内容或图像内容时，例如，投送设备当前输出显示的内容中包含有敏感词汇、污秽词汇、危险画面、不雅画面等内容或投送用户而言较为私密的内容，显示设备依然会将当前传输内容输出显示。然而，直接输出显示当前传输内容包含有敏感词汇、污秽词汇、危险画面、不雅画面的内容或对于投送用户而言较为私密的内容的当前传输内容，不仅会造成投送用户的个人隐私泄露，还会影响观看用户的身心健康，导致投送用户与观看用户之间的气氛较为尴尬，进而导致用户的使用体验较差。

为此，本申请实施例提供了一种传输内容管控装置，该装置应用于投影机、会议平板、拼接屏、电子白板、电视机、电脑具有投屏显示功能的显示设备该装置如图1所示，该装置具体包括：接收单元11，用于接收投送设备发送的当前传输内容；检测单元12，用于对接收单元11获得的当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，其中，检测结果中包括当前传输内容对应的违规内容的属性信息；判断单元13，用于基于检测单元12获得的当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法；显示单元14，用于当判断单元13判定当前传输内容合法时，则输出显示当前传输内容；生成单元15，用于当判断单元13判定当前传输内容不合法时，则生成当前传输内容对应的当前提示信息，并输出显示当前提示信息。

以下结合图1示出的传输内容管控装置，具体说明传输内容管控装置对当前传输内容进行管控的详细过程：

其中，投送设备包括但不限于：手机、平板、电脑等具有投屏显示功能的投送设备；其中，当前传输内容包括但不限于:视频内容、音频内容、图像内容等；由于无线传输状态下投送设备中显示内容是“实时地”输出显示在显示设备中，因此，当前传输内容可以是投送设备当前输出显示的内容或为需要进行投屏播放的内容，例如视频、音频等，对此，本实施例不做具体限定；其中，所述检测结果用于表征前传输内容对应的违规内容的属性信息，违规内容的属性信息包括但不限于当前传输内容对应的违规内容的数量信息、类型信息或场景信息等；其中，违规内容是指当前传输内容中被检测到的违规图像内容、违规词汇内容或用户隐私内容等，对此，本实施例不做限定；其中，当前传输内容是否合法是指当前传输内容中是否存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容，而对于投送用户而言较为私密的内容可以为投送用户的照片、弹出的对话框等；其中，当前提示信息用于提示用户当前传输内容不适合输出显示，其包括是否继续输出显示或是否关闭或跳过当前传输内容等选项，而其具体形式可以为弹窗形式，也可以为对话框形式，对此，本实施例不做具体限定，并且，当前提示信息的输出时机可以为上一传输内容或上一传输内容对应的上一提示信息输出显示完毕后再输出显示，也可以直接输出显示并停留在显示界面的空闲区域。

在本申请实施例中，当投送设备将当前传输内容发送至传输内容管控装置时，传输内容管控装置中的接收单元11便可接收得到投送设备发送的当前传输内容，即投送设备中当前显示的内容；在接收单元11接收得到投送设备发送的当前传输内容后，检测单元12便可对当前传输内容进行检测处理，以获得前传输内容对应的检测结果，其中，检测结果中包括当前传输内容对应的违规内容的属性信息，即检测当前传输内容中的敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容的属性信息；在检测单元12检测得到当前传输内容对应的检测结果后，判断单元13便可基于检测结果中包括的当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法，即判断当前传输内容中存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容的数量、类型或场景等属性信息的合法性；在判断单元13判定当前传输内容合法后，显示单元14便可输出显示当前传输内容；在判断单元13判定当前传输内容不合法后，生成单元15便可生成当前传输内容对应的当前提示信息，并输出显示当前提示信息，以便提醒用户当前传输内容中存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容，从而避免对投送用户造成个人隐私泄露，同时避免对观看用户的身心健康造成影响，进而对当前传输内容实现合理的管控，提升用户的使用体验。

本申请提供一种传输内容管控装置，本申请提供的传输内容管控装置包括：接收单元、检测单元、判断单元、显示单元和生成单元；首先，由接收单元接收投屏设备发送的当前传输内容；其次，由检测单元对接收单元获得的当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，其中，检测结果中包括当前传输内容对应的违规内容的属性信息；再次，由判断单元基于检测单元获得的当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法；最后，由显示单元在判断单元判定当前传输内容合法时，则输出显示当前传输内容；由生成单元在判断单元判定当前传输内容不合法时，则生成当前传输内容对应的当前提示信息，并输出显示当前提示信息。在本申请中，当接收到当前投屏内容后，是先通过对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，并且检测结果中包括当前传输内容对应的违规内容的属性信息，再基于当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法，即判断当前传输内容是否包含有敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容或包含敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容是否合法，在合法时是直接输出显示当前传输内容，在不合法时则是先不输出显示当前传输内容，而是生成当前提示信息，并输出显示当前提示信息，以提醒用户当前传输内容中存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容，从而避免对投送用户造成个人隐私泄露，同时避免对观看用户的身心健康造成影响，进而对当前传输内容实现合理的管控，提升用户的使用体验。

本申请实施例还提供了另一种传输内容管控装置，如图2所示，以下结合图2进行解释说明：

进一步的，如图2所示，当前传输内容为视频内容；检测单元12，包括：

抽取模块121，用于在视频内容中抽取预设数量的视频帧图像；

第一匹配模块122，用于将抽取模块121获得的每个视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得视频内容对应的匹配结果，其中，匹配结果用于表征每个视频帧图像是否为违规图像以及每个视频帧图像对应的类型信息；

第一确定模块123，用于根据第一匹配模块122获得的视频内容对应的匹配结果确定视频内容对应的违规图像的属性信息，并将视频内容对应的违规图像的属性信息作为当前传输内容对应的检测结果。

其中，预设数量的具体数值与无线传输过程中实时传输的数据量有关，若数据量大，则预设数量大，反之，则预设数量小，具体的，可以根据数据量将其切分成若干段，并在每一段中抽取一帧视频帧图像，也可以随机抽取，对此，本实施例不做具体限定；其中，预置敏感图像库中包括但不限于：色情图像、暴力图像、血腥图像、私密图像等，而私密图像则可以是与投送设备系统匹配的消息弹出显示样式图像、相册显示样式图像等，对此，本实施例不做具体限定，具体的，可以根据用户自定义构建，且在构建时，预置敏感图像库中的每个敏感图像均具有各个对应的类型、场景等标签以表征其所属的图像类型、发生场景等信息。

在本申请实施例中，检测单元12用于对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，而在当前传输内容为视频内容时，检测单元12的具体检测过程为：由抽取模块121在视频内容中抽取预设数量的视频帧图像；由第一匹配模块122将抽取模块121获得的每个视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得视频内容对应的匹配结果，其中，匹配结果用于表征每个视频帧图像是否为违规图像以及每个视频帧图像对应的属性信息，例如，抽取10个视频帧图像，当该10个视频帧图像中有6个视频帧图像与预置敏感图像库对应的多个敏感图像能够匹配，则说明10个视频帧图像中有6个视频帧图像为违规图像，且通过与6个视频帧图像匹配的敏感图像，就能确定该6个视频帧图像对应的图像属性信息，即该6个视频帧图像对应的类型、场景等属性信息；由第一确定模块123根据第一匹配模块122获得的视频内容对应的匹配结果确定视频内容对应的违规图像的属性信息，并将视频内容对应的违规图像的属性信息作为当前传输内容对应的检测结果，由于第一匹配模块122中已经确定了匹配结果，因此，即可直接确定每个视频帧图像中是否为违规头像以及每个违规图像的对应的图像类型、发生场景等属性信息，因此，可将视频内容对应的违规图像的属性信息作为检测结果，以便后续确定是否输出显示。

在实际应用中，当前传输内容也包括单帧图像，也就是图片，例如将电子海报传输至显示设备中，而本实施例的检测步骤与当前传输内容为视频内容时一致，在此对相同内容不做赘述。

进一步的，如图2所示，当前传输内容为音频内容；检测单元12，包括：

转换模块124，用于对音频内容进行转换处理，以获得音频内容对应的文本内容，文本内容包含多个词汇；

第二匹配模块125，用于将转换模块124获得的每个词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得音频内容对应的匹配结果，其中，匹配结果用于表征每个词汇是否为违规词汇以及每个词汇对应的属性信息；

第二确定模块126，用于根据第二匹配模块125获得的音频内容对应的匹配结果确定音频内容对应的违规词汇的属性信息，并将音频内容对应的违规词汇的属性信息作为当前传输内容对应的检测结果。

其中，音频内容转换文本内容的具体方式，本实施例不做限定，只需保证转换后的内容正确即可，由于文本即为多个词汇组成，因此，检测文本内容即是检测文本内容中的每个词汇；其中，预置敏感词汇库包括但不限于：辱骂词汇、污秽词汇、私密词汇等，对此，本实施例不做限定，私密词汇可以为投送用户与他人沟通昵称等，具体的，可根据用户自定义构建，且在构建时，预置敏感词汇库中的每个敏感词汇均可以根据其含义设置对应的词汇类型、场景等标签以表征其所属的词汇类型、发生场景等属性信息。在本申请实施例中，检测单元12用于对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，而在当前传输内容为音频内容时，检测单元12的具体检测过程为：由转换模块124对音频内容进行转换处理，以获得音频内容对应的文本内容，文本内容包含多个词汇，即可将文本内容中的全部词汇提取出来；由第二匹配模块125将转换模块124获得的每个词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得音频内容对应的匹配结果，其中，匹配结果用于表征每个词汇是否为违规词汇以及每个词汇对应的类型信息由于文本中提取的词汇与预置敏感词汇库中的多个敏感词汇能够匹配，则说明文本内容中存在违规词汇，即音频内容中存在违规词汇，且还可以获知与敏感词汇匹配的违规词汇对应的词汇类型、发生场景等属性信息；由第二确定模块126根据第二匹配模块125获得的音频内容对应的匹配结果确定音频内容对应的违规词汇的属性信息，并将音频内容对应的违规词汇的数量信息和类型信息作为当前传输内容对应的检测结果，由于在第二匹配模块125中已经获知哪些词汇与敏感词汇匹配，因此，即可直接确定违规词汇的词汇类型、发生场景等属性信息，以便后续确定是否输出显示。

进一步的，如图2所示，当前传输内容为视频内容，违规内容的属性信息为视频内容对应的违规图像的属性信息；判断单元13，包括：

第三确定模块131，用于根据视频内容对应的违规图像的属性信息确定视频内容的违规发生场景；

第一判断模块132，用于判断视频内容的违规发生场景是否为合法场景；

第四确定模块133，用于当第一判断模块132判定视频内容的违规发生场景为合法场景时，则确定当前传输内容为合法；

所述第四确定模块133，还用于当第一判断模块132判定视频内容的违规发生场景不为合法场景时，则确定当前传输内容为不合法。

其中，视频内容的违规发生场景可以根据与违规图像的匹配的敏感图像的场景标签进行确定，由于违规图像在与预设敏感图像库中的敏感图像匹配成功时，该敏感图像具有类型、场景等标签，即能够获知该敏感图像的属性信息，而与该敏感图像匹配成功的违规图像就相当于具有了上述同样的属性信息，因此，可以直接确定每个违规图像的违规发生场景，示例性的，假设违规图像有3个，且3个违规图像为血腥图像，而与该3个违规图像匹配成功的敏感图像具有的场景标签分别对应的行凶场景、手术场景、手术场景，那么说明视频内容的违规发生场景就是行凶场景和手术场景；其中，合法场景即为该画面是在健康、绿色的前提下能够符合视频播出要求的场景，即行凶场景为不合法场景、手术场景即为合法场景，也就是当前传输内容中存在不合法场景，因此，可以直接确定当前传输内容为不合法，反之，确定当前传输内容为合法。

在申请实施例中，判断单元13用于基于当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法，而在当前传输内容为视频内容时，此时的违规内容的属性信息为视频内容对应的违规图像的属性信息，则该情况下的判断单元13具体的执行过程为：由第三确定模块131根据视频内容对应的违规图像的属性信息确定视频内容的违规发生场景；由第一判断模块132判断视频内容的违规发生场景是否为合法场景；当第一判断模块132判定视频内容的违规发生场景为合法场景时，则由第四确定模块133则确定当前传输内容为合法；当第一判断模块132判定视频内容的违规发生场景不为合法场景时，则由第四确定模块133确定当前传输内容为不合法，从而根据违规图像的属性信息确定当前传输内容是否合法，即是否直接输出显示。

进一步的，如图2所示，当前传输内容为音频内容，违规内容的属性信息为音频内容对应的违规词汇的属性信息；判断单元13，包括：

第五确定模块134，用于根据音频内容对应的违规词汇的属性信息确定音频内容的违规词汇数量；

第二判断模块135，用于判断第五确定模块134获得的音频内容的违规词汇数量是否小于预置词汇数量阈值；

第六确定模块136，用于当第二判断模块135判定音频内容的违规词汇数量小于预置词汇数量阈值时，则确定当前传输内容为合法；

所述第六确定模块136，还用于当第二判断模块135判定音频内容的违规词汇数量不小于预置词汇数量阈值时，则确定当前传输内容为不合法。

其中，通过音频内容对应的违规词汇的属性信息可以确定音频内容的违规词汇数量，预置词汇数量阈值可以根据文本内容中的词汇量进行确定，例如，视频帧图像的抽取数量为100个，则预置图像数量阈值可以为10个，即只要音频内容的违规词汇数量满足视频帧图像的抽取数量的百分之十则可确定当前传输内容不合法，也可以用户自定义设置，即一个固定数值，例如预置词汇数量阈值为5，即只要违规词汇的数量满足5个则可确定当前传输内容不合法，对此，本实施例不做限定。

在申请实施例中，判断单元13用于基于当前传输内容对应的违规内容的数量信息判断当前传输内容是否合法，而在当前传输内容为音频内容时，此时的违规内容的属性信息为音频内容对应的违规词汇的属性信息，则该情况下的判断单元13具体的执行过程为：由第五确定模块134根据音频内容对应的违规图像的属性信息确定音频内容的违规词汇数量；由第二判断模块135判断音频内容对应的违规词汇的数量信息是否小于预置词汇数量阈值；当第二判断模块135判定音频内容对应的违规词汇的数量信息小于预置词汇数量阈值时，由第六确定模块136确定当前传输内容为合法；当第二判断模块133判定音频内容对应的违规词汇的数量信息不小于预置词汇数量阈值时，则由第六确定模块136确定当前传输内容为不合法，从而根据违规词汇的数量信息确定当前传输内容是否合法，即是否直接输出显示。

进一步的，如图2所示，所述装置还包括：

第一确定单元16，用于在生成单元15之前根据当前传输内容对应的违规内容的属性信息确定当前传输内容对应的违规内容类型；

获取单元17，用于获取预设时间段内通过历史提示信息形成的用户浏览信息，并基于通过历史提示信息形成的用户浏览信息确定用户常览内容类型，用户常览内容类型至少为一种；

所述判断单元13，还用于判断第一确定单元16获得的当前传输内容对应的违规内容类型与获取单元17获得的用户常览内容类型是否匹配；

所述显示单元14，还用于当判断单元13判定当前传输内容对应的违规内容类型与用户常览内容类型匹配时，则输出显示当前传输内容；

所述生成单元15，具体用于，

当所述判断单元13判定所述当前传输内容对应的内容类型与所述用户常览内容类型不匹配时，则生成所述当前传输内容对应的所述当前提示信息，并输出显示所述当前提示信息。

其中，当前传输内容对应的违规内容类型可以根据违规内容的属性信息进行确定，例如，对于视频内容而言，假设违规图像的数量为6个，而这6个违规图像中有2个是暴力类型，4个是血腥类型，那么当前传输内容对应的内容类型即为血腥类型，对于音频内容而言也是同理；用户常览内容类型则为用户经常在显示设备中浏览的内容类型，其是根据预设时间段内的通过历史提示信息形成的用户浏览信息确定的，即通过用户在历史传输内容不合法时输出的历史提示信息中的选项操作继续播放时形成的浏览信息，预设时间段可以为检测当前天起前一个月、三个月等，而该用户常览内容类型不止为1个，具体数值不做具体限定，且其是实时更新的，当通过历史提示信息形成的用户浏览信息发生变化且达到一定的变化量时，对应的用户常览内容类型也会变化。

示例性的，假设当前执行主体为学校教室内的一台显示设备，而当前传输内容为行凶视频，可知，且对应的内容类型为血腥类型，而获取该显示设备的近一个月的通过历史提示信息形成的用户浏览信息，发现有百分之90的浏览信息均是行凶视频，百分之10的浏览记录为防卫动作教学视频，但是由于行凶视频中的帧图像对应的行凶场景和血腥类型，其在前述判断单元13进行判定时可知，行凶场景的帧图像其是不合法的，即不能直接输出播放的，但是，由于近一个月的通过历史提示信息形成的用户浏览信息有百分之90的浏览信息均是行凶视频，也就是该显示设备就是用于播放行凶视频以提升学员的自我防卫意识的，即用户常览内容就是血腥类型，因此，为了避免每次均需要用户对提示信息进行操作再观看而影响观看体验，可以直接输出显示当前传输内容。

在本申请实施例中，检测结果还包括当前传输内容对应的违规内容的类型信息；为了避免生成单元15在生成当前提示信息之前，将用户之前经常观看的违规内容类型每次都出现提示信息而影响观看进度，可以由第一确定单元16在生成单元15之前根据当前传输内容对应的违规内容的属性信息确定当前传输内容对应的违规内容类型；由获取单元17获取预设时间段内通过历史提示信息形成的用户浏览信息，并基于通过历史提示信息形成的用户浏览信息确定用户常览内容类型，用户常览内容类型至少为一种；由判断单元13判断第一确定单元16获得的当前传输内容对应的违规内容类型与获取单元17获得的用户常览内容类型是否匹配；当判断单元13判定当前传输内容对应的违规内容类型与用户常览内容类型匹配时；则由显示单元14输出显示当前传输内容；当判断单元13判定当前传输内容对应的违规内容类型与用户常览内容类型不匹配时，则由生成单元15具体执行生成当前传输内容对应的当前提示信息，并输出显示当前提示信息的步骤，从而在判断当前传输内容不合法时，继续确定其是否为用户喜欢浏览的内容，若是则直接输出显示，以便用户可以自由观看，提升用户观看的便捷性。

进一步的，如图2所示，所述装置还包括：

第二确定单元18，用于在显示单元14之前确定当前传输内容对应的内容来源信息；

加密单元19，用于对第二确定单元18获得的内容来源信息进行加密处理，以使得输出显示当前传输内容时隐藏当前传输内容对应的内容来源信息。

其中，内容来源信息即为当前传输内容携带的投送设备ID、投送设备的用户ID、投送时间等具有私密性的信息，为了保证其私密性，也为了后续通过输入密码等操作对其进行查看，可以在当前传输内容输出显示之前，对其中的内容来源信息进行加密，而具体的加密方式本实施例不做限定。

在本申请实施例中，由于投送设备的私密信息容易泄露，因此，为了保证投送设备的私密性，可以由第二确定单元18在显示单元14之前确定当前传输内容对应的内容来源信息；由加密单元19，用于对第二确定单元18获得的内容来源信息进行加密处理，以使得输出显示当前传输内容时隐藏当前传输内容对应的内容来源信息，从而当前传输内容中的内容来源信息进行权限管理，从而保证内容来源信息的私密性。

进一步的，如图2所示，所述获取单元17，还用于在检测单元12之前判断当前传输内容对应的使用场景是否为公共场景；

所述检测单元12，还用于当判断单元13判断使用场景为公共场景时，则对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果。

其中，使用场景可以根据显示设备当前采集的使用场景信息进行确定，而使用场景信息包括但不限于：屏幕尺寸信息、环境特征信息、设备I P地址等，环境特征信息可根据显示设备上的传感器或摄像头等装置进行实时采集，例如观看人数、房间大小等，而屏幕大小也是有规律可循，较大的场所就需要较大的屏幕，且屏幕尺寸信息为显示设备的自身配置信息，其可直接获得，同时还可以根据设备联网时的I P地址对其使用位置进行确定，例如学校、与医院等，因此，根据屏幕尺寸信息、环境特征信息、设备I P地址就能确定当前环境信息；其中，公共场景则为教室、会议室等观看人数较多的场所，由于观看人员或观看人数都是不确定的，因此，就需要保证当前传输内容中在存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容时，不直接输出显示的，而对于较为私密的场景，例如卧室等，此时投送用户可能仅是需要一个大屏对当前传输内容进行展示，并不涉及与他人分享，因此，此时就不需要对当前传输内容进行检测，直接输出显示即可。

在本申请实施例中，由于内容输出显示时所在场景的不确定性，其可以是私密场景，也可以是公共场景，为了保证检测单元12能够在公共场景下执行，以便影响投送用户在私密场景下的观看体验，可以由判断单元13判断当前传输内容的使用场景是否为公共场景；当判断单元13判断使用场景为公共场景时，则由检测单元12执行对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果的步骤，从而一方面避免当前传输内容中若存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容时，直接在公共场景下输出显示，另一方面避免在私密场景下，影响用户对当前传输内容的观看体验。

进一步的，如图2所示，所述接收单元11，还用于在显示单元14之前接收当前传输内容对应的输出显示指令，输出显示指令为用户对当前提示信息进行目标操作生成的；

所述显示单元14，还用于基于接收单元11获得的输出显示指令输出显示当前传输内容。

其中，由于当前提示信息中不仅包括提示当前传输内容为违规内容的信息，还包括对应的选项，用户可通过对选项操作来确定当前传输内容是否继续输出显示，因此，可以进行目标操作，目标操作即为继续播放操作，当接收到该操作时，即可触发当前传输内容对应的输出显示指令，从而将当前传输内容输出显示；除此之外，还包括跳过指令或关闭指令，具体可根据用户操作进行执行，即直接跳转至下一传输内容或直接关闭不在观看。

在本申请实施例中，由于当前提示信息仅是针对当前传输内容，当前传输内容即可能是一个完整视频也可能音频中的一段，因此，为了保证整个视频的观看流畅性，可以由接收单元11在显示单元14之前接收当前传输内容对应的输出显示指令，输出显示指令为用户对当前提示信息进行目标操作生成的；由显示单元14基于接收单元11获得的输出显示指令输出显示当前传输内容，从而在投送用户确定当前传输内容还能够输出显示时，将其直接输出显示。

进一步的，为了保证输出显示时画质或音质的清晰度，在将所述当前传输内容发送至所述显示设备中输出显示之前，所述装置还可以包括：由优化单元在显示单元之前对所述当前传输内容进行优化处理，从而进一步优化的观看体验，其中，优化的方式包括但不限于编码优化、传输协议优化、传输网络优化、推流、播放优化等，对此，本实施例不做限定。

进一步的，作为对上述图1及图2所示装置的实现，本申请另一实施例还提供了一种传输内容管控方法。该方法实施例与前述装置实施例对应，为便于阅读，本方法实施例不再对前述装置实施例中的细节内容进行逐一赘述，但应当明确，本实施例中的方法能够对应实现前述装置实施例中的全部内容。该方法应用于避免对投送用户造成个人隐私泄露，同时避免观看用户的身心健康受到影响，进而实现对当前待投屏的合理管控，提升用户的使用体验，具体如图3所示，该方法包括：

201、接收投送设备发送的当前传输内容。

202、对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果。

其中，检测结果中包括当前传输内容对应的违规内容的属性信息。

203、基于当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法。

204、输出显示当前传输内容。

205、生成当前传输内容对应的当前提示信息，并输出显示当前提示信息。

进一步的，所述当前传输内容为视频内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，包括：

在所述视频内容中抽取预设数量的视频帧图像；

将每个所述视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得所述视频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述视频帧图像是否为违规图像以及每个所述视频帧图像对应的属性信息；

根据所述视频内容对应的匹配结果确定所述视频内容对应的违规图像的属性信息，并将所述视频内容对应的违规图像的属性信息作为所述当前传输内容对应的检测结果。

进一步的，所述当前传输内容为音频内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，包括：

对所述音频内容进行转换处理，以获得所述音频内容对应的文本内容，所述文本内容包含多个词汇；

将每个所述词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得所述音频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述词汇是否为违规词汇以及每个所述词汇对应的属性信息；

根据所述音频内容对应的匹配结果确定所述音频内容对应的违规词汇的属性信息，并将所述音频内容对应的违规词汇的属性信息作为所述当前传输内容对应的检测结果。

进一步的，所述当前传输内容为视频内容，所述违规内容的属性信息为所述视频内容对应的违规图像的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法，包括：

根据所述视频内容对应的违规图像的属性信息确定所述视频内容的违规发生场景；

判断所述视频内容的违规发生场景是否为合法场景；

若是，则确定所述当前传输内容为合法；

若否，则确定所述当前传输内容为不合法。

进一步的，当所述当前传输内容为音频内容，所述违规内容的属性信息为所述音频内容对应的违规词汇的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法，包括：

根据所述音频内容对应的违规图像的属性信息确定所述音频内容的违规词汇数量；

判断所述音频内容的违规词汇数量是否小于预置词汇数量阈值；

若是，则确定所述当前传输内容为合法；

若否，则确定所述当前传输内容为不合法。

进一步的，在生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息之前，所述方法还包括：

根据所述当前传输内容对应的违规内容的属性信息确定所述当前传输内容对应的违规内容类型；

获取预设时间段内通过历史提示信息形成的用户浏览信息，并基于所述通过历史提示信息形成的用户浏览信息确定用户常览内容类型，所述用户常览内容类型至少为一种；

判断所述当前传输内容对应的违规内容类型与所述用户常览内容类型是否匹配；

若匹配，则输出显示所述当前传输内容；

若不匹配，则执行生成所述当前传输内容对应的所述当前提示信息，并输出显示所述当前提示信息的步骤。

进一步的，在输出显示所述当前传输内容之前，所述方法还包括：

确定所述当前传输内容对应的内容来源信息；

对所述内容来源信息进行加密处理，以使得输出显示所述当前传输内容时隐藏所述当前传输内容对应的内容来源信息。

进一步的，在对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果之前，所述方法还包括：

判断所述当前传输内容对应的使用场景是否为公共场景；

若是，则执行对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果的步骤。

本申请提供一种传输内容管控装置及方法，本申请提供的传输内容管控装置包括：接收单元、检测单元、判断单元、显示单元和生成单元；首先，由接收单元接收投屏设备发送的当前传输内容；其次，由检测单元对接收单元获得的当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，其中，检测结果中包括当前传输内容对应的违规内容的属性信息；再次，由判断单元基于检测单元获得的当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法；最后，由显示单元在判断单元判定当前传输内容合法时，则输出显示当前传输内容；由生成单元在判断单元判定当前传输内容不合法时，则生成当前传输内容对应的当前提示信息，并输出显示当前提示信息。在本申请中，当接收到当前投屏内容后，是先通过对当前传输内容进行检测处理，以获得当前传输内容对应的检测结果，并且检测结果中包括当前传输内容对应的违规内容的属性信息，再基于当前传输内容对应的违规内容的属性信息判断当前传输内容是否合法，即判断当前传输内容是否包含有敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容或包含敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容是否合法，在合法时是直接输出显示当前传输内容，在不合法时则是先不输出显示当前传输内容，而是生成当前提示信息，并输出显示当前提示信息，以提醒用户当前传输内容中存在敏感词汇、污秽词汇、危险画面、不雅画面等内容或对于投送用户而言较为私密的内容，从而避免对投送用户造成个人隐私泄露，同时避免对观看用户的身心健康造成影响，进而对当前传输内容实现合理的管控，提升用户的使用体验。

本申请实施例提供了一种存储介质，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行上述所述的传输内容管控方法。

存储介质可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)，存储器包括至少一个存储芯片。

本申请实施例还提供了一种传输内容管控装置，所述装置包括存储介质；及一个或者多个处理器，所述存储介质与所述处理器耦合，所述处理器被配置为执行所述存储介质中存储的程序指令；所述程序指令运行时执行上述所述的传输内容管控方法。

本申请实施例提供了一种设备，设备包括处理器、存储器及存储在存储器上并可在处理器上运行的程序，处理器执行程序时实现以下步骤：

接收投送设备发送的当前传输内容；

对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果中包括所述当前传输内容对应的违规内容的属性信息；

基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；

若是，则输出显示所述当前传输内容；

若否，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

进一步的，所述当前传输内容为视频内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，包括：

在所述视频内容中抽取预设数量的视频帧图像；

将每个所述视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得所述视频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述视频帧图像是否为违规图像以及每个所述视频帧图像对应的属性信息；

根据所述视频内容对应的匹配结果确定所述视频内容对应的违规图像的属性信息，并将所述视频内容对应的违规图像的属性信息作为所述当前传输内容对应的检测结果。

进一步的，所述当前传输内容为音频内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，包括：

对所述音频内容进行转换处理，以获得所述音频内容对应的文本内容，所述文本内容包含多个词汇；

将每个所述词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得所述音频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述词汇是否为违规词汇以及每个所述词汇对应的属性信息；

根据所述音频内容对应的匹配结果确定所述音频内容对应的违规词汇的属性信息，并将所述音频内容对应的违规词汇的属性信息作为所述当前传输内容对应的检测结果。

进一步的，所述当前传输内容为视频内容，所述违规内容的属性信息为所述视频内容对应的违规图像的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法，包括：

根据所述视频内容对应的违规图像的属性信息确定所述视频内容的违规发生场景；

判断所述视频内容的违规发生场景是否为合法场景；

若是，则确定所述当前传输内容为合法；

若否，则确定所述当前传输内容为不合法。

进一步的，当所述当前传输内容为音频内容，所述违规内容的属性信息为所述音频内容对应的违规词汇的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法，包括：

根据所述音频内容对应的违规图像的属性信息确定所述音频内容的违规词汇数量；

判断所述音频内容的违规词汇数量是否小于预置词汇数量阈值；

若是，则确定所述当前传输内容为合法；

若否，则确定所述当前传输内容为不合法。

进一步的，在生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息之前，所述方法还包括：

根据所述当前传输内容对应的违规内容的属性信息确定所述当前传输内容对应的违规内容类型；

获取预设时间段内通过历史提示信息形成用户浏览信息，并基于所述通过历史提示信息形成用户浏览信息确定用户常览内容类型，所述用户常览内容类型至少为一种；

判断所述当前传输内容对应的违规内容类型与所述用户常览内容类型是否匹配；

若匹配，则输出显示所述当前传输内容；

若不匹配，则执行生成所述当前传输内容对应的所述当前提示信息，并输出显示所述当前提示信息的步骤。

进一步的，在输出显示所述当前传输内容之前，所述方法还包括：

确定所述当前传输内容对应的内容来源信息；

对所述内容来源信息进行加密处理，以使得输出显示所述当前传输内容时隐藏所述当前传输内容对应的内容来源信息。

进一步的，在对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果之前，所述方法还包括：

判断所述当前传输内容对应的使用场景是否为公共场景；

若是，则执行对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果的步骤。

本申请还提供了一种计算机程序产品，当在数据处理设备上执行时，适于执行初始化有如下方法步骤的程序代码：接收投送设备发送的当前传输内容；对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果中包括所述当前传输内容对应的违规内容的属性信息；基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；若是，则输出显示所述当前传输内容；若否，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

存储器可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。存储器是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (11)

1.一种传输内容管控装置，其特征在于，包括：

接收单元，用于接收投送设备发送的当前传输内容；

检测单元，用于对所述接收单元获得的所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果用于表征所述当前传输内容对应的违规内容的属性信息；

判断单元，用于基于所述检测单元获得的所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；

显示单元，用于当所述判断单元判定所述当前传输内容合法时，则输出显示所述当前传输内容；

生成单元，用于当所述判断单元判定所述当前传输内容不合法时，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

2.根据权利要求1所述的装置，其特征在于，所述当前传输内容为视频内容；所述检测单元，具体用于，

在所述视频内容中抽取预设数量的视频帧图像；

将每个所述视频帧图像与预置敏感图像库对应的多个敏感图像进行匹配，以获得所述视频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述视频帧图像是否为违规图像以及每个所述视频帧图像对应的属性信息；

根据所述视频内容对应的匹配结果确定所述视频内容对应的违规图像的属性信息，并将所述视频内容对应的违规图像的属性信息作为所述当前传输内容对应的检测结果。

3.根据权利要求1所述的装置，其特征在于，所述当前传输内容为音频内容；所述检测单元，具体用于，

对所述音频内容进行转换处理，以获得所述音频内容对应的文本内容，所述文本内容包含多个词汇；

将每个所述词汇与预置敏感词汇库中的多个敏感词汇进行匹配，以获得所述音频内容对应的匹配结果，其中，所述匹配结果用于表征每个所述词汇是否为违规词汇以及每个所述词汇对应的属性信息；

根据所述音频内容对应的匹配结果确定所述音频内容对应的违规词汇的属性信息，并将所述音频内容对应的违规词汇的属性信息作为所述当前传输内容对应的检测结果。

4.根据权利要求2所述的装置，其特征在于，所述当前传输内容为视频内容，所述违规内容的属性信息为所述视频内容对应的违规图像的属性信息；所述判断单元，具体用于，

根据所述视频内容对应的违规图像的属性信息确定所述视频内容的违规发生场景；

判断所述视频内容的发生场景是否为合法场景；

当所述视频内容的违规发生场景为合法场景时，则确定所述当前传输内容为合法；

当所述视频内容的违规发生场景不为合法场景时，则确定所述当前传输内容为不合法。

5.根据权利要求3所述的装置，其特征在于，当所述当前传输内容为音频内容，所述违规内容的属性信息为所述音频内容对应的违规词汇的属性信息；所述判断单元，具体用于，

根据所述音频内容对应的违规词汇的属性信息确定所述音频内容的违规词汇数量；

判断所述音频内容的违规词汇数量是否小于预置词汇数量阈值；

当所述音频内容的违规词汇数量小于预置词汇数量阈值时，则确定所述当前传输内容为合法；

当所述音频内容的违规词汇数量不小于预置词汇数量阈值时，则确定所述当前传输内容为不合法。

6.根据权利要求2-3中任一项所述的装置，其特征在于，所述装置还包括：

第一确定单元，用于在所述生成单元之前根据所述当前传输内容对应的违规内容的属性信息确定所述当前传输内容对应的违规内容类型；

获取单元，用于获取预设时间段内的通过历史提示信息形成的用户浏览信息，并基于所述通过历史提示信息形成的用户浏览信息确定用户常览内容类型，所述用户常览内容类型至少为一种；

所述判断单元，还用于判断所述第一确定单元获得的所述当前传输内容对应的违规内容类型与所述获取单元获得的所述用户常览内容类型是否匹配；

所述显示单元，还用于当所述判断单元判定所述当前传输内容对应的违规内容类型与所述用户常览内容类型匹配时，则输出显示所述当前传输内容；

所述生成单元，还用于当所述判断单元判定所述当前传输内容对应的违规内容类型与所述用户常览内容类型不匹配时，则生成所述当前传输内容对应的所述当前提示信息，并输出显示所述当前提示信息。

7.根据权利要求1所述的装置，其特征在于，所述装置还包括：

第二确定单元，用于在所述显示单元之前确定所述当前传输内容对应的内容来源信息；

加密单元，用于对所述第二确定单元获得的内容来源信息进行加密处理，以使得输出显示所述当前传输内容时隐藏所述当前传输内容对应的内容来源信息。

8.根据权利要求1所述的装置，其特征在于，

所述判断单元，还用于在所述检测单元之前判断所述当前传输内容对应的使用场景是否为公共场景；

所述检测单元，具体用于，

当所述判断单元判断所述当前传输内容对应的使用场景为公共场景时，则对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果。

9.一种传输内容管控方法，其特征在于，包括：

接收投送设备发送的当前传输内容；

对所述当前传输内容进行检测处理，以获得所述当前传输内容对应的检测结果，其中，所述检测结果中包括所述当前传输内容对应的违规内容的属性信息；

基于所述当前传输内容对应的违规内容的属性信息判断所述当前传输内容是否合法；

若是，则输出显示所述当前传输内容；

若否，则生成所述当前传输内容对应的当前提示信息，并输出显示所述当前提示信息。

10.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行如权利要求9所述的传输内容管控方法。

11.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行如权利要求9所述的传输内容管控方法。

Images