CN107728974B - 一种个人电子设备及不良信息过滤方法 - Google Patents

Abstract

本发明提出了一种个人电子设备及不良信息过滤方法，该设备包括：显示驱动模块、不良信息过滤模块和显示模块；不良信息过滤模块的输入端与显示驱动模块相连接、以及不良信息过滤模块的输出端与显示模块相连接；该不良信息过滤模块对显示驱动模块传输的音视频流数据进行不良信息的识别，并拦截音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至显示模块。本发明实施例通过在个人电子设备中设置不良信息过滤模块，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

Description

一种个人电子设备及不良信息过滤方法

技术领域

本发明涉及电子设备信息监控技术领域，具体而言，涉及一种个人电子设备及不良信息过滤方法。

背景技术

目前，随着电子信息社会的快速发展，在人们的日常生活中，智能手机、平板电脑、电脑一体机等个人电子设备广泛普及，并且在广大儿童群体中，智能手机、平板电脑等电子设备也得到了广泛应用，小学甚至幼儿园的少年儿童，大部分都能熟练操作这些电子设备，可以用来观看动画片及玩游戏(包括在线游戏与离线游戏)，使用频率很高；此外，很多学校的教育课件、课外作业、在线教育视频等，也都依赖于智能手机、平板电脑等个人电子设备，因此，智能手机、平板电脑等智能设备，在少年儿童群体中流行已不可避免。

然而，当前互联网并非一片净土，网站、APP、游戏、聊天工具等各种网络应用中，都可能充斥着色情、赌博、暴力、恐怖等不良信息，对于心智尚不成熟的少年儿童等未成年人，还未建立鉴别及抗拒能力，很容易被带入歧途。

在实现本发明的过程中，发明人发现相关技术中至少存在以下问题：相关技术中往往由于一些不确定因素，智能手机、平板电脑等智能设备可能出现误播放色情、赌博、暴力、恐怖等不良信息的情况，从而导致正在使用该个人电子设备的青少年，接触到各种各样不利于青少年健康成长的不良信息，这样将对青少年的身心成长带来极大负面作用。

发明内容

有鉴于此，本发明实施例的目的在于提供一种个人电子设备及不良信息过滤方法，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

第一方面，本发明实施例提供了一种个人电子设备，该设备包括：显示驱动模块、不良信息过滤模块和显示模块；所述不良信息过滤模块的输入端与所述显示驱动模块相连接、以及所述不良信息过滤模块的输出端与所述显示模块相连接；

所述显示驱动模块，用于将待显示的音视频流数据传输至所述不良信息过滤模块；

所述不良信息过滤模块，用于对所述音视频流数据进行不良信息的识别，并拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至所述显示模块；

所述显示模块，用于显示所述不良信息过滤后的音视频流数据。

结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，所述显示驱动模块和所述不良信息过滤模块位于同一数据处理芯片,或者所述显示驱动模块和所述不良信息过滤模块位于不同的数据处理芯片。

结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，所述不良信息过滤模块，用于对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；

针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；

利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；

当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧；

在确定出后一帧视频帧为不包含不良信息的视频帧后，将该不包含不良信息的视频帧传输至显示模块。

结合第一方面的第二种可能的实施方式，本发明实施例提供了第一方面的第三种可能的实施方式，其中，所述不良信息过滤模块，具体用于：

当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；

当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包含不良信息的视频帧传输至显示模块。

结合第一方面的第三种可能的实施方式，本发明实施例提供了第一方面的第四种可能的实施方式，其中，所述不良信息过滤模块，具体用于：

当当前累计的所述正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于最短关断时间，若大于，则向信息截断开关发送通过指令。

结合第一方面的第二种可能的实施方式，本发明实施例提供了第一方面的第五种可能的实施方式，其中，所述不良信息识别模型是利用深度学习方法对选取的不良信息样本进行深度神经网络训练得到的，且所述不良信息识别模型具有多隐层结构。

结合第一方面，本发明实施例提供了第一方面的第六种可能的实施方式，其中，所述设备还包括：存储模块，所述存储模块分别与所述显示驱动模块和所述不良信息过滤模块相连接；

所述存储模块，用于对接收到的所述音视频流数据进行缓存处理，以便所述不良信息过滤模块周期提取存储的音视频流数据。

结合第一方面至第一方面的第六种可能的实施方式中任一项，本发明实施例提供了第一方面的第七种可能的实施方式，其中，所述设备包括以下电子设备中的任意一种：智能手机、智能手表、平板电脑、智能学习机或电脑一体机。

第二方面，本发明实施例还提供了一种应用于上述第一方面至第一方面的第七种可能的实施方式中任一项所述的个人电子设备中的不良信息过滤方法，该方法包括：

接收显示驱动模块传输的音视频流数据；

对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息；

拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据；

将不良信息过滤后的音视频流数据传输至显示模块。

结合第二方面，本发明实施例提供了第二方面的第一种可能的实施方式，其中，所述对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息，包括：对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

所述拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，包括：如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧。

在本发明实施例提供的个人电子设备及不良信息过滤方法中，该设备包括：显示驱动模块、不良信息过滤模块和显示模块；不良信息过滤模块的输入端与显示驱动模块相连接、以及不良信息过滤模块的输出端与显示模块相连接；该不良信息过滤模块对显示驱动模块传输的音视频流数据进行不良信息的识别，并拦截音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至显示模块。本发明实施例通过在个人电子设备中设置不良信息过滤模块，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1示出了本发明实施例所提供的一种个人电子设备的结构示意图；

图2a示出了本发明实施例所提供的另一种个人电子设备的结构示意图；

图2b示出了本发明实施例所提供的又一种个人电子设备的结构示意图；

图3示出了本发明实施例所提供的一种应用于图1至图2b所述的个人电子设备中的不良信息过滤方法的流程示意图之一；

图4示出了本发明实施例所提供的一种应用于图1至图2b所述的个人电子设备中的不良信息过滤方法的流程示意图之二。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

考虑到相关技术中往往由于一些不确定因素，智能手机、平板电脑等智能设备可能出现误播放色情、赌博、暴力、恐怖等不良信息的情况，从而导致正在使用该个人电子设备的青少年，接触到各种各样不利于青少年健康成长的不良信息，这样将对青少年的身心成长带来极大负面作用。基于此，本发明实施例提供了一种个人电子设备及不良信息过滤方法，下面通过实施例进行描述。

如图1所示，给出了一种个人电子设备的结构示意图，该设备包括：显示驱动模块101、不良信息过滤模块102和显示模块103；

上述不良信息过滤模块102的输入端与上述显示驱动模块101相连接、以及上述不良信息过滤模块102的输出端与上述显示模块103相连接；

上述显示驱动模块101，用于将待显示的音视频流数据传输至上述不良信息过滤模块102；

上述不良信息过滤模块102，用于对上述音视频流数据进行不良信息的识别，并拦截该音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至上述显示模块103；其中，该不良信息包括：色情视频、暴力视频、反动视频等等；

上述显示模块103，用于显示上述不良信息过滤后的音视频流数据。

也就是说，将包含正常信息的音视频流数据传输至显示模块103，而将包含不良信息的音视频流数据中的视频数据和音频数据拦截，阻止该包含不良信息的视频数据和该包含不良信息的视频数据对应的音频数据传输至显示模块103。

在本发明提供的实施例中，通过在个人电子设备中设置不良信息过滤模块102，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。构建了适用于少年儿童的信息内容安全个人电子设备，能够自动屏蔽不良信息，保障少年儿童身心健康，为少年儿童的健康成长保驾护航。

其中，本发明实施例提供的个人电子设备可以是以下电子设备中的任意一种：智能手机、智能手表、平板电脑、智能学习机、智能学习机或电脑一体机。在个人电子设备的底层进行软硬件技术改造，创造特殊定制的专用个人电子设备，并可通过指定应用程序(APP或者可执行程序，带密码)取消/或启用该不良信息屏蔽功能，实现该个人电子设备既适用于少年儿童，也适用于成年人，根据不同类型用户的需求可以进行选择是否启动不良信息屏蔽功能。此时针对于青少年使用的个人电子设备，无需刻意地限制任何可能播放不良信息的上网、玩游戏、用社交聊天工具的操作，即对个人电子设备中安装和使用任何合法APP或应用程序都无限制，因为在此过程中可能显示的不良信息(包括不良图像和不良文字)将被自动屏蔽。

另外，除了不可破解的密码(仅监护人能获取)可以关闭不良信息屏蔽功能外，没有其他办法可以关闭屏蔽功能(即不对视频信息进行过滤)、也无法卸载该功能，最大程度保证个人设备的健康程度。

具体的，在本发明提供的实施例中可以通过内嵌的不可移除的硬件或者微码来实现对个人电子设备中待显示的视频流数据进行不良信息过滤。

对于不良信息过滤模块102而言，如图2a所示，在个人电子设备中原有的数据处理芯片(即第一数据处理芯片)的数据处理能力比较弱的情况下，该不良信息过滤模块102可以设置于单独的数据处理芯片(即第二数据处理芯片)上，即增加一个新的数据处理芯片，将该第二数据处理芯片设置于个人电子设备中原有的装有显示驱动程序的第一数据处理芯片与显示模块103之间的通讯线路上，这样可能需要对个人电子设备的硬件结构进行一定的改进；另外，如图2b所示，在个人电子设备中原有的数据处理芯片(即第一数据处理芯片)的剩余容量比较大且数据处理能力比较强的情况下，该不良信息过滤模块102还可以设置于个人电子设备中原有的数据处理芯片(即第一数据处理芯片)上，即将相应的不良信息过滤程序烧制到个人电子设备中原有的数据处理芯片(即第一数据处理芯片)中；

优选的，上述显示驱动模块101和上述不良信息过滤模块102位于同一数据处理芯片。此时，无需对个人电子设备的硬件结构进行改进，直接将相应的不良信息过滤程序烧制个人电子设备中原有的数据处理芯片中即可。

其中，针对不良信息过滤模块102设置于单独的数据处理芯片上的情况，考虑到个人电子设备的待显示的视频源可能存在比较复杂的画面结构和画面素材，并且利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型进行不良信息识别，对数据处理芯片的数据处理量和数据处理速度要求比较高，进而，为了应对各种复杂的视频流内容，同时，为了提高数据处理芯片的数据处理速度和不良信息识别精度，基于此，上述设置有不良信息过滤模块102的数据处理芯片包括：基于GPU与CPU协同工作的处理器、或者可编程逻辑器件FPGA。

由于利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型进行不良信息识别，对数据处理量和数据处理速度要求比较高，该数据处理量一方面表现为利用海量的不良内容训练不良信息识别模型上；另一方面表现为利用训练得到的不良信息识别配置参数配合模型在应用中对具体的视频数据进行分析上；

(1)在不良信息识别模型训练过程中，本发明提供的实施例通过专用的高性能训练服务器中配置高性能GPU显卡，利用GPU显卡的并行运算能力，加快模型训练的速度；

(2)针对不良信息过滤模块102设置于单独的数据处理芯片上的情况，在不良信息识别模型应用过程中，本发明提供的实施例为了兼顾严苛的应用场合，选择NVIDIA工业级的基于GPU与CPU协同工作的处理器，用来加速实时计算分析，或者，也可将模型处理程序在可编程逻辑器件FPGA中实现，利用可编程逻辑器件FPGA的并行计算的特点实现强大的实时计算能力。

具体的，FPGA(Field－Programmable Gate Array，可编程逻辑器件)，可以用来对接收到的音视频流数据进行不良信息的识别。FPGA是由存放在片内RAM中的程序来设置其工作状态的，因此，工作时需要对片内的RAM进行编程。可以根据不同的配置模式，采用不同的编程方式。加电时，FPGA芯片将片外配置芯片(多为FLASH、EPROM等)中数据读入片内编程RAM中，配置完成后，FPGA进入工作状态。掉电后，FPGA恢复成白片，内部逻辑关系消失，因此，FPGA能够反复使用。FPGA的编程无须专用的FPGA编程器，只须用通用的FLASH、EPROM、PROM编程器即可。当需要修改FPGA功能时，只需更新片外配置芯片编程数据即可。这样，同一片FPGA，不同的编程数据，可以产生不同的电路功能。因此，FPGA的使用非常灵活。

在本发明提供的实施例中，考虑到利用基于深度学习方法训练得到的具有多隐层结构的不良信息识别模型进行不良信息识别，对数据处理芯片的数据处理量和数据处理速度要求比较高，在个人电子设备中原有的数据处理芯片处理能力不够的情况下，将不良信息过滤模块102设置于单独的数据处理芯片上，选用基于多核CPU流程控制及GPU并行加速构建混合高性能处理器，或者选用可编程逻辑器件FPGA作为不良信息识别过程实现的数据处理芯片，能够增强数据处理芯片的温度、湿度、振动、电磁兼容等性能，更有利于设备应用于较为严苛的环境或者视频源可能存在比较复杂的画面结构和画面素材中，能够有效提高不良信息识别速度和识别精度，并且能够避免数据处理芯片在数据处理过程中受到环境的干扰。

其中，用于识别视频中不良信息的不良信息识别模型需要预先构建；其中，该不良信息识别模型是在专用的高性能训练服务器中训练得到的，然后，将训练得到的不良信息识别模型的参数配置到设置于不良信息过滤模块102的数据处理芯片中，以便该数据处理芯片利用该不良信息识别模型对接收到的音视频流数据进行不良信息的识别，具体的，该不良信息识别模型是通过如下方式构建的：

利用深度学习方法对选取的不良信息样本进行深度神经网络训练，得到不良信息识别模型，该不良信息识别模型为多隐层的机器学习模型，其中，通过收集海量的包含不良信息的图像、视频作为不良信息样本，使用该不良信息样本对模型进行训练优化特征参数，在深度学习的过程中不断提高识别精度，从而最终提升分类或预测的准确性；

具体的，上述不良信息过滤模块102，用于对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧，其中，可以以视频帧为单位进行不良信息的识别，音视频流数据中还包含每个视频帧对应的音频数据；

针对每个上述视频帧，对该视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域，具体的，需要对视频帧进行变换和滤波操作，去除无关内容，提取潜在的图像区域和内容，再对提取出的潜在的图像区域和内容进行形状分析、数学形态学、特性过滤处理，确定多个待识别的敏感图形区域；

利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个不良信息匹配度计算该视频帧的不良信息加权平均值；

当上述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧；

在确定出后一帧视频帧为不包含不良信息的视频帧后，将该不包含不良信息的视频帧传输至显示模块103。

在本发明提供的实施例中，利用预先训练好的具有多隐层结构的不良信息识别模型进行不良信息识别，基于多层神经网络的深度学习智能模型适用于大数据(海量图像)的分析与识别，提高了对视频中不良信息的识别速度，从而可以实现及时、快速地将视频中不良信息拦截，减缓用户看到的视频的延迟性。

进一步的，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，避免由于误判将正常信息进行拦截或者将不良信息传输至显示模块103，基于此，上述不良信息过滤模块102，具体用于：

当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的上述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；

当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的上述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包含不良信息的视频帧传输至显示模块103。

其中，为了保证不良视频帧出现次数的准确性，每次从拦截指令切换至通过指令后，将不良视频帧出现次数清零；当信息截断开关执行通过指令且首次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；

同样的，为了保证正常视频帧出现次数的准确性，每次从通过指令切换至拦截指令后，将正常视频帧出现次数清零；当信息截断开关执行拦截指令首次识别到视频帧为不包含不良信息的视频帧时，开始对正常视频帧出现次数进行计数。

进一步的，为了避免信息截断开关出现反复通断的现象，基于此，上述不良信息过滤模块102，具体用于：

当当前累计的正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于最短关断时间，若大于，则向信息截断开关发送通过指令。

在本发明提供的实施例中，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，采用上述视频截断方式，能够快速、准确地将识别出的包含不良信息的视频源进行拦截，避免由于误判将正常信息进行拦截，同时，也避免信息截断开关出现反复通断的现象。

进一步的，考虑到不良信息识别速度可能比音视频流数据传输速度慢，基于此，上述设备还包括：存储模块，该存储模块分别与上述显示驱动模块101和上述不良信息过滤模块102相连接；

上述存储模块，用于对接收到的上述音视频流数据进行缓存处理，以便上述不良信息过滤模块102周期提取存储的音视频流数据，该不良信息过滤模块102通过不良信息识别模型来确定视频帧中是否存在不良信息。其中，该存储模块可以是RAM存储器。

进一步的，上述个人电子设备还可以包括：配置接口，该配置接口通过总线形式接入系统总线，可以通过软件驱动方式，对不良信息过滤模块102中的相关参数进行配置，决定该不良信息过滤模块102是工作在过滤模式、还是工作在直通模式(即不过滤，将所有输入视频信息直接传输至显示模块103)。

在本发明实施例提供的个人电子设备中，该设备包括：显示驱动模块101、不良信息过滤模块102和显示模块103；不良信息过滤模块102的输入端与显示驱动模块101相连接、以及不良信息过滤模块102的输出端与显示模块103相连接；该不良信息过滤模块102对显示驱动模块101传输的音视频流数据进行不良信息的识别，并拦截音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至显示模块103。本发明实施例通过在个人电子设备中设置不良信息过滤模块102，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

本发明实施例还提供了一种应用于上述个人电子设备中的不良信息过滤方法，如图3所示，该方法包括步骤S301-S304，具体为：

步骤S301：接收显示驱动模块101传输的音视频流数据；

步骤S302：对上述音视频流数据进行不良信息的识别，确定该音视频流数据中是否包含不良信息；

步骤S303：拦截上述音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据；

步骤S304：将不良信息过滤后的音视频流数据传输至显示模块103。

在本发明提供的实施例中，通过将上述不良信息过滤方法应用于个人电子设备中，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

具体的，如图4所示，在步骤S302中对上述音视频流数据进行不良信息的识别，确定该音视频流数据中是否包含不良信息，包括：

步骤S3021：对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；

步骤S3022：针对每个上述视频帧，对该视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；

步骤S3023：利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个不良信息匹配度计算该视频帧的不良信息加权平均值；

步骤S3024：当上述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

对应的，在步骤S303中拦截上述音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据，包括：

步骤S3031：如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧。

在本发明提供的实施例中，利用预先训练好的具有多隐层结构的不良信息识别模型进行不良信息识别，基于多层神经网络的深度学习智能模型适用于大数据(海量图像)的分析与识别，提高了对视频中不良信息的识别速度，从而可以实现及时、快速地将视频中不良信息拦截，减缓用户看到的视频的延迟性。

进一步的，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，避免由于误判将正常信息进行拦截或者将不良信息传输至显示模块103，基于此，上述步骤S3031中如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，具体包括：

当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的上述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；

上述步骤S304中将不良信息过滤后的音视频流数据传输至显示模块103，具体包括：

当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的上述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包含不良信息的视频帧传输至显示模块103。

其中，为了保证不良视频帧出现次数的准确性，每次从拦截指令切换至通过指令后，将不良视频帧出现次数清零；当信息截断开关执行通过指令且首次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；

同样的，为了保证正常视频帧出现次数的准确性，每次从通过指令切换至拦截指令后，将正常视频帧出现次数清零；当信息截断开关执行拦截指令首次识别到视频帧为不包含不良信息的视频帧时，开始对正常视频帧出现次数进行计数。

进一步的，为了避免信息截断开关出现反复通断的现象，基于此，上述若当前累计的上述正常视频帧出现次数大于正常次数阈值，则向信息截断开关发送通过指令，具体包括：

当当前累计的正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于最短关断时间，若大于，则向信息截断开关发送通过指令。

在本发明提供的实施例中，考虑到可能存在不良信息误识别的情况，并且不良视频帧通常是多个不良视频帧连续出现的，正常视频帧通常也是连续出现的，采用上述视频截断方式，能够快速、准确地将识别出的包含不良信息的视频源进行拦截，避免由于误判将正常信息进行拦截，同时，也避免信息截断开关出现反复通断的现象。

进一步的，考虑到不良信息识别速度可能比音视频流数据传输速度慢，基于此，上述方法还包括：

对接收到的上述音视频流数据进行缓存处理，以便上述不良信息过滤模块102周期提取存储的音视频流数据，该不良信息过滤模块102通过不良信息识别模型来确定视频帧中是否存在不良信息。其中，该存储模块可以是RAM存储器。

在本发明实施例提供的不良信息过滤方法中，在接收到显示驱动模块101传输的音视频流数据后，对该音视频流数据进行不良信息的识别，确定该音视频流数据中是否包含不良信息；并且拦截上述音视频流数据中包含不良信息的视频数据和该视频数据对应的音频数据；最后，将不良信息过滤后的音视频流数据传输至显示模块103，将该不良信息过滤方法应用于个人电子设备中，从而实现在特定应用场景下对待显示的音视频流数据进行不良信息的识别与拦截，进而保证青少年在使用该个人电子设备时接触到的视频信息的健康性。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该发明产品使用时惯常摆放的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

在本发明的描述中，还需要说明的是，除非另有明确的规定和限定，术语“设置”、“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。

最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围。都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (7)

1.一种个人电子设备，其特征在于，所述设备包括：显示驱动模块、不良信息过滤模块和显示模块；所述不良信息过滤模块的输入端与所述显示驱动模块相连接、以及所述不良信息过滤模块的输出端与所述显示模块相连接；

所述显示驱动模块，用于将待显示的音视频流数据传输至所述不良信息过滤模块；

所述不良信息过滤模块，用于对所述音视频流数据进行不良信息的识别，并拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，将不良信息过滤后的音视频流数据传输至所述显示模块；

所述不良信息过滤模块，存储有训练得到的不良信息识别模型的参数，并利用所述不良信息识别模型对接收到的所述音视频流数据进行不良信息的识别；其中，所述不良信息识别模型通过如下方式构建：通过收集大量的包含不良信息的图像、视频作为不良信息样本，利用深度学习方法和所述不良信息样本对待训练的不良信息识别模型进行深度神经网络训练并优化特征参数，得到所述不良信息识别模型；

所述不良信息过滤模块，用于对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；

针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；

利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；

当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧；

在确定出后一帧视频帧为不包含不良信息的视频帧后，将该不包含不良信息的视频帧传输至显示模块；

所述显示模块，用于显示所述不良信息过滤后的音视频流数据；

所述不良信息过滤模块，具体用于：

当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；

当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包含不良信息的视频帧传输至显示模块；

每次从拦截指令切换至通过指令后，将不良视频帧出现次数清零，当信息截断开关执行通过指令且首次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；以及，每次从通过指令切换至拦截指令后，将正常视频帧出现次数清零，当信息截断开关执行拦截指令首次识别到视频帧为不包含不良信息的视频帧时，开始对正常视频帧出现次数进行计数。

2.根据权利要求1所述的设备，其特征在于，所述显示驱动模块和所述不良信息过滤模块位于同一数据处理芯片,或者所述显示驱动模块和所述不良信息过滤模块位于不同的数据处理芯片。

3.根据权利要求1所述的设备，其特征在于，所述不良信息过滤模块，具体用于：

当当前累计的所述正常视频帧出现次数大于正常次数阈值时，判断当前拦截时间是否大于最短关断时间，若大于，则向信息截断开关发送通过指令。

4.根据权利要求1所述的设备，其特征在于，所述不良信息识别模型是利用深度学习方法对选取的不良信息样本进行深度神经网络训练得到的，且所述不良信息识别模型具有多隐层结构。

5.根据权利要求1所述的设备，其特征在于，所述设备还包括：存储模块，所述存储模块分别与所述显示驱动模块和所述不良信息过滤模块相连接；

所述存储模块，用于对接收到的所述音视频流数据进行缓存处理，以便所述不良信息过滤模块周期提取存储的音视频流数据。

6.根据权利要求1至5任一项所述的设备，其特征在于，所述设备包括以下电子设备中的任意一种：智能手机、智能手表、平板电脑、智能学习机或电脑一体机。

7.一种应用于权利要求1-6任一项所述的个人电子设备中的不良信息过滤方法，其特征在于，所述方法包括：

接收显示驱动模块传输的音视频流数据；

对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息；

拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据；

将不良信息过滤后的音视频流数据传输至显示模块；

所述对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息，包括：

利用所述不良信息识别模型对接收到的所述音视频流数据进行不良信息的识别；其中，所述不良信息识别模型通过如下方式构建：通过收集大量的包含不良信息的图像、视频作为不良信息样本，利用深度学习方法和所述不良信息样本对待训练的不良信息识别模型进行深度神经网络训练并优化特征参数，得到所述不良信息识别模型；

所述对所述音视频流数据进行不良信息的识别，确定所述音视频流数据中是否包含不良信息，包括：对接收到的音视频流数据中的视频数据进行分帧处理，得到多个视频帧；针对每个所述视频帧，对所述视频帧进行图像处理，提取敏感图像区域，得到该视频帧中多个待识别的敏感图像区域；利用预先构建的不良信息识别模型计算各个待识别的敏感图像区域的不良信息匹配度，根据各个所述不良信息匹配度计算该视频帧的不良信息加权平均值；当所述不良信息加权平均值大于第一预设阈值时，确定该视频帧为包含不良信息的视频帧；

所述拦截所述音视频流数据中包含不良信息的视频数据和所述视频数据对应的音频数据，包括：如果确定出视频帧为包含不良信息的视频帧，则拦截该包含不良信息的视频帧和该视频帧对应的音频数据，直到确定后一帧视频帧为不包含不良信息的视频帧；

当首次确定出视频帧为包含不良信息的视频帧时，将不良视频帧出现次数加1；判断当前累计的所述不良视频帧出现次数是否大于不良次数阈值；若是，则向信息截断开关发送拦截指令，开始拦截当前确定出的包含不良信息的视频帧和该视频帧对应的音频数据；

当首次确定出后一帧视频帧为不包含不良信息的视频帧时，将正常视频帧出现次数加1；判断当前累计的所述正常视频帧出现次数是否大于正常次数阈值；若是，则向信息截断开关发送通过指令，开始将当前确定出的不包含不良信息的视频帧传输至显示模块；

每次从拦截指令切换至通过指令后，将不良视频帧出现次数清零，当信息截断开关执行通过指令且首次识别到视频帧为包含不良信息的视频帧时，开始对不良视频帧出现次数进行计数；以及，每次从通过指令切换至拦截指令后，将正常视频帧出现次数清零，当信息截断开关执行拦截指令首次识别到视频帧为不包含不良信息的视频帧时，开始对正常视频帧出现次数进行计数。

Images