CN112703720B - 用于设备控制应用的默认过滤器设置系统和方法 - Google Patents

用于设备控制应用的默认过滤器设置系统和方法 Download PDF

Info

Publication number
CN112703720B
CN112703720B CN201980060667.1A CN201980060667A CN112703720B CN 112703720 B CN112703720 B CN 112703720B CN 201980060667 A CN201980060667 A CN 201980060667A CN 112703720 B CN112703720 B CN 112703720B
Authority
CN
China
Prior art keywords
filter
settings
user
users
setting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201980060667.1A
Other languages
English (en)
Other versions
CN112703720A (zh
Inventor
R.克米西亚克
J.都
R.古普塔
J.刘
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Avast Software sro
Original Assignee
Avast Software sro
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Avast Software sro filed Critical Avast Software sro
Publication of CN112703720A publication Critical patent/CN112703720A/zh
Application granted granted Critical
Publication of CN112703720B publication Critical patent/CN112703720B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/02—Network architectures or network communication protocols for network security for separating internal from external traffic, e.g. firewalls
    • H04L63/0227—Filtering policies
    • H04L63/0263—Rule management
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M3/00—Automatic or semi-automatic exchanges
    • H04M3/42—Systems providing special services or facilities to subscribers
    • H04M3/42136—Administration or customisation of services
    • H04M3/42153—Administration or customisation of services by subscriber
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/10—Network architectures or network communication protocols for network security for controlling access to devices or network resources
    • H04L63/102—Entity profiles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M3/00—Automatic or semi-automatic exchanges
    • H04M3/42—Systems providing special services or facilities to subscribers
    • H04M3/436—Arrangements for screening incoming calls, i.e. evaluating the characteristics of a call before deciding whether to answer it

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

一种内容过滤器设置方法，包括使用户能够在用户设备的用户界面中为特定应用选择过滤器的设置。经由用户界面从用户接收过滤器的设置，并且基于过滤器的设置和用户的识别信息来应用模型，以确定特定应用的多个过滤器的多个默认设置。在用户界面中显示所述多个默认设置，并且经由用户界面接收默认设置的修改后的设置。

Description

用于设备控制应用的默认过滤器设置系统和方法
技术领域
本发明一般而言涉及应用设置协议，并且更具体地涉及设备控制应用中的默认设置。
背景技术
各种应用可用于控制诸如智能电话、平板电脑、个人计算机之类的电子设备上可用的内容。父母尤其经常想要控制在他们的孩子的电子设备上对他们的孩子可用的内容。设备控制应用可以允许定制，以允许诸如父母之类的权威人物具体地选择受监督用户(诸如孩子)可以访问的内容或应用。
发明内容
本发明内容引入了简化的概念，这些简化的概念将在下面的具体实施方式中进一步描述。本发明内容并不旨在识别所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。
提供了一种内容过滤器设置方法。该方法包括：使多个用户能够选择特定应用的多个过滤器的多个过滤器设置；从多个用户接收多个过滤器设置；并且接收多个用户的多个识别信息。至少基于多个过滤器设置和多个用户的多个识别信息来训练人工神经网络。使特定用户能够在特定用户设备的用户界面中选择特定应用的特定过滤器的特定设置。经由用户界面从特定用户接收特定过滤器的特定设置，并且接收特定用户的特定识别信息。特定设置和特定识别信息被输入到人工神经网络，以生成特定应用的多个过滤器的多个默认设置。多个默认设置显示在用户界面中，并且使特定用户能够经由用户界面修改默认设置。
还提供了一种内容过滤器设置方法，该方法包括使特定用户能够在特定用户设备的用户界面中选择用于特定应用的特定过滤器的特定设置。经由用户界面从特定用户接收特定过滤器的特定设置。还接收特定用户的识别信息。至少基于特定过滤器的特定设置和特定用户的识别信息来应用模型，以确定特定应用的多个过滤器的多个默认设置。多个默认设置显示在用户界面中，并且经由用户界面接收默认设置的修改后的设置。
还提供了一种启用网络的设备控制系统。该系统包括服务器，该服务器包括一个或多个处理器以及一个或多个其上编码有指令的非暂态计算机可读存储介质，这些指令在由一个或多个处理器执行时使服务器执行过程。该过程包括：使特定用户能够在特定用户设备的用户界面中选择特定应用的特定过滤器的特定设置；经由用户界面从特定用户接收特定过滤器的特定设置；并且接收特定用户的识别信息。至少基于特定过滤器的特定设置和特定用户的识别信息来应用模型，以确定特定应用的多个过滤器的多个默认设置。在用户界面中启用多个默认设置的显示，经由用户界面接收默认设置的修改后的设置，并且由服务器传输修改后的设置的指示。
启用网络的设备控制系统还包括计算设备，该计算设备包括一个或多个处理器以及一个或多个其上编码有指令的非暂态计算机可读存储介质，这些指令在由一个或多个处理器执行时使计算设备执行过程。由计算设备执行的过程包括：从服务器接收修改后的设置的指示；并且基于修改后的设置的指示，经由特定应用限制在计算设备上可访问的数据。
还提供了一种内容过滤器设置方法。该方法包括使多个用户能够选择特定应用的多个过滤器的多个过滤器级别，并且使多个用户能够选择特定应用的多个过滤器的多个过滤器设置。从多个用户接收多个过滤器级别和多个过滤器设置。还接收多个用户的多个识别信息，并且至少基于多个过滤器级别、多个过滤器设置和多个用户的多个识别信息来训练人工神经网络。使特定用户能够经由特定用户设备的用户界面来选择特定应用的多个过滤器的特定过滤器级别。经由用户界面从特定用户接收特定过滤器级别，并且接收特定用户的特定识别信息。特定过滤器级别和特定识别信息被输入到人工神经网络，以生成特定应用的多个过滤器的多个默认设置。多个默认设置显示在用户界面中，并且使特定用户能够经由用户界面修改默认设置。
附图说明
通过下面通过示例的方式与附图一起给出的描述，可以获得更详细的理解。附图中的图和详细描述是示例。附图和详细描述不应被认为是限制性的，并且其它示例是可能的，附图中相同的附图标记表示相同的元件，其中：
图1示出了根据说明性实施例的启用特定过滤器设置方法的系统。
图2A-2C、3A-3C和4A-4C示出了实现用于在受控计算设备上设置用于过滤器代理的控制规则的设置应用的监督用户设备。
图5A、5B和5C是示出图形人工神经网络的图，该人工神经网络用于生成由受控计算设备上的过滤器代理实现的多个过滤器的多个默认设置。
图6是示出根据说明性实施例的默认过滤器设置方法的流程图。
图7A和7B是示出在用于设置设备控制过滤器的人工神经网络的示例性实施方式中受控设备的用户的年龄分布的条形图。
图8A和8B是散布图和散布图的关键字，其示出了在用于设置设备控制过滤器的试验人工神经网络的示例性实施方式中按类别的预测过滤器设置的准确度。
图9A-9F是折线图和图表关键字，其示出了在用于设置设备控制过滤器的试验人工神经网络的实施方式中按测试用户的年龄的预测过滤器设置的准确度。
图10A-10F是折线图和图表关键字，其示出了与用于设置设备控制过滤器的试验人工神经网络的预测相比阻止特定类别的测试用户的十进制数。
图11A-11E是折线图和图表关键字，其示出了在用于设置设备控制过滤器的试验人工神经网络的实施方式中按测试用户的年龄的预测过滤器设置的准确度。
图12A和12B是散布图和散布图的关键字，其示出了在用于设置设备控制过滤器的试验人工神经网络的示例性实施方式中按类别的预测过滤器设置的准确度。
图13A-13L是折线图和图表关键字，其示出了在用于设置设备控制过滤器的试验人工神经网络的实施方式中按测试用户的年龄的预测过滤器设置的准确度。
图14A-14G是折线图和图表关键字，其示出了与用于设置设备控制过滤器的试验人工神经网络的预测相比阻止特定类别的测试用户的十进制数。
图15是根据说明性实施例的用于执行所描述的过滤器设置方法的说明性计算机系统。
图16A-16C和17A-17C示出了实现用于为受控计算设备上的过滤器代理设置控制规则的另一个设置应用的监督用户设备。
图18A-18C和19A-19C示出了实现用于为受控计算设备上的过滤器代理设置控制规则的又一个设置应用的管理用户设备。
图20A、20B和20C是以图形方式示出用于生成由受控计算设备上的过滤器代理实现的多个过滤器的多个默认设置的其它人工神经网络的图。
图21是示出根据说明性实施例的另一个默认过滤器设置方法的流程图。
具体实施方式
下面参考附图描述本发明的实施例，其中相同的附图标记始终表示相同的元件。如本文中使用的术语“一”和“一个”不表示数量的限制，而是表示存在至少一个所引用的项目。各个图中参考朝向来获取任何方向性信号，诸如顶部、底部、左侧、右侧、上部和下部。
参考图1，在通信网络8中提供了用于启用对计算设备12的控制的系统10，该通信网络8包括一个或多个有线或无线网络或其组合，例如包括局域网(LAN)、广域网(WAN)、因特网、移动电话网络和无线数据网络(诸如WiFiTM和3G/4G/5G蜂窝网络)。系统10允许操作用户设备16的监督用户为由受监督用户(例如，父母监督用户的孩子)操作的计算设备12设置控制。
计算设备12和用户设备16在网络8中操作。计算设备12和用户设备16可以各自包括例如被配置为在无线电信网络上操作的智能电话或其它启用蜂窝的移动设备。可替代地，计算设备12和用户设备16可以各自包括个人计算机、平板设备或其它计算设备。用户在激活过滤器代理14的情况下操作计算设备12，过滤器代理14用作计算设备12上的内容控制应用。驻留在计算设备12上的软件和/或硬件使过滤器代理14能够监视和限制计算设备12可访问的内容。驻留在计算设备12上的软件和/或硬件还启用消息传递应用50(例如短消息服务(“SMS”)消息传递应用或支持其它消息传递协议的应用)、社交媒体应用52和因特网浏览器54(例如经由3G/4G/5G蜂窝协议、WiFiTM协议或通过因特网的TCP/IP)。用户可以实现消息传递应用50，例如，以便可以例如经由GSM无线协议或通过因特网的TCP/IP连接到消息转发中心，以与其它用户设备通信。
过滤器代理14可以被配置为计算设备12的处理器可执行的独立应用，该独立应用与消息传递应用50、社交媒体应用52、浏览器54或其它促进通信的应用通信。可替代地，过滤器代理14可以被提供为与消息传递应用50、社交媒体应用52、浏览器54或其它促进通信的应用集成的处理器实现的附加应用。使过滤器代理14能够阻止通过消息传递应用50、社交媒体应用52、浏览器54或其它促进通信的应用对计算设备12的用户可用的应用、电子通信和媒体。
系统10包括用于控制计算设备12的使用的网络可访问的启用处理器的过滤器管理器20。在本文关于设备12、16描述过滤器管理器20的操作。本领域技术人员将认识到的是，过滤器管理器20可以与其它合适的有线或无线网络可连接的计算系统一起操作。过滤器管理器20包括人工神经网络引擎22、人工神经网络数据存储24、用户数据存储26、设置应用程序接口(“API”)28、过滤器应用程序接口(“API”)和电信运营商(“电信”)接口32。过滤器管理器20可以例如在对等配置中在一个或多个网络可连接的启用处理器的计算系统上实现，并且不需要在单个位置的单个系统上实现。过滤器管理器20被配置用于经由通信网络8与其它网络可连接的计算系统通信，这些其它网络可连接的计算系统包括计算设备12、用户设备16以及实现API(“电信API”)80的电信运营商系统，该API能够控制计算设备12的通信。可替代地，过滤器管理器20或其一个或多个组件可以在计算设备12或其它系统上执行。在用户设备16上提供设置应用40。设置应用40可以包括可下载的软件应用，该应用专门配置用于与设置API 28接口，以经由设置API 28将过滤器设置传送到过滤器管理器。可替代地，设置应用40可以包括通用web浏览器或其它应用，其允许用户设备16的用户经由设置API 28将过滤器设置传送到过滤器管理器20。
参考图6，流程图示出了内容过滤器设置方法500。虽然参考图1中所示的系统10的组件描述方法500和相关联的过程，包括计算设备12、用户设备16、网络可访问的启用处理器的过滤器管理器20以及设置应用40，但是方法500可以可替代地经由其它合适的系统来执行。
在步骤502中，多个用户选择特定应用的多个过滤器中的多个过滤器设置。设置应用40使用户设备16的用户能够经由设置API 28做出选择。图2A、2B和2C示出了由设置API28启用的示例性过滤器，用户可以经由设置应用40从中选择“阻止”或“解除阻止”的过滤器设置。图2A示出了示例性内容，包括“自残”内容、“[非法]毒品、酒精和赌博”内容、“暴力”内容、“黑客和作弊”内容以及“色情”内容，这些内容可以在计算设备12上被过滤器代理14在消息传递应用50、社交媒体应用52和浏览器54中阻止，例如使用关键字识别、关键短语识别、图像识别、网站黑名单、应用黑名单或用户黑名单。可替代地，阻止可以由电信运营商系统在网络级别上实现，例如通过由过滤器管理器20的电信接口32经由电信API 80提供的指令。图2B示出了用户可以经由设置应用40选择阻止或取消阻止的示例性社交媒体应用52的名称，并且图2C示出了用户可以经由设置应用40选择阻止或取消阻止的示例性消息传递应用50的名称。计算设备12上的过滤器代理14可以经由对操作系统58的指令来阻止被阻止的应用的下载或执行，并且经由用户界面56向计算设备12的用户提供阻止活动的通知。
由过滤器管理器20从多个用户接收多个过滤器设置(步骤504)。用户可以例如在由设置应用40启用的用户界面42中致动内容滑块按钮102，以选择被阻止或取消阻止的过滤器设置。由过滤器管理器20接收多个用户的多个识别信息(步骤506)。识别信息可以通过设置应用40经由用户界面42启用的问卷调查由用户设备16的用户提供。有益的是，过滤器管理器20经由设置API 28接收过滤器设置和多个识别信息，这些数据存储在用户数据存储26中。可替代地，由用户提供的许可使得过滤管理器20能够通过经由电信接口32查询电信API 80来访问用户的识别信息，这些数据存储在用户数据存储26中。至少基于多个过滤器设置和多个用户的多个识别信息来训练人工神经网络(步骤508)。神经网络引擎22基于存储在用户数据存储26中的数据执行训练，并基于训练生成存储在神经网络数据存储24中的神经网络数据。
参考图5A，示出了示例性的第一人工神经网络200，其包括输入层202，该输入层202包括用户设备16的用户的识别信息，例如用户的孩子的年龄204、设备类型和制造商206、用户的地理区域208、用户的性别210、用户的孩子数量212以及用户的收入214。有益的是，输入层202还可以包括用户选择过滤器设置所花费的时间216(“编辑时间”)，该时间可以基于由用户编辑的过滤器设置的数量来求平均。例如，如果显示了5个过滤器设置(例如，五个内容滑块按钮102和描述性文本)，并且用户花费五(5)分钟来编辑过滤器设置并保存结果，那么可以计算出过滤器设置的编辑时间216是一(1)分钟。第一人工神经网络200的输出层222包括从多个用户接收的多个过滤器设置，包括例如阻止或取消阻止“黑客”内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”内容232、“血腥”内容234、“裸露”内容236、“性(sex)”(即，性(sexual))内容238和“暴力”内容240。例如，经由由用户设备16的设置应用40经由设置API 28启用的图2A的第一显示100来接收过滤器设置。有益的是，由用户设备16的用户提供的至少一个过滤器设置(“用户过滤器编辑”)218(例如，针对“暴力”内容240的过滤器设置)也被用作第一人工神经网络200的输入，以改善第一人工神经网络200的预测能力。为了便于说明，节点220的隐藏层被示为两个五节点行。可替代地，可以实现其它合适数量和布置的隐藏节点。在训练第一人工神经网络200时，将用户识别信息204、206、208、210、212、214、编辑时间216以及由多个用户选择的一个或多个特定过滤器设置218提供为输入层202，将来自用户的多个过滤器设置提供为输出层222，并且有益地采用反向传播。可替代地，可以实现其它机器学习协议来训练第一人工神经网络200。
参考图5B，示出了示例性第二人工神经网络300，其包括输入层302，该输入层302包括用户设备16的用户的识别信息，例如以上参考图5A描述的识别信息204、206、208、210、212、214。有益的是，输入层302还可以包括用户选择过滤器设置的时间316(“编辑时间”)，该时间可以基于所显示的过滤器设置的数量和用户编辑所显示的过滤器设置所需的总时间来求平均。第二人工神经网络300的输出层322包括从多个用户接收的多个过滤器设置，例如包括对社交媒体应用52的阻止或取消阻止，社交媒体应用52包括After SchoolTM 324、SnapchatTM 326、TumblerTM 328、WhisperTM330、FacebookTM334、InstagramTM 336、PinterestTM338和TwitterTM340。参考图2B，过滤器设置例如经由第二显示110中的社交媒体应用滑块按钮112被接收，该第二显示110由用户设备16的设置应用40经由设置API 28启用。有益的是，由用户设备16的用户提供的至少一个过滤器设置(“过滤器编辑”)318(例如，用于TwitterTM 340的过滤器设置)也被用作第二人工神经网络300的输入，以改善第二人工神经网络300的预测能力。为了便于说明，节点320的隐藏层被示为两个五节点行。可替代地，可以实现其它合适数量和布置的隐藏节点。在训练第二人工神经网络300时，将用户识别信息204、206、208、210、212、214、编辑时间316以及由多个用户选择的一个或多个特定过滤器设置318提供为输入层302，将来自用户的多个过滤器设置提供为输出层322，并且有益地采用反向传播。可替代地，可以实现其它机器学习协议来训练第二人工神经网络300。
参考图5C，示出了示例性第三人工神经网络400，其包括输入层402，该输入层402包括用户设备16的用户的识别信息，例如以上参考图5A描述的识别信息204、206、208、210、212、214。有益的是，输入层402还可以包括用户选择过滤器设置的时间416(“编辑时间”)，该时间可以基于所显示的过滤器设置的数量和用户编辑所显示的过滤器设置所需的总时间来求平均。第三人工神经网络400的输出层422包括从多个用户接收的多个过滤器设置，包括例如阻止或取消阻止消息传递应用50，包括短消息服务(“SMS”)424、ViberTM 426、AlloTM 428、Tango TM 430、Skype TM 434、WeChat TM 436、Line TM438和MessengerTM 440。参考图2C，过滤器设置例如经由第三显示120中的消息传递应用滑块按钮122被接收，该第三显示120由用户设备16的设置应用40经由设置API 28启用。有益的是，由用户设备16的用户提供的至少一个过滤器设置(“过滤器编辑”)418(例如用于MessengerTM 440的过滤器设置)也被用作第三人工神经网络400的输入，以改善第三人工神经网络400的预测能力。为了便于说明，节点420的隐藏层被示为两个五节点行。可替代地，可以实现其它合适数量和布置的隐藏节点。在训练第三人工神经网络400时，将用户识别信息204、206、208、210、212、214、编辑时间416以及由多个用户选择的一个或多个特定过滤器设置418提供为输入层402，将来自用户的多个过滤器设置提供作为输出层422，并且有益地采用反向传播。可替代地，可以实现其它机器学习协议来训练第三人工神经网络400。
当用来自多个用户的数据对人工神经网络进行充分训练时，可以将神经网络用于预测用于后续用户的过滤器设置。在方法500的步骤510中，使特定用户能够在应用发起过程期间在特定用户设备16的用户界面中选择特定应用的一个或多个特定过滤器的特定设置。参考图3A，示例性第四显示130经由设置API 28由用户界面42中的设置应用40启用，其中仅经由过滤器滑块按钮132启用用于“暴力”过滤器的过滤器设置的选择。参考图3B，示例性第五显示140经由设置API 28由用户界面42中的设置应用40启用，其中仅经由过滤器滑块按钮142启用用于TwitterTM社交媒体应用的过滤器设置的选择。参考图3C，示例性第六显示150经由设置API 28由用户界面42中的设置应用40启用，其中仅经由过滤器滑块按钮152启用用于MessengerTM消息传递应用的过滤器设置的选择。其余的过滤器被示为“TBD”，从而允许用户将注意力集中在设置“暴力”过滤器滑块按钮132、TwitterTM社交媒体应用过滤器滑块按钮142和MessengerTM消息传递应用过滤器滑块按钮152上。
在方法500的步骤512中，经由特定用户设备16的用户界面42从特定用户接收一个或多个特定过滤器的特定设置。参考图5A、5B和5C，例如，作为“暴力”过滤器滑块按钮132、TwitterTM社交媒体应用过滤器滑块按钮142和MessengerTM消息传递应用过滤器滑块按钮152的阻止或取消阻止来接收特定设置。过滤器管理器20经由设置API 28接收特定设置，该特定设置的数据存储在用户数据存储26中。
过滤器管理器20还接收特定用户的识别信息(步骤514)，例如从设备16接收的信息，包括设备识别符(例如，mac地址、IMEI)、设备位置(例如，GPS位置)，以及通过由设置应用40经由设置API 28管理的设置调查问卷获得的信息。还可以经由电信接口32从电信API80接收识别信息。参考图5A，识别信息有益地包括特定用户的孩子的年龄204、设备类型和制造商206、特定用户的地理区域208、用户的性别210、用户的孩子数量212以及用户的收入214。在步骤516中，将特定设置和特定识别信息输入到经训练的人工神经网络，以生成特定应用的多个过滤器的多个默认设置。识别信息204、206、208、210、212和214与用户选择的指示对图3A的“暴力”过滤器滑块按钮132的阻止或取消阻止的过滤器设置218和编辑时间信息216一起输入，以生成用于阻止或取消阻止“黑客”内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”内容232、“血腥”内容234、“裸露”内容236和“性”内容238的默认设置。编辑时间216包括特定用户使用“暴力”过滤器滑块按钮132选择阻止或取消阻止并保存设置所花费的时间。
例如参考图5B，识别信息204、206、208、210、212和214以及编辑时间信息316与用户选择的指示经由图3B的过滤器滑块按钮142对TwitterTM社交媒体应用的阻止或取消阻止的过滤器设置318一起输入，以生成用于阻止或取消阻止包括After SchoolTM 324、SnapchatTM 326、TumblerTM 328、WhisperTM330、FacebookTM334、InstagramTM 336、PinterestTM338的社交媒体应用的默认设置。编辑时间316包括特定用户使用TwitterTM社交媒体应用过滤器滑块按钮142选择阻止或取消阻止并保存设置所花费的时间。例如参考图5C，识别信息204、206、208、210、212和214以及编辑时间信息416与用户选择的指示经由图5C的过滤器滑块按钮152对MessengerTM消息传递应用的阻止或取消阻止的过滤器设置418一起输入，以生成用于阻止或取消阻止包括短消息服务(“SMS”)应用424、ViberTM 426、AlloTM 428、TangoTM 430、SkypeTM 434、WeChatTM 436和LineTM 438的消息传递应用的默认设置。编辑时间416包括特定用户使用MessengerTM消息传递应用过滤器滑块按钮152选择阻止或取消阻止并保存设置所花费的时间。
在方法500的步骤518中，将生成的多个默认设置显示在特定用户设备的用户界面中。参考图4A，示例性第七显示160由用户界面42中的设置应用40经由设置API 28来启用，其中显示基于用户的识别信息、编辑时间和用户对“取消阻止”“暴力”过滤器滑块按钮132的选择的默认过滤器设置。第七显示160涉及由第一人工神经网络200生成的默认设置，其中“自残”内容未被阻止、“毒品、酒精和赌博”内容被阻止、“黑客和作弊”内容未被阻止，并且“色情”内容被阻止。参考图4B，示例性第八显示170由用户界面42中的设置应用40经由设置API 28来启用，其中显示基于用户的识别信息、编辑时间和用户对“阻止”“TwitterTM”社交媒体应用过滤器滑块按钮142的选择的默认过滤器设置。第八显示170涉及由第二人工神经网络300生成的默认设置，其中Musical.lyTM应用未被阻止、ASKfmTM应用被阻止、TumblrTM应用被阻止，并且PinterestTM应用未被阻止。参考图4C，示例性第九显示180由用户界面42中的设置应用40经由设置API 28来启用，其中显示基于用户的识别信息、编辑时间和用户对“阻止”“MessengerTM”消息传递应用的滑块按钮152的选择的默认过滤器设置。第九显示180涉及由第三人工神经网络400生成的默认设置，其中ViberTM消息传递应用未被阻止、TangoTM消息传递应用被阻止、AlloTM消息传递应用被阻止，并且AndroidTM消息传递应用未被阻止。
在步骤520中，使用户设备16的特定用户能够经由用户界面42修改默认设置。例如，参考图4A，特定用户可以致动滑块按钮162以改变经由第一人工神经网络200生成的默认设置。当用户对过滤器设置感到满意时，用户可以经由保存按钮164保存过滤器设置。参考图4B和4C，用户可以经由滑块按钮172、182对默认设置进行改变，并经由保存按钮174、184保存过滤器设置。包括对所生成的默认值的修改的用户设置被保存在过滤器管理器20的用户数据存储26中。用户对默认设置的修改或不修改被用于以上述方式进一步训练人工神经网络200、300、400。例如，在训练第一人工神经网络200时，用户识别信息204、206、208、210、212、214、所显示的过滤器设置的平均编辑时间216以及由特定用户选择的一个或多个特定过滤器设置218(例如，经由“暴力”过滤器滑块按钮132的阻止或取消阻止)被提供为输入层202。来自特定用户的包括修改后的设置和未修改的默认值的多个过滤器设置被提供为输出层222，并且采用反向传播。
经由过滤器管理器20的过滤器API 30将包括用户选择的设置、所生成的默认设置以及来自用户设备16的特定用户的任何修改后的默认设置的控制设置传送到由受监督用户(例如操作用户设备16的父母监督用户的孩子)操作的计算设备12上的过滤器代理14。控制设置被存储在过滤器数据存储60中。过滤器代理14通过通过消息传递应用50、社交媒体应用52、浏览器54或其它促进通信的应用，阻止对用户设备的用户可用的应用、通信和媒体来实现控制设置，以限制在计算设备12上可访问的数据。例如，当所存储的控制设置如此指示时，过滤器代理14阻止或过滤通过消息传递应用50、社交媒体应用52、浏览器54或其它促进通信的应用发送或接收的，包括被确定为包含“黑客”内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”内容232、“血腥”内容234、“裸露”内容236、“性”内容238和“暴力”内容240的词或短语的讯息。过滤器代理14通过与操作系统58集成还进一步阻止基于所存储的控制设置被指示为已经被用户阻止的消息传递应用50和社交媒体应用52的执行、卸载或阻止其安装。
参考图21，流程图示出了根据另一个说明性实施例的内容过滤器设置方法1100。虽然参考图1中所示的系统10的组件描述方法1100和相关联的过程，所述组件包括计算设备12、用户设备16、网络可访问的启用处理器的过滤器管理器20以及设置应用40，但是方法1100可以可替代地经由其它合适的系统来执行。
在步骤1102中，使一个或多个用户能够在应用发起过程期间在用户设备16的用户界面中选择特定应用的多个过滤器的通用过滤器级别。参考图16A、16B、16C，用户可以在示例性的第十、第十一和第十二显示900、910、920中在用户界面42中致动通用滑块按钮902、912、922，以选择二元决策输入的“宽松”或“保守”过滤器设置。参考图16A，示例性第十显示900由用户界面42中的设置应用40经由设置API 28来启用，其中经由通用滑块按钮902启用对通用过滤器级别的选择，并且其中令人反感的内容过滤器被标记为“TBD”(“待定”)。参考图16B，示例性第十一显示910由用户界面42中的设置应用40经由设置API 28来启用，其中经由通用滑块按钮912启用对通用过滤器级别的选择，并且其中社交媒体应用过滤器被标记为“TBD”(“待定”)。参考图16C，示例性第十二显示920由用户界面42中的设置应用40经由设置API 28来启用，其中经由通用滑块按钮922启用对通用过滤器级别的选择，并且其中消息传递应用过滤器被标记为“TBD”(“待定”)。
在步骤1104中，基于包括过滤器设置到可选择的过滤器级别的预定映射的初始映射表，所选择的过滤器级别被用于经由过滤器代理14生成特定应用的多个过滤器的多个默认设置。初始映射表可以基于特定准则随机生成或创建。所生成的多个默认设置被显示在用户设备16的用户界面42中(步骤1106)。参考图17A，示例性第十三显示930由用户界面42中的设置应用40经由设置API 28来启用，其中显示基于用户对通用滑块按钮902的“宽松”的选择的默认过滤器设置。第十三显示930涉及通过经由过滤器代理14的预定映射生成的默认设置，其中“自残”内容被阻止，并且“暴力”、“毒品、酒精和赌博”、“黑客和作弊”以及“色情”内容未被阻止。可以由过滤器代理14例如使用关键字识别、关键短语识别、图像识别、网站黑名单、应用黑名单或用户黑名单在计算设备12上从消息传递应用50、社交媒体应用52和浏览器54阻止内容。可替代地，阻止可以由电信运营商系统在网络级别上实现，例如通过由过滤器管理器20的电信接口32经由电信API 80提供的指令。
参考图17B，示例性第十四显示940由用户界面42中的设置应用40经由设置API 28来启用，其中显示基于用户对通用滑块按钮912的“宽松”的选择的默认过滤器设置。第十四显示940涉及经由过滤器代理14由预定映射生成的默认设置，其中TwitterTM应用未被阻止、Musical.lyTM应用未被阻止、ASKfmTM应用被阻止、TumblrTM应用被阻止，并且PinterestTM应用未被阻止。参考图17C，示例性第十五显示950由用户界面42中的设置应用40经由设置接口28来启用，其中显示基于用户对通用滑块按钮922的“保守”的选择的默认过滤器设置。第十五显示器950涉及经由过滤器代理14由预定映射生成的默认设置，其中MessengerTM消息传递应用未被阻止，并且ViberTM、TangoTM、AlloTM和AndroidTM消息传递应用被阻止。计算设备12上的过滤器代理14可以经由对操作系统58的指令来阻止被阻止的应用的下载或执行，并且经由用户界面56向计算设备12的用户提供阻止活动的通知。
使一个或多个用户能够修改特定应用的多个过滤器的默认过滤器设置(步骤1108)。例如参考图17A，一个或多个用户可以致动滑块按钮934以改变默认设置。当用户对过滤器设置感到满意时，用户可以经由保存按钮936保存过滤器设置。参考图17B和17C，用户可以经由滑块按钮944、954对默认设置进行改变，并经由保存按钮946、956保存过滤器设置。可替代地，可以在用户界面中提供“详细选择”按钮，以使得能够修改默认过滤器设置，例如，激活滑块按钮934、944、954的按钮。
由过滤器管理器20从多个用户接收由用户修改的通用过滤器级别(例如，“宽松”或“保守”)和过滤器设置(步骤1110)。另外，由过滤器管理器20接收一个或多个用户的多个识别信息(步骤1112)。识别信息可以通过由设置应用40经由用户界面42启用的调查问卷由用户设备16的用户提供。有益的是，过滤器管理器20经由设置API 28接收过滤器设置和多个识别信息，这些数据存储在用户数据存储26中。可替代地，由用户提供的许可使得过滤管理器20能够通过经由电信接口32查询电信API 80来访问用户的识别信息，这些数据存储在用户数据存储26中。至少基于通用过滤器级别、多个过滤器设置以及多个用户的多个识别信息来训练人工神经网络(步骤1114)。有益的是，训练是基于来自既选择通用过滤器级别(例如，“宽松”或“保守”)又修改一个或多个默认过滤器设置，或者启用对默认过滤器设置的修改(例如经由用户界面中的“详细选择”按钮)的用户的数据执行的，但排除了来自仅选择通用过滤器级别且不修改或启用过滤器设置的修改的用户的数据。神经网络引擎22基于存储在用户数据存储26中的数据执行训练。基于训练，神经网络引擎22生成用于更新映射表的神经网络数据，该映射表与神经网络数据一起存储在神经网络数据存储24中，以供后续用户使用。
参考图20A，示出了示例性第四人工神经网络1200，其包括输入层1202，该输入层包括用户设备16的用户的识别信息，例如用户的孩子的年龄204、设备类型和制造商206、用户的地理区域208、用户的性别210、用户的孩子数量212以及用户的收入214。有益的是，输入层1202还可以包括用户选择通用过滤器级别和过滤器设置所花费的时间1216(“编辑时间”)，该时间可以基于由用户编辑的过滤器设置的数量来求平均。例如，如果显示了5个按钮(例如，通用滑块按钮922和四个内容滑块按钮934和描述性文本)，并且用户花费五(5)分钟来编辑过滤器级别和过滤器设置并保存结果，那么可以计算出编辑时间1216是每个设置一(1)分钟。由用户设备16的用户提供的用户选择的通用过滤器级别(“用户通用设置编辑”)1218也被用作第四人工神经网络1200的输入。第四人工神经网络1200的输出层1222包括从一个或多个用户接收的多个过滤器设置，包括例如阻止或取消阻止“黑客”内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”内容232、“血腥”内容234、“裸露”内容236、“性(sex)”(即，性(sexual))内容238和“暴力”内容240。过滤器设置是例如经由图17A的第十三显示930接收的，所述第十三显示930由用户设备16的设置应用40经由设置API28来启用。由用户设备16的用户提供的用户选择的通用过滤器级别(“用户通用设置编辑”)1218也被用作第四人工神经网络1200的输入。为了便于说明，节点1220的隐藏层被示为两个五节点行。可替代地，可以实现其它合适数量和布置的隐藏节点。在训练第四人工神经网络1200时，将用户识别信息204、206、208、210、212、214、编辑时间1216和由一个或多个用户选择的通用设置编辑1218提供为输入层1202，将来自用户的过滤器设置提供为输出层1222，并且有益地采用反向传播。可替代地，可以实现其它机器学习协议以训练第四人工神经网络1200。
参考图20B，示出了示例性第五人工神经网络1300，其包括输入层1302，该输入层1302包括用户设备16的用户的识别信息，例如上面参考图20A描述的识别信息204、206、208、210、212、214。有益的是，输入层1302还可以包括用户选择通用过滤器级别和过滤器设置的时间1316(“编辑时间”)，该时间可以基于由用户编辑的过滤器设置的数量来求平均。由用户设备16的用户提供的用户选择的通用过滤器级别(“用户通用设置编辑”)1318也被用作第五人工神经网络1300的输入。第五人工神经网络300的输出层1322包括从一个或多个用户接收的多个过滤器设置，包括例如阻止或取消阻止社交媒体应用52，包括AfterSchoolTM 324、SnapchatTM 326、TumblerTM 328、WhisperTM330、FacebookTM334、InstagramTM336、PinterestTM338和TwitterTM 340。参考图17B，过滤器设置是例如经由第十四显示940中的社交媒体应用滑块按钮944来接收的，第十四显示940是由用户设备16的设置应用40经由设置API 28来启用的。为了便于说明，节点1320的隐藏层被示为两个五节点行。可替代地，可以实现其它合适数量和布置的隐藏节点。在训练第五人工神经网络1300时，将用户识别信息204、206、208、210、212、214、编辑时间1316和由一个或多个用户选择的通用设置编辑1318提供为输入层1302，将来自用户的多个过滤器设置提供为输出层1322，并且有益地采用反向传播。可替代地，可以实现其它机器学习协议来训练第五人工神经网络1300。
参考图20C，示出了示例性第六人工神经网络1400，其包括输入层1402，该输入层1402包括用户设备16的用户的识别信息，例如上面参考图20A描述的识别信息204、206、208、210、212、214。有益的是，输入层1402还可以包括用户选择通用过滤器级别和过滤器设置的时间1416(“编辑时间”)，该时间可以基于由用户编辑的过滤器设置的数量来求平均。由用户设备16的用户提供的用户选择的通用过滤器级别(“用户通用设置编辑”)1418也被用作第六人工神经网络1400的输入。第六人工神经网络1400的输出层1422包括从一个或多个用户接收的多个过滤器设置，包括例如阻止或取消阻止消息传递应用50，包括短消息服务(“SMS”)424、ViberTM 426、AlloTM428、TangoTM 430、SkypeTM434、WeChatTM436、LineTM438和MessengerTM440。参考图17C，过滤器设置是例如经由第十五显示950中的消息传递应用滑块按钮954来接收的，所述第十五显示950是由用户设备16的设置应用40经由设置API 28来启用的。为了便于说明，节点1420的隐藏层被示为两个五节点行。可替代地，可以实现其它合适数量和布置的隐藏节点。在训练第六人工神经网络1400时，将用户识别信息204、206、208、210、212、214、编辑时间1416和由一个或多个用户选择的通用设置编辑1418提供为输入层1402，将来自用户的多个过滤器设置提供为输出层1422，并且有益地采用反向传播。可替代地，可以实现其它机器学习协议以训练第六人工神经网络1400。
当用来自一个或多个用户的数据训练人工神经网络时，该神经网络可以被用于预测用于后续用户的过滤器设置。在方法1100的步骤1116中，使特定用户能够在应用发起过程期间在用户设备16的用户界面中选择特定应用的多个过滤器的通用过滤器级别。再次参考图16A，示例性第十显示900由用户界面42中的设置应用40经由设置API 28来启用，其中经由通用滑块按钮902启用对通用过滤器级别过滤器的选择，并且其中令人反感的内容过滤器被标记为“TBD”(“待定”)。再次参考图16B，示例性第十一显示910由用户界面42中的设置应用40经由设置API 28来启用，其中经由通用滑块按钮912启用对通用过滤器级别过滤器的选择，并且其中社交媒体应用过滤器被标记为“TBD”(“待定”)。再次参考图16C，示例性第十二显示920由用户界面42中的设置应用40经由设置API 28来启用，其中经由通用滑块按钮922启用对通用过滤器级别过滤器的选择，并且其中消息传递应用过滤器被标记为“TBD”(“待定”)。
在方法1100的步骤1118中，经由特定用户设备16的用户接口42从特定用户接收用户选择的通用过滤器级别(“用户通用设置编辑”)1218。参考图16A、16B和16C，经由通用滑块按钮902、912、922例如以“宽松”或“保守”接收通用过滤器级别。过滤器管理器20经由设置API 28接收过滤器级别，其数据存储在用户数据存储26中。
过滤器管理器20还接收特定用户的识别信息(步骤1120)，例如从设备16接收的信息，包括设备识别符(例如，mac地址、IMEI)、设备位置(例如，GPS位置)，以及通过由设置应用40经由设置API 28管理的设置调查问卷获得的信息。还可以经由电信接口32从电信API80接收识别信息。参考图20A，识别信息有益地包括特定用户的孩子的年龄204、设备类型和制造商206、特定用户的地理区域208、用户的性别210、用户的孩子数量212以及用户的收入214。在步骤1122中，将用户选择的通用过滤器级别和特定的识别信息输入到经训练的人工神经网络，以生成特定应用的多个过滤器的多个默认设置。识别信息204、206、208、210、212和214与指示通用滑块按钮902的“宽松”或“保守”致动的用户选择的通用过滤器级别(“用户通用设置编辑”)1218以及编辑时间信息1216一起输入，以生成用于阻止或取消阻止“黑客”内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”内容232、“血腥”内容234、“裸露”内容236、“性”内容238和“暴力”内容240的默认设置。编辑时间1216包括特定用户经由通用滑块按钮902、912、922的致动选择“宽松”或“保守”并保存设置所花费的时间。
例如参考图20B，识别信息204、206、208、210、212和214以及编辑时间信息1316与指示通用滑块按钮912的“宽松”或“保守”致动的用户选择的通用过滤器级别(“用户通用设置编辑”)1318一起输入，以生成用于阻止或取消阻止社交媒体应用的默认设置，社交媒体应用包括After SchoolTM 324、SnapchatTM 326、TumblrTM 328、WhisperTM 330、FacebookTM334、InstagramTM 336和PinterestTM 338。编辑时间1316包括特定用户经由通用滑块按钮912的致动选择“宽松”或“保守”并保存设置所花费的时间。例如，参考图20C，识别信息204、206、208、210、212和214以及编辑时间信息1416与指示通用滑块按钮922的“宽松”或“保守”致动的用户选择的通用过滤器级别(“用户通用设置编辑”)1418一起输入，以生成用于阻止或取消阻止消息传递应用的默认设置，消息传递应用包括短消息服务(“SMS”)应用424、ViberTM426、AlloTM428、TangoTM430、SkypeTM434、WeChatTM436和FineTM 438。编辑时间1416包括特定用户经由通用滑块按钮922的致动选择“宽松”或“保守”并保存设置所花费的时间。
在方法1100的步骤1124中，例如以如以上关于步骤1104和1106所描述的图17A、17B和17C的示例性第十三显示930、第十四显示940和第十五显示950中所示的方式，在特定用户设备16的用户界面42中显示所生成的多个默认设置。
使特定用户能够修改特定应用的多个过滤器的默认过滤器设置(步骤1126)。例如参考图17A，特定用户可以致动滑块按钮934以改变默认设置。当特定用户对过滤器设置感到满意时，用户可以经由保存按钮936保存过滤器设置。参考图17B和17C，用户可以经由滑块按钮944、954对默认设置进行改变，并经由保存按钮946、956保存过滤器设置。包括对所生成的默认值的修改在内的用户设置被保存在过滤器管理器20的用户数据存储26中。方法1100返回到步骤1114，并且以以上参考图20A、20B和20C所描述的方式在进一步训练人工神经网络1200、1300、1400时使用用户对默认设置的修改或没有对默认设置的修改。例如，在训练第四人工神经网络1200时，将用户识别信息204、206、208、210、212、214、平均编辑时间1216和由特定用户选择的用户选择的通用过滤器级别(“用户通用设置编辑”)1218(例如，通用滑块按钮902的“宽松”或“保守”选择)提供为输入层1202，将来自特定用户的多个过滤器设置(包括修改后的设置和未修改的默认值)提供为输出层1222，并且采用反向传播。
作为诸如由通用滑块按钮902、912、922启用的二元输入决策(例如，“宽松”/“保守”)的替代方案，可以用多个选择或者以从最大或“最保守”到最小或“最不保守”的模拟比例来启用通用过滤器级别选择。例如，可以在用户界面中启用输入的多个选择(例如，1-5个级别)或基本连续的范围(例如，0％-100％)，以供用户设置通用过滤器级别。用户界面中启用的滑动条或拨盘可以进行颜色编码，以说明通用过滤器级别选择中的保守程度(例如，红色是最保守的，绿色是最不保守的，黄色在中间)。为了允许直观的用户选择，可以使用户能够在用户界面中滚动滑动条或转动拨盘，过滤器代理14可以例如基于人工神经网络1200、1300、1400的实时输出、基于这种滑动条或拨盘的当前位置，实时列出一个或多个被阻止或允许的类别。当用户确认或保存了经由滑动条、拨盘或其它输入的选择时，可以通过以上参考方法1100的步骤1104或步骤1124所述的方式基于过滤器设置的预定映射或基于人工神经网络1200、1300、1400的输出来设置任何剩余的未显示的类别或过滤器。
参考图18A、18B和18C，由设置应用40启用的用户界面42中的示例性第十六显示1000、第十七显示1010和第十八显示1020允许用户致动通用滑块按钮1002、1012、1022以基于一至五之间的比例选择“宽松”或“保守”过滤器设置。显示1000、1010、1020可以例如被用于执行如上所述的方法1100的步骤1102和1116。参考图19A、19B和19C，示例性第十九显示1030、第二十显示1040和第二十一显示1050由用户界面42中的设置应用40经由设置API 28来启用，其中显示基于使用通用滑块按钮1002、1012、1022的用户选择的默认过滤器设置。显示1030、1040、1050可以例如被用于执行如上所述的方法1100的步骤1106和1124。滑块按钮1034、1044、1054使用户能够修改默认设置(例如，用于执行方法1100的步骤1108和1126)，并且保存按钮1036、1046、1056允许保存设置。
以上分别参考示例性第一、第二和第三人工神经网络200、300、400以及示例性第四、第五和第六人工神经网络1200、1300和1400所描述的方法500和1100在简化应用发起过程方面是有效的。上面描述的对应示例性显示实现了一种一键式(botton)解决方案，该解决方案限制所需的显示屏幕区域并使用户输入最小化，以减少对系统资源(包括通信带宽、处理资源和图形资源)的使用，从而限制设备的电力需求。方法500和1100对于在具有有限显示屏幕区域和有限电池电量存储的移动手持设备上促进应用发起是特别有用的。
图8抽象地图示了示例性计算机系统800的功能，本文所述的系统、方法和过程可以在其上执行。例如，计算设备12、用户设备16、过滤器管理器20和电信API 80可以各自由特定计算机系统800实施。可以以个人计算机、膝上型计算机、手持式移动通信设备、大型机、分布式计算系统或其它合适配置的形式来提供计算机系统800。在一些情况下，说明性主题在本文中被描述为计算机可执行指令，例如以程序模块的形式，该程序模块可以包括被配置为执行特定任务或实现特定抽象数据类型的程序、例程、对象、数据结构、组件或体系架构。计算机可执行指令例如由计算机系统800可执行的指令824表示。
计算机系统800可以作为独立设备来操作，或者可以连接(例如，联网)到其它机器。在联网部署中，计算机系统800可以在服务器-客户端网络环境中以服务器或客户端机器的能力来操作，或者在对等(或分布式)网络环境中作为对等机器来操作。也可以认为计算机系统800包括机器的集合，这些机器单独地或共同地执行指令的集合(或多个集合)以执行本文所述的一个或多个方法。
本领域技术人员将理解的是，包括但不限于可联网的个人计算机、小型计算机、大型计算机、手持式移动通信设备、多处理器系统、基于微处理器的或可编程的电子设备以及智能电话的其它计算机系统可以被用于启用本文描述的系统、方法和过程。而且，这样的计算机系统可以被配置为分布式计算机环境，其中程序模块被启用并且任务由通过通信网络链接的处理设备执行，并且其中程序模块可以位于本地和远程存储器存储设备中。
示例性计算机系统800包括经由总线808通信的处理器802(例如中央处理单元(CPU)或图形处理单元(GPU))、主存储器804和静态存储器806。提供视觉显示器810，例如液晶显示器(LCD)、发光二极管(LED)显示器或阴极射线管(CRT)，用于向系统的用户显示数据。视觉显示器810可以被启用以例如经由电阻式或电容式触摸屏来从用户接收数据输入。字符输入装置812可以例如以物理键盘的形式提供，或者可替代地以程序模块的形式提供，该程序模块在视觉显示器810上启用用户交互式模拟键盘并且例如可使用电阻式或电容式触摸屏来致动。音频输入装置813(例如麦克风)启用可听语言输入，其可以被处理器802经由指令824转换成文本输入。可以例如以计算机鼠标的形式提供指针/选择装置814，或者经由视觉显示器810中的电阻式或电容式触摸屏来启用。还可以提供数据驱动器816、诸如音频扬声器之类的信号发生器818以及网络接口820。还提供了位置确定系统817，其可以包括例如GPS接收器和支持硬件。
由本文描述的系统、方法和过程所实施或使用的指令824和数据结构(例如软件指令)存储在计算机可读介质822上并可经由数据驱动器816进行访问。另外，当执行指令824时，指令824可以完全或部分地驻留在主存储器804中或处理器802内特定时间段。因此主存储器804和处理器802也被认为是计算机可读介质。
虽然计算机可读介质822被示为单个介质，但是计算机可读介质822可以被认为包括例如在集中式或分布式数据库中的单个介质或多个介质，或者存储指令824的相关联的高速缓存和服务器。可以将计算机可读介质822视为包括可以存储、编码或携带用于由机器执行的指令并使机器执行本文所述的任何一种或多种方法的任何有形介质，或者可以存储、编码或携带由此类指令使用或与之相关联的数据结构的任何有形介质。另外，术语“计算机可读存储介质”可以被认为包括但不限于可以以非暂态方式存储信息的固态存储器以及光学和磁性介质。计算机可读介质可以例如包括非易失性存储器，诸如半导体存储器设备(例如，磁盘，诸如内部硬盘和可移动盘、磁光盘以及CD-ROM和DVD-ROM盘、可擦可编程只读存储器(EPROM)、电可擦可编程只读存储器(EE PROM)和闪存设备)。
指令824可以经由网络接口820使用信号传输介质在通信网络(例如通信网络8)上被发送或接收，网络接口820在一种或多种已知的传输协议(例如，FTP、HTTP或HTTP)下操作。通信网络的示例包括局域网(LAN)、广域网(WAN)、因特网、移动电话网络、普通老式电话(POTS)网络和无线数据网络(例如WiFiTM和3G/4G/5G蜂窝网络)。术语“计算机可读信号介质”还可以被认为包括能够存储、编码或携带由机器执行的指令的任何暂态无形介质，并且包括数字或模拟通信信号或其它无形介质以促进此类指令的通信。
示例
示例1
14028个受监督用户(例如，父母的孩子)的总共14028个监督用户(例如，父母)各自输入其对应的受监督用户的年龄，并与经由设置应用40和设置API 28显示的过滤器进行交互。在交互期间，使监督用户能够修改其设备的用户界面中用于“令人反感”内容的预定默认过滤器设置，以图2A的第一显示100中所示的方式呈现的过滤器设置，以及部分地包括“自残”、“毒品、酒精和赌博”、“暴力”、“黑客和作弊”和“色情”过滤器的过滤器。预定的默认过滤器设置是仅基于要对其内容进行过滤的受监督用户的用户指示的年龄，而不是基于任何机器学习算法生成的。使用图5A中阐述的术语和附图标记，所显示的过滤器使用户能够在阻止或取消阻止“黑客”(即，“黑客和作弊”)内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”(即，“毒品、酒精和赌博”)内容232、“血腥”内容234、“裸露”内容236、“性(sex)”(即，“性(sexual)”)内容238和“暴力”内容240之间进行选择。参考图7A，第一年龄分布图600示出了特定年龄的14028名受监督用户的数量，其与编辑“令人反感”内容默认过滤器设置中的一个或多个设置的14028名监督用户的数量对应。年龄在十二(12)至十七(17)岁之间的受监督用户为14028名受监督用户中的69.3％。
虽然不具有相同的配置或节点数，但是一般而言具有图5A中图形示出的类型的试验人工神经网络以三种单独的方式进行了训练，其中过滤器设置由监督用户选择用作期望的输出或留作默认。在第一训练中，第一数据集被输入到神经网络，包括监督用户的孩子的年龄204、设备类型和制造商206以及监督用户的地理区域208。在第二训练中，第二数据集被输入到神经网络，包括第一训练的输入加上监督用户的性别210、监督用户的孩子数量212、监督用户的收入214(基于监督用户的邮政编码估计的)，以及监督用户选择过滤器设置的时间216(即，“编辑时间”)。在第三训练中，将第三数据集输入到神经网络，包括第一训练和第二训练的输入加上由用户设备16的监督用户提供的一个过滤器设置(“过滤器编辑”)218，其中过滤器设置218是用于“暴力”内容240的过滤器设置。通过将第一输入数据集重新输入到由第一训练训练的神经网络并将生成的输出与用户选择的实际过滤器设置进行比较，为每个过滤器设置确定由第一训练训练的神经网络的准确度。通过将第二输入数据集重新输入到由第二训练训练的神经网络并将生成的输出与用户选择的实际过滤器设置进行比较，为每个过滤器设置确定由第二训练训练的神经网络的准确度。通过将第三输入数据集重新输入到由第三训练训练的神经网络并将生成的输出与用户选择的实际过滤器设置进行比较，为每个过滤器设置确定由第三训练训练的神经网络的准确度。将特定过滤器设置的准确度定义为过滤器预测正确的平均次数(即，用户选择的过滤器设置与神经网络输出相同)除以由神经网络对那个过滤器设置的预测总数。
参考图5A、8A和8B，通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入数据集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-暴力作为额外输入”)由第三训练训练的神经网络的准确度以及预定的默认设置的准确度针对用于“黑客”(即，“黑客和作弊”)内容224、“仇恨”内容226、“色情”内容228、“自残”内容230、非法“毒品”(即，“毒品、酒精和赌博”)内容232、“血腥”内容234、“裸露”内容236、“性”(即，“性”)内容238和“暴力”内容240的过滤器在图表610中绘出。图表610和图表610的关键字612示出将包括用于暴力内容240的过滤器设置的第三输入数据集输入到神经网络会导致针对非法“毒品”内容232、“血腥”内容234、“裸露”内容236和“性”内容238的输出，其预测准确度显著高于由于第一和第二输入数据集的输入产生的输出，并且其预测准确度高于预定的默认设置。在输入第三数据集时，输入过滤器设置218与用于“暴力”内容240的已知输出过滤器设置相同，并且相应地，对于“NN-暴力作为额外输入”，对于暴力内容的准确度定义为1.0(即，100％)，如图表610中所示。图表610还示出了第一、第二和第三输入数据集到神经网络的输入导致针对“黑客”(即，“黑客和作弊”)内容224、“仇恨”内容226、“色情”内容228以及“自残”内容230的输出，其预测准确度与预定的默认设置大致相等。图8A中绘制的数据表明了一个过程，其中首先使监督用户(例如，父母)能够为一个令人反感的内容类别(例如，暴力)选择过滤器设置，然后其中为剩余类别从神经网络生成默认设置，导致准确地预测用户的实际期望过滤器设置的默认设置，从而加快应用初始化过程。
参考图5A和9A-9E的图表以及图9F的图表关键字640，预定的默认设置的准确度以及通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-暴力作为额外输入”)由第三训练训练的神经网络的准确度，针对非法“毒品”(即，“毒品、酒精和赌博”)内容232、“血腥”内容234、“裸露”内容236、“性”(即，“性”)内容238和“暴力”内容240的过滤器针对被监督用户的年龄分别在图表630、632、634、636、638中绘出。与由神经网络基于第一、第二和第三输入数据集生成的设置的准确度相比，图表630、634和636示出了预定默认设置的准确度针对12-17岁的受监督用户来说相对低。使用经训练的神经网络生成默认过滤器设置提供了对预定默认值的改进，尤其是在使用第三输入数据集训练神经网络的情况下，该第三输入数据集包括针对暴力内容的过滤器设置240作为附加输入。由于在第三输入数据集中(“NN-暴力作为额外输入”)用户选择的暴力过滤器设置被输入到神经网络，因此根据定义，预测的“暴力”过滤器设置和用户选择的“暴力”设置是相同的，因此，在整个年龄段内，小数准确度为1.0，如图9E的图表638中所示。针对非法“毒品”(即，“毒品、酒精和赌博”)内容232、“血腥”内容234、“裸露”内容236、“性”(即，“性”)内容238和“暴力”内容240的过滤器设置的预定默认设置会对十一(11)岁或更年轻的受监督用户阻止内容，而对十二(12)岁或更大的用户取消阻止内容。
参考图5A和10A-10E的图表以及图10F的图表关键字670，通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-暴力作为额外输入”)由第三训练训练的神经网络预测阻止各种类别的用户的数量，该数据针对非法“毒品”(即，“毒品、酒精和赌博”)内容232、“血腥”内容234、“裸露”内容236、“性”(即，“性”)内容238和“暴力”内容240的过滤器设置，用实际用户选择的设置和预定的默认设置在图表660、662、664、666和668中相对于受监督用户的年龄分别被绘制为总监督用户的小数(decimal)。如图所示，每个图表660、662、664、666和668中的预定默认过滤器设置对于年龄六(6)至十一(11)岁为“阻止”，因此与1.0的小数对应；而对于年龄十二(12)至二十(20)为“取消阻止”，因此与0.0的小数对应。由于在第三输入数据集中(“NN-暴力作为额外输入”)，用户选择的暴力过滤器被设置被输入到神经网络，因此根据定义，预测的“暴力”过滤器设置和用户选择的“暴力”设置是相同的并且在图10E的图表668中在各个年龄段中均示为相等。
参考图11A-11D的图表和图11E的图表关键字698，预定的默认设置的准确度以及通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-暴力作为额外输入”)由第三训练训练的神经网络的准确度针对“黑客”内容224、“仇恨”内容226、“色情”内容228和“自残”内容230的过滤器设置、针对受监督用户的年龄分别在图表690、692、694和696中绘制。图表630、632、634和636示出了预定的默认设置的准确度与基于第一、第二和第三输入数据集由神经网络生成的设置的准确度可比。用于“黑客”内容224、“仇恨”内容226、“色情”内容228和“自残”内容230的过滤器设置的预定默认设置将对所有年龄的所有受监督用户阻止内容。
示例2
15742个受监督用户(例如，父母的孩子)的总共15742个监督用户(例如，父母)各自输入其对应的受监督用户的年龄，并与经由设置应用40和设置API 28显示的过滤器进行交互。在交互期间，使监督用户能够在其设备的用户界面中针对被阻止的社交媒体应用修改预定的默认过滤器设置，该过滤器设置以图2B的第二显示110中所示的方式呈现。预定的默认过滤器设置仅基于要对其内容进行过滤的受监督用户的用户指示的年龄，而不是基于任何机器学习算法生成的。使用图5B中阐述的术语和附图标记，所显示的过滤器使用户能够在阻止或取消阻止包括After SchoolTM 324、SnapchatTM 326、TumblerTM328、WhisperTM330、FacebookTM334、InstagramTM336、PinterestTM 338和TwitterTM 340的社交媒体应用之间进行选择。参考图7B，第二年龄分布图700示出了特定年龄的15742名受监督用户的数量，其与编辑用于限制社交媒体应用的默认过滤器设置中的一个或多个设置的15742名监督用户的数量对应。年龄在十二(12)至十七(17)岁之间的受监督用户为15742名受监督用户中的75.3％。
虽然不具有相同的配置或节点数，但是一般而言具有图5B中图形示出的类型的试验人工神经网络以三种单独的方式进行了训练，其中过滤器设置由监督用户选择用作期望的输出或留作默认。在第一训练中，第一数据集被输入到神经网络，包括监督用户的孩子(“受监督用户”)的年龄204、设备类型和制造商206以及监督用户的地理区域208。在第二训练中，第二数据集被输入到神经网络，包括第一训练的输入加上监督用户的性别210、监督用户的孩子数量212、监督用户的收入214以及监督用户选择过滤器设置的时间316(“编辑时间”)。在第三训练中，将第三数据集输入到神经网络，包括第一训练和第二训练的输入加上由用户设备16的监督用户提供的一个过滤器设置(“过滤器编辑”)318，其中过滤器设置318是TwitterTM社交媒体应用340的过滤器设置。通过将第一输入数据集重新输入到由第一训练训练的神经网络并将生成的输出与用户选择的实际过滤器设置进行比较，为每个过滤器设置确定由第一训练训练的神经网络的准确度。通过将第二输入数据集重新输入到由第二训练训练的神经网络并将生成的输出与用户选择的实际过滤器设置进行比较，为每个过滤器设置确定由第二训练训练的神经网络的准确度。通过将第三输入数据集重新输入到由第三训练训练的神经网络并将生成的输出与用户选择的实际过滤器设置进行比较，为每个过滤器设置确定由第三训练训练的神经网络的准确度。将特定过滤器设置的准确度定义为过滤器预测正确的平均次数(即，用户选择的过滤器设置与神经网络输出相同)除以由神经网络对那个过滤器设置的预测总数。
参考图5B、12A和12B，通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-Twitter作为额外输入”)由第三训练训练的神经网络的准确度以及预定的默认设置的准确度针对用于包括After SchoolTM 324、SnapchatTM 326、TumblerTM 328、WhisperTM330、AskfmTM、FacebookTM334、InstagramTM336、PinterestTM338、TwitterTM 340和WishboneTM的社交媒体应用的过滤器在图表610中绘出。图表710和图表710的关键字712示出将包括用于TwitterTM应用的用户选择的过滤器设置的第三输入数据集输入到神经网络会导致针对After SchoolTM 324、SnapchatTM 326、TumblerTM 328、WhisperTM 330、AskfmTM、FacebookTM 334、InstagramTM336、PinterestTM338和WishboneTM的输出，其预测准确度显著高于由于第一和第二输入数据集的输入产生的输出，并且其预测准确度高于预定的默认设置，特别是对于SnapchatTM326。在输入第三数据集时，输入过滤器设置318与用于TwitterTM 340应用的已知输出过滤器设置相同，并且相应地，根据定义，对于“NN-Twitter作为额外输入”，对于TwitterTM340应用的准确度为1.0(即，100％)，如图表710中所示。图12A中绘制的数据表明了一个过程，其中首先使监督用户(例如，父母)能够为一个应用(例如，TwitterTM)选择过滤器设置，然后从中为剩余类别从神经网络生成默认设置，导致准确地预测用户的实际期望过滤器设置的默认设置，从而加快应用初始化过程。
参考图5B、13A-13D和13F-13K的图表以及图13E和13F的图表关键字738，预定的默认设置的准确度以及通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-Twitter作为额外输入”)由第三训练训练的神经网络的准确度针对After SchoolTM 324、SnapchatTM326、TumblerTM328、WhisperTM330、AskfmTM、FacebookTM334、InstagramTM336、PinterestTM338、TwitterTM340和WishboneTM应用的过滤器设置针对被监督用户的年龄分别在图表730、732、734、736、750、752、754、756、758和760中绘出。与由神经网络基于第一、第二和第三输入数据集生成的设置的准确度相比，图表730、734和736示出了预定默认设置的准确度针对17-20岁的受监督用户来说非常低。用于SnapchatTM的图表732示出，与神经网络基于第三输入数据集生成的设置的准确度相比，预定默认设置的准确度相对低，尤其是对于13-16岁的受监督用户。数据示出使用经训练的神经网络生成默认过滤器设置可以提供对预定默认设置的改进，尤其是在使用第三输入数据集训练神经网络的情况下，该第三输入数据集包括用于TwitterTM应用340的过滤器设置作为额外输入。由于在第三输入数据集中(“NN-Twitter作为额外输入”)，用户选择的TwitterTM过滤器设置被输入到神经网络，因此根据定义，预测的TwitterTM过滤器设置和用户选择的TwitterTM过滤器设置是相同的，因此在整个年龄段内，小数准确度为1.0，如图13J的图表758中所示。After SchoolTM324、SnapchatTM326、TumblerTM328、WhisperTM330的预定默认设置会对十六岁(16)或更年轻的受监督用户阻止应用，而对十七岁(17)或更大的用户取消应用的阻止。用于AskfmTM、FacebookTM334、InstagramTM336、PinterestTM338、TwitterTM340和WishboneTM应用的预定默认设置会对十一(11)岁或更年轻的受监督用户阻止应用，并对十二(12)岁或更大的用户取消阻止应用。
参考图5B和图14A-14F的图表以及图14G的图表关键字792，通过使用第一输入数据集(“NN-年龄、区域、电话类型”)由第一训练训练的神经网络、通过使用第二输入集(“NN-所有特征”)由第二训练训练的神经网络以及使用第三输入数据集(“NN-Twitter作为额外输入”)由第三训练训练的神经网络预测阻止各种社交应用的用户的数量，其数据针对AskfmTM、FacebookTM334、InstagramTM336、PinterestTM338、TwitterTM340和WishboneTM应用的过滤器设置在图表780、782、784、784、786、788和790中用实际用户选择的设置和预定的默认设置相对于受监督用户的年龄分别被绘制为总受监督用户的小数。如图所示，每个图表780、782、784、786、788和790中的预定默认过滤器设置对于六(6)至十一(11)岁为“阻止”，因此与1.0的小数对应；而对于年龄十二(12)至二十(20)为“取消阻止”，因此与0.0的小数对应。由于在第三输入数据集中(“NN-Twitter作为额外输入”)，用户选择的TwitterTM应用过滤器设置被输入到神经网络，因此根据定义，预测的TwitterTM应用过滤器设置和用户选择的TwitterTM应用过滤器设置是相同的并且在图14E的图表788中在各个年龄段中均示为相等。
虽然以上以特定组合描述了特征和元件，但是本领域普通技术人员将认识到的是，每个特征或元件可以单独使用或与其它特征和元件以任何组合使用。本文描述的方法可以在计算机可读介质中结合的计算机程序、软件或固件中实现，以供计算机或处理器执行。
虽然以上已经详细描述了实施例，但是这些实施例是非限制性的并且应当被认为仅仅是示例性的。可以开发修改和扩展，并且所有这样的修改都被认为在所附权利要求限定的范围内。

Claims (21)

1.一种内容过滤器设置方法，包括：
使多个用户能够选择特定应用的多个过滤器的多个过滤器设置；
确定所述多个用户选择所述多个过滤器设置中的至少一个过滤器设置的多个时间长度；
从所述多个用户接收所述多个过滤器设置；
接收所述多个用户的多个识别信息；
至少基于所述多个过滤器设置、所述多个用户的所述多个识别信息和所述多个用户选择所述多个过滤器设置中的至少一个过滤器设置的多个时间长度来训练人工神经网络；
使特定用户能够在特定用户设备的用户界面中选择所述特定应用的至少一个特定过滤器的特定设置；
经由所述用户界面从所述特定用户接收所述至少一个特定过滤器的所述特定设置；
确定所述特定用户选择所述至少一个特定过滤器的所述特定设置的特定时间长度；
接收所述特定用户的特定识别信息；
将所述特定设置、所述特定识别信息和所述特定时间长度输入到所述人工神经网络，以生成所述特定应用的所述多个过滤器的多个默认设置；
在所述用户界面中显示所述多个默认设置；以及
使所述特定用户能够经由所述用户界面修改所述默认设置。
2.如权利要求1所述的方法，其中训练所述人工神经网络包括将至少所述多个识别信息输入到所述人工神经网络，并提供所述多个过滤器设置作为所述人工神经网络的预期输出。
3.如权利要求2所述的方法，其中训练所述人工神经网络进一步包括将来自所述多个用户的所述多个过滤器设置的某个设置输入到所述人工神经网络，来自所述多个用户的所述某个设置与来自所述特定用户的所述特定设置对应。
4.如权利要求1所述的方法，进一步包括接收所述多个识别信息作为年龄、设备类型、地理区域或用户性别中的至少一个。
5.如权利要求4所述的方法，进一步包括接收所述特定识别信息作为年龄、设备类型、地理区域或用户性别中的至少一个。
6.如权利要求1所述的方法，进一步包括：
在所述用户界面的第一显示中为所述特定用户启用所述至少一个特定过滤器；以及
在所述用户界面的第二显示中显示所述多个默认设置。
7.如权利要求1所述的方法，进一步包括：
经由所述用户界面从所述特定用户接收所述默认设置的修改；并且
基于从所述特定用户接收的所述默认设置的修改，进一步训练所述人工神经网络。
8.如权利要求1所述的方法，进一步包括：
提供所述特定应用作为在受控设备上可执行的内容控制应用；
从所述特定用户接收所述默认设置的修改；
经由网络通信将来自所述特定用户的所述默认设置的修改应用于在所述受控设备上执行的所述特定应用；并且
基于来自所述特定用户的所述默认设置的所述修改，由所述特定应用控制在所述受控设备上可访问的内容。
9.如权利要求8所述的方法，进一步包括使所述多个用户能够为用于非法毒品内容、暴力内容或性内容中的至少一种的过滤器选择所述多个过滤器设置。
10.如权利要求9所述的方法，其中为所述特定用户设备的所述特定用户启用所述至少一个特定过滤器包括为暴力内容启用暴力过滤器。
11.如权利要求10所述的方法，其中经由所述用户界面从所述特定用户接收所述特定设置包括经由所述用户界面从所述特定用户接收阻止暴力内容的指示。
12.如权利要求1所述的方法，其中训练所述人工神经网络包括：
将所述多个用户的至少所述多个识别信息和来自所述多个用户的某个设置输入到所述人工神经网络，来自所述多个用户的所述某个设置和来自所述特定用户的所述特定设置包括对阻止或取消阻止暴力内容中的至少一个的指示；以及
提供所述多个过滤器设置作为所述人工神经网络的预期输出，所述多个过滤器设置包括对阻止或取消阻止非法毒品内容或性内容中的至少一个的指示。
13.一种内容过滤器设置方法，包括：
使多个用户能够选择特定应用的多个过滤器的多个过滤器设置；
确定所述多个用户选择所述多个过滤器设置中的至少一个过滤器设置的多个时间长度；
从所述多个用户接收所述多个过滤器设置；
接收所述多个用户的多个识别信息；
至少基于所述多个过滤器设置、所述多个用户的所述多个识别信息和所述多个用户选择所述多个过滤器设置中的至少一个过滤器设置的多个时间长度来训练模型；
在应用发起过程期间使特定用户能够在特定用户设备的用户界面中选择特定应用的至少一个特定过滤器的特定设置；
经由所述用户界面从所述特定用户接收所述特定过滤器的所述特定设置；
接收所述特定用户的特定识别信息；
确定所述特定用户选择所述至少一个特定过滤器的所述特定设置的特定时间长度；
至少基于所述特定过滤器的所述特定设置、所述特定用户的所述特定识别信息和所述特定时间长度来应用所述模型，以确定所述特定应用的多个过滤器的多个默认设置；
在所述用户界面中显示所述多个默认设置；以及
经由所述用户界面接收所述默认设置的修改后的设置。
14.如权利要求13所述的方法，进一步包括至少基于所述修改后的设置和所述特定用户的所述识别信息来训练所述模型。
15.如权利要求13所述的方法，其中所述模型包括神经网络，并且应用所述模型包括将所述特定过滤器的所述特定设置和所述识别信息输入到所述神经网络以确定所述多个默认设置。
16.如权利要求13所述的方法，进一步包括：
提供可由某个设备上的处理器执行的所述特定应用；
经由网络通信将来自所述特定用户的所述修改后的设置应用于由所述某个设备上的处理器执行的所述特定应用；以及
由所述处理器基于所述修改后的设置、经所述特定应用控制在所述某个设备上可访问的内容。
17.如权利要求16所述的方法，其中控制所述可访问的内容包括控制在所述某个设备上可执行的软件。
18.一种启用网络的设备控制系统，包括：
服务器，所述服务器包括至少第一处理器以及其上编码有第一指令的至少第一非暂态计算机可读存储介质，所述第一指令在由所述至少第一处理器执行时使所述服务器执行第一过程，包括：
使多个用户能够选择特定应用的多个过滤器的多个过滤器设置；
确定所述多个用户选择所述多个过滤器设置中的至少一个过滤器设置的多个时间长度；
从所述多个用户接收所述多个过滤器设置；
接收所述多个用户的多个识别信息；
至少基于所述多个过滤器设置、所述多个用户的所述多个识别信息和所述多个用户选择所述多个过滤器设置中的至少一个过滤器设置的多个时间长度来训练模型；
使特定用户能够在特定用户设备的用户界面中选择所述特定应用的至少一个特定过滤器的特定设置；
经由所述用户界面从所述特定用户接收所述特定过滤器的所述特定设置；
接收所述特定用户的特定识别信息；
确定所述特定用户选择所述至少一个特定过滤器的所述特定设置的特定时间长度；
至少基于所述特定过滤器的所述特定设置、所述特定用户的所述特定识别信息和所述特定时间长度来应用所述模型，以确定所述特定应用的多个过滤器的多个默认设置；
在所述用户界面中启用所述多个默认设置的显示；
经由所述用户界面接收所述默认设置的修改后的设置；以及
计算设备，所述计算设备包括至少第二处理器以及其上编码有第二指令的至少第二非暂态计算机可读存储介质，所述第二指令在由所述至少第二处理器执行时使所述计算设备执行第二过程，包括：
从所述服务器接收所述修改后的设置的指示；以及
基于所述指示，经由所述特定应用限制在所述计算设备上可访问的数据。
19.如权利要求18所述的启用网络的设备控制系统，其中对数据的限制包括阻止电子消息传递内容。
20.如权利要求18所述的启用网络的设备控制系统，其中对数据的限制包括阻止执行或阻止下载某个应用中的至少一个。
21.一种内容过滤器设置方法，包括：
使多个用户能够选择特定应用的多个过滤器的多个过滤器级别；
使所述多个用户能够选择所述特定应用的所述多个过滤器的多个过滤器设置；
确定所述多个用户选择多个过滤器级别中的一个过滤器级别的时间长度；
从所述多个用户接收所述多个过滤器级别和所述多个过滤器设置；
接收所述多个用户的多个识别信息；
至少基于所述多个过滤器级别、所述多个过滤器设置、所述多个用户的所述多个识别信息和所述多个用户选择所述多个过滤器级别中的所述一个过滤器级别的时间长度来训练人工神经网络；
使特定用户能够在特定用户设备的用户界面中选择所述特定应用的所述多个过滤器的特定过滤器级别；
经由所述用户界面从所述特定用户接收所述特定过滤器级别；
接收所述特定用户的特定识别信息；
确定所述特定用户选择所述特定过滤器级别的时间长度
将所述特定过滤器级别、所述特定识别信息和所述特定时间长度输入到所述人工神经网络，以生成所述特定应用的所述多个过滤器的多个默认设置；
在所述用户界面中显示所述多个默认设置；以及
使所述特定用户能够经由所述用户界面修改所述默认设置。
CN201980060667.1A 2018-09-24 2019-09-23 用于设备控制应用的默认过滤器设置系统和方法 Active CN112703720B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/140,035 US10855836B2 (en) 2018-09-24 2018-09-24 Default filter setting system and method for device control application
US16/140,035 2018-09-24
PCT/US2019/052445 WO2020068676A1 (en) 2018-09-24 2019-09-23 Default filter setting system and method for device control application

Publications (2)

Publication Number Publication Date
CN112703720A CN112703720A (zh) 2021-04-23
CN112703720B true CN112703720B (zh) 2023-01-03

Family

ID=69885090

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980060667.1A Active CN112703720B (zh) 2018-09-24 2019-09-23 用于设备控制应用的默认过滤器设置系统和方法

Country Status (3)

Country Link
US (1) US10855836B2 (zh)
CN (1) CN112703720B (zh)
WO (1) WO2020068676A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10810726B2 (en) * 2019-01-30 2020-10-20 Walmart Apollo, Llc Systems and methods for detecting content in images using neural network architectures
US10922584B2 (en) 2019-01-30 2021-02-16 Walmart Apollo, Llc Systems, methods, and techniques for training neural networks and utilizing the neural networks to detect non-compliant content
CN113692563A (zh) * 2019-06-27 2021-11-23 苹果公司 基于目标观众来修改现有内容
US11758069B2 (en) 2020-01-27 2023-09-12 Walmart Apollo, Llc Systems and methods for identifying non-compliant images using neural network architectures
EP4142212A1 (de) * 2021-08-24 2023-03-01 Siemens Aktiengesellschaft Automatisierungssystem mit mindestens einer komponente mit mindestens einer app und fertigungsanlage
US20230418624A1 (en) * 2022-06-24 2023-12-28 Microsoft Technology Licensing, Llc File opening optimization

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106933996A (zh) * 2017-02-28 2017-07-07 广州大学 一种采用深度特征匹配的推荐方法
CN108174036A (zh) * 2017-12-28 2018-06-15 广东小天才科技有限公司 一种管控应用程序的方法及系统

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8515336B2 (en) * 2006-01-06 2013-08-20 Qualcomm Incorporated Apparatus and methods of selective collection and selective presentation of content
US20130150004A1 (en) * 2006-08-11 2013-06-13 Michael Rosen Method and apparatus for reducing mobile phone usage while driving
US10079931B2 (en) * 2012-07-09 2018-09-18 Eturi Corp. Information throttle that enforces policies for workplace use of electronic devices
US20140344861A1 (en) * 2013-05-14 2014-11-20 Tivo Inc. Method and system for trending media programs for a user
US10353970B2 (en) * 2016-03-26 2019-07-16 Christine Hana Kim Previously-browsed information adaptive filter unit for improvement in functioning of a computer
US20190050710A1 (en) * 2017-08-14 2019-02-14 Midea Group Co., Ltd. Adaptive bit-width reduction for neural networks

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106933996A (zh) * 2017-02-28 2017-07-07 广州大学 一种采用深度特征匹配的推荐方法
CN108174036A (zh) * 2017-12-28 2018-06-15 广东小天才科技有限公司 一种管控应用程序的方法及系统

Also Published As

Publication number Publication date
US10855836B2 (en) 2020-12-01
CN112703720A (zh) 2021-04-23
US20200099783A1 (en) 2020-03-26
WO2020068676A1 (en) 2020-04-02

Similar Documents

Publication Publication Date Title
CN112703720B (zh) 用于设备控制应用的默认过滤器设置系统和方法
US20180255009A1 (en) Emoji recommendation method and apparatus
CN103650466B (zh) 用于无线装置的智能家长控制
US10866978B2 (en) Techniques to respond to user requests using natural-language machine learning based on branching example conversations
CN109862018A (zh) 基于用户访问行为的反爬虫方法及系统
US9049305B2 (en) Granular control system
JP2013511779A (ja) 適応質問および推奨の装置および方法
JP2023512692A (ja) 作品の推奨方法及びサーバー
KR20220025061A (ko) 자동화 메시징을 위한 기술
EP2672448A1 (en) Providing feedback via a social network from a media distribution platform
CN103797760A (zh) 控制移动装置上的文本消息
US20150163674A1 (en) Method for Selectively Exposing Subscriber Data
CN109831532B (zh) 数据分享方法、装置、设备及介质
EP2568427A1 (en) A computer-implemented method for displaying an individual timeline of a user of a social network, computer system and computer readable medium thereof
US11803395B1 (en) Virtual assistant transfer protocol
US8781994B2 (en) Personality / popularity analyzer
CN111898018B (zh) 一种虚拟资源的发送方法、装置、电子设备及存储介质
KR20160138073A (ko) 사용자와의 관리된 대화를 기초로 프로필 생성 및 추천 시 사용자 신뢰를 구축하는 방법 및 시스템
CN102147660B (zh) 一种基于多个用户协同编辑的输入的方法与设备
CN108664799B (zh) 设备管理应用的权限设置方法及装置
US20200008009A1 (en) Mobile location security system
US11004091B2 (en) Method and apparatus for configuring network between users in communication system
US11610192B2 (en) Graphical user interface language localization
US20150163246A1 (en) System and method for activation of personas based on activation parameters related to a multiple-persona mobile technology platform (mtp)
KR101031554B1 (ko) 코드값을 통한 스마트폰 어플리케이션 제공 시스템 및 그 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant