CN108234283B - 检测外部社交媒体消息 - Google Patents

检测外部社交媒体消息 Download PDF

Info

Publication number
CN108234283B
CN108234283B CN201710891991.0A CN201710891991A CN108234283B CN 108234283 B CN108234283 B CN 108234283B CN 201710891991 A CN201710891991 A CN 201710891991A CN 108234283 B CN108234283 B CN 108234283B
Authority
CN
China
Prior art keywords
social media
social
user
media message
server system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710891991.0A
Other languages
English (en)
Other versions
CN108234283A (zh
Inventor
丹尼尔·马丁·凯泽斯
托马斯·德泽莱斯
维克托·克尔布内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of CN108234283A publication Critical patent/CN108234283A/zh
Application granted granted Critical
Publication of CN108234283B publication Critical patent/CN108234283B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/52—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail for supporting social networking services
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • G06N5/025—Extracting rules from data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/01—Social networking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/06—Message adaptation to terminal or network requirements
    • H04L51/063—Content adaptation, e.g. replacement of unsuitable content
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/212—Monitoring or handling of messages using filtering or selective blocking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/216—Handling conversation history, e.g. grouping of messages in sessions or threads
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Business, Economics & Management (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Mathematical Analysis (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Algebra (AREA)
  • Probability & Statistics with Applications (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本申请涉及检测外部社交媒体消息。社交网络服务器系统接收要在社交网络服务器系统张贴的社交媒体消息，该社交媒体消息由社交网络服务器系统的用户编写。在把社交媒体消息张贴于社交网络服务器系统前，社交网络服务器系统至少部分地基于把一个或多个规则应用于社交媒体消息的内容而确定社交媒体消息在社交网络服务器系统张贴后用户将修改其内容的可能性，其中，至少部分地基于用户对用户编写并且张贴在社交网络服务器系统上的在前社交媒体消息采取的在前动作，生成所述一个或多个规则，并且响应确定该可能性超出阈值而生成警告消息。

Description

检测外部社交媒体消息
技术领域
本申请涉及检测外部社交媒体消息。
背景技术
在计算系统上运行的社交媒体网络可以使社交媒体网络的用户张贴可以被社交媒体网络的其他用户查看的社交媒体消息。在张贴社交媒体消息之后，用户以后可以选择删除社交媒体消息或修改社交媒体消息的内容。
发明内容
本公开的各方面涉及用于在计算系统处生成警告，以指示将在社交网络服务器系统上张贴的社交媒体消息的内容可能包括冒犯性或使人难堪的内容，或个人敏感内容，并且使用户能够在其被张贴之前修改或删除该消息，或者以其他方式禁止允许将该消息在社交网络服务器系统上张贴的技术。因为这些技术可能导致社交网络服务器系统禁止张贴用户很可能随后删除的某些消息，所以这些技术会减少社交网络服务器系统对消息的处理量(例如，张贴随后删除的消息)，从而潜在地提高社交网络服务器系统的性能。
一方面，本公开涉及一种方法。该方法包括由社交网络服务器系统接收要在所述社交网络服务器系统的社交媒体消息，所述社交媒体消息由所述社交网络服务器系统的用户编写。该方法进一步包括在把所述社交媒体消息张贴在所述社交网络服务器系统前，所述社交网络服务器系统至少部分地基于把一个或多个规则应用于所述社交媒体消息的内容，确定在所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性，其中，至少部分地基于所述用户对由该用户编写并且在所述社交网络服务器系统上张贴的在前社交媒体消息采取的在前动作，生成所述一个或多个规则；以及响应确定所述可能性超出阈值，所述社交网络服务器系统生成警告消息。
在另一方面，本公开涉及一种社交网络服务器系统。该社交网络服务器系统包括存储器。该社交网络服务器系统进一步包括通信耦合到存储器的至少一个处理器，所述至少一个处理器被配置成接收要在所述社交网络服务器系统张贴的社交媒体消息，所述社交媒体消息由所述社交网络服务器系统的用户编写。在把所述社交媒体消息张贴在所述社交网络服务器系统前，至少一个处理器被配置成：至少部分地基于把存储在存储器中的一个或多个规则应用于所述社交媒体消息的内容，确定在所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性，其中，至少部分地基于所述用户对由所述用户编写并且在所述社交网络服务器系统上张贴的在前社交媒体消息采取的在前动作，生成所述一个或多个规则；以及响应确定所述可能性超出阈值，生成警告消息。
在另一方面，本公开涉及一种编码有指令的非瞬态计算机可读存储介质。当指令被执行时，使计算设备的一个或多个处理器接收要在所述社交网络服务器系统张贴的社交媒体消息，所述社交媒体消息由所述社交网络服务器系统的用户编写。指令进一步使一个或多个处理器在把所述社交媒体消息张贴在所述社交网络服务器系统前：至少部分地基于把一个或多个规则应用于所述社交媒体消息的内容，确定在所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性，其中，至少部分地基于所述用户对由所述用户编写并且在所述社交网络服务器系统上张贴的在前社交媒体消息采取的在前动作，生成所述一个或多个规则；以及响应确定所述可能性超出阈值，生成警告消息。
在附图和下述描述中，阐述一个或多个示例的详情。从描述和附图以及权利要求，其他特征、目的和优点将是显而易见的。
附图说明
图1是示出被配置成发送在示例性社交网络服务器系统处张贴社交媒体消息的请求的示例性计算设备和图形用户界面(GUI)的框图，社交网络服务器系统被配置成根据本公开的一个或多个技术确定编写社交媒体消息的用户是否可能稍后修改社交媒体消息。
图2是示出社交网络服务器系统的一个示例的细节的框图，该社交网络服务器系统被配置成根据本公开的一个或多个技术确定编写社交媒体消息的用户是否可能稍后修改社交媒体消息。
图3是示出社交网络服务器系统的示例性操作的流程图，该社交网络服务器系统被配置成被配置成根据本公开的一个或多个技术确定编写社交媒体消息的用户是否可能稍后修改社交媒体消息。
具体实施方式
图1是框图，示出示例性计算设备2、社交网络服务器系统28和用于向社交网络服务器系统28的社交网络服务32发送张贴社交媒体消息的请求的GUI 12和18，其中，社交网络服务器系统28的社交网络服务32可以被配置成根据本公开的一个或多个技术确定社交媒体消息在被张贴社交网络服务器系统28上后编写该社交媒体消息的用户稍后将修改社交媒体消息的内容的可能性。如图1所示，计算设备2经由网络26与社交网络服务器系统28通信，以使得与由社交网络服务器系统28提供的社交网络服务32交互。用户可以经由与在计算设备2上执行的社交网络应用10A的交互，与社交网络服务32交互，其中，社交网络应用10A可以将内容张贴到社交网络服务32。用户可以通过与用户的社交网络联系人相关联的计算设备来查看在社交网络服务32上张贴的内容。社交网络应用10A可以经由网络26与社交网络服务器系统28的社交网络服务32通信以根据用户与社交网络应用10A的交互，发送和接收数据。
网络26可以是任何公共或专用通信网络，诸如因特网、蜂窝数据网络、电话网络上的拨号调制解调器、专用局域网(LAN)、租用线路或这些通信网络的组合。网络26可以包括一个或多个网络交换机、网络集线器、网络路由器、调制解调器或可操作地互耦合以提供社交网络服务器系统28和计算设备2之间的信息交换的任何其他合适的网络设备。网络26可以是有线网络或无线网络。
计算设备2和社交网络服务器系统28可以使用任何合适的通信技术通过网络26来传送和接收数据。计算设备2和社交网络服务器系统28可以使用各自的网络链路分别操作耦合到网络26。把计算设备2和社交网络服务器系统28耦合到网络26的链路可以包括以太网、异步传输模式(ATM)网络或其他合适类型的有线和/或无线网络连接。
在一些示例中，社交网络服务器系统28可以是诸如计算服务器的单个计算设备。在其他示例中，社交网络服务器系统28可以由用于执行服务器系统的动作(例如，云计算)的多个计算设备或系统来实现。
计算设备2的示例可以包括但不限于便携式、移动或其他设备，诸如移动电话(包括智能电话)、可穿戴设备(包括智能手表)、手提电脑、台式计算机、平板电脑、智能电视平台、个人数字助理(PDAs)、服务器计算机、大型机等。
计算设备2，如图1的示例中所示，包括用户界面(UI)设备4。计算设备2的UI设备4可以被配置为用作计算设备2的输入设备和/或输出设备。UI设备4可以使用各种技术来实现。例如，UI设备4可以被配置为通过触觉、音频和/或视频反馈从用户接收输入。输入设备的示例包括存在敏感显示器、存在敏感或触敏输入设备、鼠标、键盘、语音响应系统、摄像机、麦克风或用于检测来自用户的命令的任何其他类型的设备。在一些示例中，存在敏感显示器包括触摸敏感或存在敏感的输入屏，诸如电阻式触摸屏、表面声波触摸屏、电容式触摸屏、投影电容触摸屏、压敏屏、声学脉冲识别触摸屏或其他存在敏感的技术。即在一些情况下，计算设备2的UI设备4可以包括可以从计算设备2的用户接收触觉输入的存在敏感设备。UI设备4可以通过检测来自用户的一个或多个手势来接收触觉输入的指示(例如，当用户用手指或触控笔触摸或指向UI设备4的一个或多个位置时)。
UI设备4可以附加地或替代地被配置为通过使用触觉、音频或视频刺激向用户提供输出而用作输出设备。输出设备的示例包括声卡、视频图形适配器卡或一个或多个显示设备中的任何一个，诸如液晶显示器(LCD)、点阵显示器、发光二极管(LED)显示器、有机发光二极管(OLED)显示器、电子墨水或能够向计算设备2的用户输出可见信息的类似的单色或彩色显示器。输出设备的另外的示例包括扬声器、阴极射线管(CRT)监视器、液晶显示器(LCD)或可以向用户产生可理解输出的其他设备。例如，UI设备4可以将输出作为与由计算设备2提供的功能相关联的图形用户界面呈现给计算设备2的用户。以这种方式，UI设备4可呈现在计算设备2处或由其访问的应用(例如，电子消息应用，因特网浏览器应用)的各种用户界面。计算设备2的用户可以与应用的各自的用户界面交互，以使计算设备2执行与功能相关的操作。
在一些示例中，计算设备2的UI设备4可以检测二维和/或三维手势作为来自计算设备2的用户的输入。例如，UI设备4的传感器可以在UI设备4的传感器的阈值距离内，检测用户的移动(例如，移动手、手臂、笔、触笔)。UI设备4可以确定移动的二维或三维向量表示，并且将向量表示与具有多个维度的手势输入(例如、手波、捏、拍手、笔画)关联。换句话说，在一些示例中，UI设备4可以检测多维度手势，而不要求用户在UI设备4输出信息来显示的屏幕或表面处或附近做手势。相反，UI设备4可以检测位于或不位于UI设备4输出信息来显示的屏幕或表面附近的传感器处或附近执行的多维手势。
在图1的示例中，计算装置2包括用户界面(UI)模块6和/或应用模块10A-10N(统称为“应用模块10”)。模块6和/或10可以使用驻留在计算设备2内和/或在计算设备2执行的硬件、软件、固件或其混合来执行本文所述的一个或多个操作。计算设备2可以通过一个处理器或多个处理器来执行模块6和/或10。在一些示例中，计算设备2可以把模块6和/或10作为在底层硬件上执行的虚拟机来执行。模块6和/或10可以作为操作系统或计算平台的一个或多个服务来执行，或者可以作为计算平台的应用层的一个或多个可执行程序来执行。
UI模块6，如图1的示例中所示，可以由计算设备2执行以实现一个或多个功能，诸如接收输入并且将该输入的指示发送到与计算设备2相关联的其他组件，诸如模块10。UI模块6还可以从与计算设备2相关联的组件，诸如模块110接收数据。使用所接收的数据，UI模块6可以使与计算设备2相关联的其他组件，诸如UI设备4基于所接收的数据来提供输出。例如，UI模块6可以从应用模块10中的一个接收数据以显示GUI。
应用模块110，如图1的示例所示，可以包括在计算设备2上执行各种操作的功能。例如，应用模块110可以包括字处理器、电子邮件应用、聊天应用、消息应用、社交网络应用、Web浏览器、多媒体播放器、日历应用、操作系统、分布式计算应用、图形设计应用、视频编辑应用、Web开发应用或任何其他应用。在一些示例中，应用模块110中的一个或多个可以用来与由社交网络服务器系统28提供的社交网络服务32交互。
例如，应用模块110中的一个(例如网络应用10A)可以是社交网络应用10A。社交网络应用10A可以是在计算设备2上执行的、能够与由社交网络服务器系统28提供的社交网络服务32交互的任何应用或过程。社交网络应用10A的示例包括app(例如，智能电话上的社交网络app)、Web浏览器、微件、系统级进程等。
社交网络应用10A可以包括与由社交网络服务器系统28提供的社交网络服务32交互的功能。这类功能可以包括编写社交媒体消息并且将其张贴到社交网络服务32、接收由社交网络服务32的其他用户张贴的社交媒体消息、响应由社交网络服务32的其他张贴的社交媒体消息等的能力。社交媒体消息可以是由用户张贴在社交网络服务32上以由社交网络服务32的其他用户查看或以其他方式消费的内容。这些内容可以包括文本、图像、视频、音频、动画、Web链接、图标、表情符号等的任意组合。社交媒体消息的示例可以包括包含可以张贴地社交网络服务32上并且可由社交网络服务32的一个或多个其他用户查看的文本内容和/或视听内容的消息、状态更新、对由社交网络服务32的其他用户张贴的社交媒体消息的评论、张贴到社会饭店评论网站的餐厅评论等。
的图1的示例中，社交网络应用10A可以用来接收由向社交网络服务32张贴的计算设备2的用户编写或以其他方式生成或包括的内容。社交网络应用10A可使计算设备2的一个或多个其他组件输出GUI(如用于向计算设备2的用户显示)，用户可以与该GUI交互以输入或以其他方式提供张贴到社交网络服务32的内容。即社交网络应用10A可以把数据发送到UI模块6以使UI设备4显示GUI 12。
GUI 12可以是在计算设备2处执行的社交网络应用10A的图形用户界面。如图1所示，GUI 12可以包括内容区13、受众选择器15和张贴按钮16。内容区13可以是GUI 12内的区域，在该区域中，用户可以输入或编写诸如文本、图像、视频等的内容14以编写将被张贴到社交网络服务32的、包含内容14的社交媒体消息。
受众选择器15可以是微件(widget)或GUI控件，使用户选择该社交媒体消息的预期受众。预期受众可以表示当该社交媒体消息被张贴到社交网络服务32时，该社交媒体消息对其可见的社交网络服务32的用户。在图1的示例中，用户可以利用受众选择器15来在预期受众“只有自己”、“好友”、“同事”和“所有人”间选择。预期受众“只有自己”可以仅包括张贴该社交媒体消息的用户。预期受众“所有人”可以包括社交网络服务32的每一用户。由此，如果用户经由受众选择器15选择“只有自己”，社交媒体消息当在社交网络服务32上被查看时，可以仅对该用户可见。此外，如果用户经由受众选择器15选择“所有人”，当在社交网络服务32上被查看时，该社交媒体消息对社交网络服务32的每一用户可见。
预期受众“好友”和“同事”可以分别包括社交网络服务32的不同用户组。例如，用户可以选择组成预期受众“好友”和“同事”的社交网络服务32的用户。在一些示例中，可以有同时属于“好友”和“同事”的社交网络服务32的一个或多个用户。在一些示例中，可以有属于“好友”和“同事”中的仅一个的社交网络服务32的一个或多个用户。在一些示例中，可以有不属于“好友”或“同事”的社交网络服务32的一个或多个用户。图1所示的预期受众仅是社交网络服务32的用户组的一些非穷举示例，以及在其他示例中，用户可以在社交网络服务32的其他、不同用户组中选择，作为社交媒体消息的预期受众。
GUI 12可以包括比图1所示更多的元件或更少的元件。例如，计算设备2可以经由在GUI 12中的图形键盘处，由用户提供的输入，接收文本输入的指示以形成将被张贴到社交网络服务32的社交媒体消息的内容14的文本部分。类似地，计算设备2可以接收指示计算设备选择图像、视频、音频文件等以包括在社交媒体消息的内容14中的输入的指示。同样地，用户可以与GUI 12交互以输入要被张贴到社交网络服务32的社交媒体消息的内容14。
在图1的示例中，用户编写或以其他方式输入可能使人难堪或冒犯性的内容，作为社交媒体消息的内容14。社交媒体消息可以是由用户建立的、经由社交网络服务32共享的任何内容。社交媒体消息的示例可以包括社交媒体更新、其他用户张贴的社交媒体更新的评论、对社交网络服务32处的其他用户的评论所做的答复、餐馆评论、位置签到(locationcheck-ins)等。如上所述，社交媒体消息的内容14可以包括文本、图像、视频等。在示例中，用户已经使用受众选择器15来把预期受众“好友”选择为该社交媒体消息的预期受众。
计算设备2可以接收指示计算设备2把内容14张贴到社交网络服务32的输入的指示。为此，用户可以选择张贴按钮16。例如，计算设备2的用户可以在UI设备4处执行输入17来点击或以其他方式张贴按钮16。UI设备4可以检测输入17并且把输入的指示发送到UI模块6。UI模块6可以基于所接收的指示，把数据提供给社交网络应用10A，以及社交网络应用10A可以确定输入17对应于张贴按钮16的选择。
响应接收表示用户选择张贴按钮16的数据(例如输入17的指示)，社交网络应用10A可以经由网络26，与社交网络服务器系统28通信来将包括内容14的社交媒体消息张贴到社交网络服务32的请求发送到社交网络服务器系统28。社交网络应用10A可以将数据，诸如社交媒体消息的内容14的指示和与社交媒体消息相关联的环境信息的指示传送到社交网络服务器系统28的社交网络服务32，作为请求的一部分。这种环境信息可以包括但不限于正尝试张贴社交媒体消息的用户的指示、用户正尝试张贴社交媒体消息的时间和日期的指示、用户的地理位置的指示、用户正尝试从其张贴社交媒体消息的计算设备2的指示、社交媒体消息的预期受众的指示、计算设备2推断用户正参与的活动的指示等。
如图1所示，社交网络服务器系统28可以包括规则模块30和社交网络服务32。社交网络服务器系统28可以通过网络26，从计算设备2的社交网络应用10A接收张贴社交媒体消息的请求。在社交网络服务32处张贴社交媒体消息前，社交网络服务32可以利用规则模块30来把一个或多个规则应用于被包括作为请求的一部分的社交媒体消息的内容14以确定是否生成并发送警告给计算设备2，以向用户告警，该社交媒体消息可能包括冒犯性或使人难堪的内容、个人敏感内容等。
为确定是否生成警告并且发送到计算设备2，以向用户告警该社交媒体消息可能潜在地包括冒犯性、使人难堪的或个人敏感内容，社交网络服务32可以确定社交媒体消息在社交网络服务32张贴后用户修改该社交媒体消息的内容14的可能性。修改社交媒体消息的内容14可以包括编辑内容14以消除被视为包括冒犯性、使人难堪或个人敏感内容的内容14的一些部分(但不是全部)、编辑内容14以用另外的内容替代内容14的那些部分(例如，用不同句子替代社交媒体消息中的句子或用不同图像替代社交媒体消息中的图像)，或删除社交媒体消息14。由此，修改社交媒体消息可以包括编辑内容14以替代内容14的至少一部分或删除社交媒体消息。
如果社交媒体消息包含例如冒犯性、使人难堪或以其他方式对用户负面评价的内容14，在张贴社交媒体消息后，用户很可能修改所张贴的社交媒体消息，或编辑社交媒体消息以消除或替代内容14的这些冒犯性或使人难堪的部分。由此，作为确定社交媒体消息是否包含可能冒犯性、使人难堪或以其他方式对用户负面评价的内容14，或社交媒体消息是否包含用户不希望使社交网络服务32的其他用户公开获得的个人敏感信息(例如信用卡号、社会安全号、密码等)的替代，社交网络服务32可以在张贴社交媒体消息前确定在把社交媒体消息张贴到社交网络服务32后用户修改该社交媒体消息的内容14的可能性。
为此，社交网络服务32可以利用规则模块30对照规则集分析社交媒体消息。规则集可以规定指示在社交媒体消息被张贴到社交网络服务32后这些社交媒体消息很可能被社交媒体消息的作者修改(例如删除)的社交媒体消息的特性。
规则集可以规定可指示在社交媒体消息被张贴到社交网络服务32后这些社交媒体消息很可能被删除的社交媒体消息的内容(例如内容14)的特性。例如，如果社交媒体消息的内容包括某些词(例如，脏话)，或包括图片的像素的至少90％具有人裸体的颜色的图片，那么这些特性可以表示该社交媒体消息被张贴到社交网络服务32后，相对更可能被修改。
除社交媒体消息的内容的特性外，规则集还可以规定可表示在社交媒体消息被张贴到社交网络服务32后这些社交媒体消息很可能被修改的不同于社交媒体的内容特性的社交媒体消息的特性。社交媒体消息的这些特性可以包括编写社交媒体消息的时间、编写社交媒体消息的计算设备2的地理位置等。例如，如果社交网络服务32接收到张贴午夜和晨8:00时之间编写的社交媒体消息的请求，并且如果编写社交媒体消息的计算设备的地理位置对应于酒吧或夜店，那么这些特性可能表示该社交媒体消息相对更可能在被张贴后将被修改。
在一些示例中，应用于社交媒体消息以确定社交媒体消息在社交网络服务32张贴后用户将修改该社交媒体消息的内容的可能性的规则至少部分取决于社交媒体消息的预期受众。例如，如果预期受众仅包括编写该社交媒体消息的用户，规则模块30可以不应用任何规则并且可以不确定社交媒体消息在社交网络服务32张贴后用户是否修改其内容14。在另一示例中，如果预期受众包括被认为是用户好友的用户，规则模块30将禁止把有关脏话的规则应用于社交网络服务32的内容14。相反，如果预期受众包括被认为是用户的同事的用户，规则模块30把有关脏话的规则应用于社交网络服务32的内容14。由此，被应用于社交媒体消息的规则集可以至少部分取决于社交媒体消息的预期受众。
能以若干方式生成规则模块30可应用于社交媒体消息的规则集。规则集可以包括诸如由社交网络服务32的管理员或这些规则的任何适当作者手动编写的一个或多个规则。社交网络服务32的管理员或其他适当作者可以通过指定表示相对更可能删除社交媒体消息的社交媒体消息的特性(例如指定包括在内容中的词或短语)来编写规则。
规则集还可以包括规则模块30基于编写社交媒体消息的用户的先前动作生成的一个或多个规则。社交网络服务32可以基于被张贴然后被用户修改的先前的社交媒体消息，生成一个或多个规则。例如，规则模块30可以在那些先前的社交媒体消息上执行机器学习来学习向规则模块30告知或指示用户非常可能修改社交媒体消息的那些先前的社交媒体消息的共同特性。如上所述，作为确定社交媒体消息包含可能冒犯性、使人难堪或以其他方式对用户负面评价的内容14的替代，社交网络服务32可以确定在社交媒体消息张贴到社交网络服务32后用户将修改社交媒体消息的内容14的可能性。由此，通过分析被用户张贴然后修改的社交媒体消息的集合，规则模块30能够确定这些帖子的共同特性，这些特性向规则模块30告知或指示用户非常可能在张贴后修改具有这些共同特性的至少一些的社交媒体消息。
规则模块30可以把机器学习用在由用户张贴然后删除的社交媒体消息的集合上，以基于这些社交媒体消息训练模型。以这种方式，规则模块30可以确定那些先前张贴然后修改的社交媒体消息的共同特性并且基于如由规则模块30确定的那些共同特性来生成规则。规则模块30可以将社交媒体消息输入到机器训练模型中，并且作为响应，机器训练模型可以输出在社交媒体消息在社交网络服务32上张贴后用户将修改其内容14的可能性。
规则模块30使用的规则集还可以包括规则模块30基于被张贴然后由社交网络服务32的多个用户修改的社交媒体消息而生成的一个或多个规则。在该示例中，不是仅分析被张贴然后由单个用户修改的社交媒体消息的集合，规则模块30可以将机器学习用在被张贴然后由社交网络服务32的多个用户的每个修改的社交媒体消息的集合上以确定那些先前张贴且稍后修改的社交媒体消息的共同特性，并且基于如由规则模块30确定的那些共同特性来生成规则。被张贴且稍后由社交网络服务32的用户修改的社交媒体消息还可以包括由用户编写的、先前确定包括潜在冒犯性、使人难堪或以其他方式对一个或多个用户负面评价的内容的社交媒体消息，根据该确定，一个或多个用户决定不张贴到社交网络服务32。
规则模块30至少部分基于将规则集应用于社交媒体消息，生成用于社交媒体消息的得分。这种得分可以对应于用户在张贴帖子后将修改该帖子的内容的可能性。如果用于社交媒体消息的得分超出可能性阈值，则社交网络服务32可以确定用户在张贴帖子后将修改该帖子的内容的可能性超出该可能性阈值。
在规则指定脏话集的示例中，如果社交媒体消息的内容14包含由规则指定的脏话集中的仅一个脏话，规则模块30可以对该社交媒体消息生成超出可能性阈值的得分。在另一示例中，如果社交媒体消息的内容14包括由规则指定的脏话集中的仅一个脏话，规则模块30可以对该社交媒体消息生成不超出可能性阈值的得分，但如果社交媒体消息的内容14包括由规则指定的脏话集中的超出预定数目的脏话，则会对该社交媒体消息生成超出可能性阈值的得分。在其他示例中，规则模块30可以应用规则集以生成用于社交媒体消息的各个得分，其中，应用单个规则生成的得分不超出可能性阈值，但将来自规则集的多个规则应用于社交媒体消息所得的累计得分超出可能性阈值。应理解到，上述示例仅是基于应用规则集，确定社交媒体消息的得分的一些可能的方法，把规则集应用于社交媒体消息以生成社交媒体消息的得分的任何其他适当的技术同样适用。
响应确定用户将修改社交媒体消息的内容的可能性超过阈值，社交网络服务32可以禁止社交媒体消息在社交网络服务32上张贴并且可以生成警告消息。警告消息可以表明社交网络服务32已经确定社交媒体消息在社交网络服务32张贴后用户将修改社交其内容的可能性超出可能性阈值。在一些示例中，警告消息可以标识社交媒体消息。警告消息也可以标识社交网络服务32已经识别为包含可能使人难堪、冒犯人和/或个人敏感内容的内容14的特定内容。
社交网络服务32可以将警告消息的指示经由网络26传送到在计算设备2处执行的社交网络应用10A。响应从社交网络服务32接收警告消息的指示，社交网络应用10A可以通过输出通知、消息等以显示，将警告消息告知用户。社交网络应用10A可以使计算设备2中的一个或多个组件输出表示社交网络应用10A已经从社交网络服务32接收到这种警告的通知、消息等(例如以显示给计算设备2的用户)。社交网络应用10A可以将数据发送到UI模块6以使UI设备4显示GUI 18。如图1的示例中所示，GUI 18包括向计算设备2的用户表明用户尝试张贴到社交网络服务32的社交媒体消息可能包含潜在的使人难堪或冒犯性的内容的消息20。在一些示例中，消息20还可以识别社交网络服务32已经被识别为包含可能使人难堪或冒犯性内容的内容14的特定部分。
社交网络应用10A还将数据发送到UI模块6以使UI设备4显示“张贴”按钮22和“不张贴”按钮24。如果UI设备4检测到选择“张贴”按钮22的输入，基于所接收的指示，UI模块6可以将数据提供给社交网络应用10A，并且社交网络应用10A可以确定UI设备4检测的输入对应于选择“张贴”按钮22。响应接收表示用户已经选择“张贴”按钮22的数据，社交网络应用10A可以经由网络26，与社交网络服务器系统28通信以发送用户希望将社交媒体消息张贴到社交网络服务32的确认。
如果UI设备4检测到选择“不张贴”按钮24的输入，基于接收的指示，UI模块6可以将数据提供给社交网络应用10A。并且社交网络应用10A可以确定由UI设备4检测的输入对应于选择“不张贴”按钮24。响应接收到表示用户已经选择“不张贴”按钮24的数据，社交网络应用10A可以经由网络26与社交网络服务器系统28通信以发送用户想禁止把社交媒体消息张贴到社交网络服务32的确认。
替选地，响应接收到表示用户已经选择“不张贴”按钮24的数据，社交网络应用10A可以禁止与社交网络服务32关于社交媒体消息的进一步通信。例如，社交网络应用10A可以删除社交媒体消息或可以保存社交媒体消息(诸如保存到草稿文件夹中)以便用户稍后考虑是否张贴该社交媒体消息。
此外，响应接收到表示用户已经选择“不张贴”按钮24的数据，社交网络应用10A还可以为用户提供编辑社交媒体消息以删除或修改社交网络服务32已经识别为具有潜在使人难堪或冒犯性内容的内容14的部分的机会。如果社交网络应用10A从社交网络服务32接收到把内容14的一部分识别为包含可能使人难堪或冒犯性内容的警告，社交网络应用10A可以高亮内容14的这些被识别的部分。例如，社交网络应用10A可以把数据发送到UI模块6以使UI设备4可视地强调(例如可视地高亮)内容14的这些部分。
通过确定用户正尝试把社交媒体消息张贴到社交网络服务(例如，社交网络服务32)上，其中，在该社交媒体消息被张贴到社交网络服务后用户可能删除或以其他方式修改它，并且通过生成把该确定通知用户的警告，本文所述的技术会减少执行社交网络服务的计算机系统(例如社交网络服务器系统28)所需的处理量。例如，本文的技术会减少被张贴到社交网络服务上的外部社交媒体消息的数量，由此减少计算机系统张贴社交媒体消息并且通过社交网络传播社交媒体消息所需的处理量。本文的技术还减少了计算机系统处理删除这些外部社交媒体消息所需的处理量。同样地，本文公开的技术会潜在在提高在计算机系统处执行的社交网络服务的性能。
此外，本文公开的技术包括把规则集应用于社交媒体消息的内容，以确定该社交媒体消息被张贴到社交网络服务后用户是否可能删除或以其他方式修改。通过基于用户已张贴然后删除的在前社交媒体消息生成一个或多个规则，本文公开的技术可以更准确地识别在被张贴到社交网络服务后很可能被删除的那些社交媒体消息。通过更准确地识别在被张贴到社交网络服务后很可能被删除或以其他方式修改的那些社交媒体消息，社交网络服务可能潜在地减少因错误肯定而生成并且在网络上发送的警告数，以及在网络上接收的删除那些社交媒体消息的请求数，由此减少网络(例如网络26)上的流量。
此外，通过识别在被张贴到社交网络服务后很可能被删除或以其他方式修改的那些社交媒体消息，本文公开的技术可以使编写那些被识别社交媒体消息的用户避免把那些社交媒体消息张贴到社交网络服务。通过不张贴被识别为在张贴后很可能被删除或以其他方式修改的那些社交媒体消息，用户不必进一步与社交网络应用(例如社交网络应用10A)交互来删除那些社交媒体消息。通过潜在地减少用户必须与社交网络应用交互的次数，本文公开的技术可以使执行社交网络应用的计算设备(例如计算设备2)减少执行社交网络应用花费的处理周期的数量，因此，降低其用电。如果计算设备是主要利用电池电力的移动计算设备，这种用电保护会非常有益。同样地，本文公开的技术可以以各种方式提高计算机计算机系统本身(例如社交网络服务器系统28，计算设备2)的功能。
图2是框图，示出被配置成根据本公开的一个或多个技术确定编写社交媒体消息的用户很可能稍后修改该社交媒体消息的社交网络服务器系统28的一个示例的详情。在下文中，在图1的环境下描述图2。图2仅示出社交网络服务器系统28的一个具体示例，以及具有更多、更少或不同组件的许多其他示例也可以被配置成执行根据本公开的技术的操作。
当显示为图2的示例中的单个设备的一部分时，在一些示例中，社交网络服务器系统28的组件可以位于不同设备内和/或作为其一部分。例如，在一些示例中，社交网络服务器系统28可以表示“云”计算系统。由此，在这些示例中，图2中所示的模块可以跨多个计算设备。在一些示例中，社交网络服务器系统28可以表示组成用于“云”计算系统的服务器集群的多个服务器中的一个。
如图2的示例中所示，社交网络服务器系统28包括一个或多个处理器40、一个或多个通信单元42和一个或多个存储设备46。存储设备46进一步包括社交网络服务32、规则模块30、社交网络数据存储区50A和规则数据存储区50B。在图2的示例中，规则模块30包括训练模块48。
组件40,42和46的每一个可以互连(物理、通信和/或操作地)以使组件间通信。在图2的示例中，组件40,42和46可以由一个或多个通信信道44耦合。在一些示例中，通信信道44可以包括系统总线、网络连接、进程间通信数据结构或用于传送数据的任何其他信道。社交网络服务32、规则模块30和训练模块48也可以相互以及与计算设备2中的其他组件通信。
在图2的示例中，一个或多个处理器40可以实现社交网络服务器系统28内的功能和/或执行其内的指令。例如，一个或多个处理器40可以接收和执行存储设备46存储的指令，这些指令执行模块30和48以及社交网络服务32的功能。由一个或多个处理器40执行的这些指令可以使社交网络服务器系统28在执行期间把信息存储在存储设备46内。一个或多个处理器40可以执行模块30和48以及社交网络服务32的指令以确定用户在社交媒体消息在社交网络服务器系统张贴后用户想修改其内容的可能性。即模块30和48以及社交网络服务32可由一个或多个处理器40操作以执行本文所述的社交网络服务器系统28的各种动作或功能。
在图2的示例中，一个或多个通信单元42可以用来通过在一个或多个网络上传送和/或接收网络信号，经由一个或多个网络(例如网络26)，与外部设备(例如计算设备2)通信。例如，社交网络服务器系统28可以使用存储设备46在无线电网络——诸如蜂窝无线电网络——上传送和/或接收无线电信号。同样地，通信单元42可以在卫星网络，诸如全球定位系统(GPS)网络上传送和/或接收卫星信号。通信单元42的示例包括网络接口卡(例如诸如以太网卡)、光收发器、射频收发器或能发送和/或接收信息的任何其他类型的设备。通信单元42的其他示例可以包括近场通信(NFC)单元、
Figure BDA0001421419120000181
无线电、短波无线电、蜂窝数据无线电、无线网络(例如，
Figure BDA0001421419120000182
)无线电和通用串行总线(USB)控制器。
在图2的示例中，一个或多个存储设备46可以用来在社交网络服务器系统28的操作期间存储信息以用于处理。在一些示例中，存储设备46可以表示临时存储器，是指存储设备46的主要目的不是长期存储。例如，社交网络服务器系统28的550可以是易失性存储器，被配置成短期存储信息，因此，如果断电，则不保留所存储的内容。易失性存储器的示例包括随机存取存储器(RAM)、动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)和本领域已知的其他形式的易失性存储器。
在一些示例中，存储设备46还表示一个或多个计算机可读存储介质。即存储设备46可以被配置成存储比临时存储器更多的信息量。例如，存储设备46可以包括在通电/断电周期保留信息的非易失性存储器。非易失性存储器的示例包括包括磁性硬盘、光盘、软盘、闪存或电可编程存储器(EPROM)或电可擦除可编程(EEPROM)存储器的形式。在任何情况下，在图2的示例中，存储设备46可以存储与模块30和48以及社交网络服务32相关联的程序指令和/或数据。
在图2的示例中，社交网络服务器系统28接收把社交媒体消息张贴到社交网络服务32的请求。例如，通信单元42中的一个可以经由网络26(如无线网络或蜂窝网络)，从计算设备2接收数据。通信单元42可以将所接收的数据提供给被指定处理所接收数据的一个或多个应用模块10，诸如社交网络服务器系统28。
接收的数据可以包括社交媒体消息的指示和与社交媒体消息相关联的环境数据的指示。社交媒体消息的指示可以包括社交媒体消息的内容14的指示，其可以包括文本内容、视听内容等。在一些示例中，社交媒体消息的指示可以是在社交网络服务32张贴的社交媒体消息。与社交媒体消息相关联的环境数据的指示可以包括社交媒体消息的作者(即用户)的指示、社交媒体消息的预期受众的指示、该社交媒体消息源自的计算设备的地理位置、当用户编写或发送社交媒体消息时的推断的用户活动、用户编写或发送社交媒体消息的时间等。
社交网络服务32可以接收社交媒体消息的指示并且可以在把社交媒体消息张贴在社交网络服务32前，利用规则模块30来确定是否产生表示社交媒体消息的内容14在社交网络服务32张贴后可能被用户(例如社交媒体消息的作者)修改的警告消息。如果规则模块30确定社交媒体消息在社交网络服务32张贴后用户会修改其内容的可能性超出特定阈值，则社交网络服务32会禁止张贴社交媒体消息并且可以生成将被发送到社交媒体消息源自的计算设备(例如计算设备2)的警告消息以警告用户社交媒体消息可能包括冒犯性、使人难堪或个人敏感内容，使得用户可以选择禁止该社交媒体消息在社交网络服务32上张贴。
如果规则模块30确定社交媒体消息在社交网络服务32张贴后用户将修改其内容的可能性不超出特定阈值，那么，社交网络服务32可以把社交媒体消息张贴在社交网络服务32上。替选地，如果社交网络服务32在生成被发送到社交媒体消息源自的计算设备的警告消息后，从社交媒体消息源自的计算设备接收张贴社交媒体消息的请求的确认的指示，那么，社交网络服务32也可以把社交媒体消息张贴在社交网络服务32上。
张贴社交媒体消息，社交网络服务32可以包括处理社交媒体消息以使社交媒体消息可被作为社交媒体消息预期受众的成员的社交网络服务32的用户查看。社交网络服务32可以把社交媒体消息存储在社交网络数据存储区50A中，作为与编写该消息的用户、修改社交媒体消息的查看权限相关联的社交媒体消息，使得仅可由作为该社交媒体消息的预期受众的成员的用户查看等。以这种方式，社交媒体消息被添加到社交网络服务32中的用户的社交消息馈送或时间线，并且可用于由预期受众在社交网络服务32查看。
修改社交媒体消息可以包括编辑社交媒体消息的内容14的至少一部分。修改社交媒体消息还可以包括从社交网络服务32删除社交媒体消息。删除社交媒体消息可以包括从社交网络服务32移除社交媒体消息的动作和使社交媒体消息对社交网络服务32的其他用户不可见的动作。
规则模块30可以对照规则数据存储区50B中存储的规则集来分析社交媒体消息，以确定社交媒体消息在社交网络服务32张贴后编写该消息的用户将修改其内容的可能性。规则集可以指定可表示社交媒体消息在被张贴到社交网络服务32后更可能被用户修改的社交媒体消息的特性。
在一些示例中，规则集可以包括关于可被包括在社交媒体消息中的任何文本内容的规则，使得规则模块30可以至少部分基于社交媒体消息的文本内容确定可能性。规则可以指定潜在冒犯性、使人难堪的词或短语或以其他方式对这些词或短语的作者负面的评价。这些单词或短语可以包括例如例如脏词语或短语、可能仇恨或有害的词或短语、可能种族主义和/或性别歧视的词和短语等。词或短语也可以是不应当可用于由其他人查看的用户的个人信息。这些词或短语的示例包括信用卡号、社会安全号、可能密码等。在一些示例中，规则模块30可以对由规则指定的词或短语指定得分。这些得分可以对应于用户很可能修改包括相关词或短语或修改社交媒体消息以删除相关词或短语的社交媒体消息的概率。
规则模块30可以把这些规则应用到社交媒体消息的内容14以确定社交媒体消息的文本内容是否包含由这些规则指定的词、短语或其他文本的任何一个。在一些示例中，规则模块30可以至少部分地基于匹配由规则指定的词和短语，对社交媒体消息评分。规则模块30可以基于由规则指定的社交媒体消息中的词或短语的相关得分，对社交媒体消息评分。
在一些示例中，规则集可以包括有关可包括在社交媒体消息中的任何媒体内容(例如图像、视频和音频)的规则。规则可以指定可能个人敏感或可能冒犯性、使人难堪或以其他方式使对这些内容包括在他们的社交媒体消息中的用户负面评价的媒体内容的特性。例如，如果图像的像素的90％以上为裸体色，规则可以指定认为图像是冒犯性或使人难堪。如果音频片段包括音频脏词或短语，另一示例规则可以指定音频片段被视为冒犯性或使人难堪。
规则模块30可以把这些规则应用到社交媒体消息的内容14，以确定包括在社交媒体消息中的媒体内容是否包含由这些规则指定的这些特性的任何一个。在一些示例中，规则模块30可以至少部分基于匹配由规则指定的特性，对社交媒体消息评分。规则模块30可以基于由规则指定的社交媒体消息中的媒体内容的特性的相关得分，对社交媒体消息评分。
在一些示例中，规则集还可以包括有关与社交媒体消息相关联的环境信息的规则，诸如编写社交媒体消息的时间、编写社交媒体消息时的用户的位置等。例如，规则可以结合与社交媒体消息相关联的环境信息和内容或社交媒体消息的内容的特性，从而对社交媒体消息在被张贴后用户很可能修改它的可能性评分。例如，规则可以与对应于如果用户在午夜和晨7时之间编写社交媒体消息，如果用户在酒吧，以及如果社交媒体消息包括图像的像素的90％以上为裸体色的图像，则有用户修改社交媒体消息的高概率，与相对高评分相关联。
规则模块30可以用多种方式生成被应用于社交网络服务32的用户编写或生成的社交媒体消息的规则集。在一个示例中，社交网络服务32的管理员可以手动地生成规则集中的一个或多个规则。例如，管理员可以手动地创建冒犯性、使人难堪或以其他方式破坏社交网络服务32的服务条款的黑名单。管理员可以类似地手动创建检测色情或非法图像和视频内容的规则。
在这些示例中，如果规则模块30确定社交媒体消息包括列入黑名单的词或短语中的一个，或如果社交媒体消息包括这些图像或视频内容，规则模块30可以确定编写社交媒体消息的用户在该消息在社交网络服务32张贴后想删除或以其他方式修改该消息的内容的可能性超出阈值，并且生成将被发送到用户的计算设备的警告消息。在一些示例中，社交网络服务32将阻止这些社交媒体消息在社交网络服务32上张贴，除非从社交媒体消息移除违规内容。
在一些示例中，规则模块30可以至少部分地基于如由用户指定的社交媒体消息的预期受众，确定应用于社交媒体消息的规则集，因为社交媒体消息的某些内容对一个用户集看来可能是使人难堪或冒犯性的，而对另一不同的用户集看来则可能不是使人难堪或冒犯性的。在一个示例中，如果社交媒体消息的预期受众包括认为是社交媒体消息的作者的密友的用户，则规则模块30可以避免把指定脏话的规则应用于社交媒体消息。在这种情况下，如果社交媒体消息的内容包含由那些规则指定的脏话的话，规则模块30不会增加编写消息的用户在将其张贴在社交网络服务32后将修改该社交媒体消息的内容的可能性。相反，如果社交媒体消息的预期受众包括被认为是社交媒体消息的作者的同事的用户，规则模块30可以将指定脏话的那些规则应用于社交媒体消息。由此，是否将规则应用于社交媒体消息还取决于社交媒体消息的预期受众。在一些示例中，规则集的每一个可以与一个或多个预期受众的集合相关联，使得规则集的每一个仅被应用于与各个规则相关联的一个或多个预期受众中的至少一个可查看的社交媒体消息。
在一个示例中，规则模块30可以至少部分地基于与社交网络服务32交互的用户的先前行为，诸如由用户对由该用户编写并且在社交网络服务32张贴的先前的社交媒体消息采取的先前动作，生成用于用户的规则集中的一个或多个规则。由用户采取的先前动作可以包括修改先前社交媒体消息的内容或删除先前的社交媒体消息。规则模块30可以至少部分地基于用户先前张贴在社交网络服务32然后被修改或删除的社交媒体消息，生成用于用户的规则集中的一个或多个规则。规则模块30可以基于那些先前张贴的社交媒体消息的内容、与社交媒体消息有关的环境信息，诸如用户写作或张贴社交媒体消息时用户的位置、当写作或张贴社交媒体消息时用户参与的活动等，生成这样的一个或多个规则。
在一些示例中，规则模块30可以至少部分基于在社交网络服务32张贴然后在张贴各先前社交媒体消息后的时间帧内由用户删除的先前社交媒体消息，生成用于用户的规则集中的一个或多个规则。如果用户在把社交媒体消息张贴到社交网络服务32后不久修改社交媒体消息，很可能社交媒体消息包含使人难堪、冒犯性或个人敏感的内容。另一方面，如果在把社交媒体消息张贴到社交网络服务32多年以后用户修改社交媒体消息时，用户修改该社交媒体消息更可能是由于除可能包含使人难堪、冒犯性或个人敏感的内容之外的原因。由此，在一些示例中，用户修改先前社交媒体消息内的时间帧可以是一天、8小时、1小时等，以及规则模块30可以至少部分基于在社交网络服务32张贴然后在特定时间帧内由用户删除的先前社交媒体消息，生成用于用户的规则集中的一个或多个规则。
用户的历史的这种日志被存储在社交网络数据存储区50A中。在社交网络数据存储区50A中，用户的历史的日志被保护，诸如经由加密，并且可以由用户管理，使得用户能删除日志或限制规则模块30是否有权访问日志。在一些示例中，规则模块30可以在使用用户的历史的日志前，输出警告消息，使得用户能明确地允许或拒绝规则模块30访问日志。在一些示例中，规则模块30不把用户的历史的日志存储在社交网络数据存储区50A中，除非用户明确选择存储该用户历史。在一些示例中，以一定时间间隔，诸如每天、每周、每月等从社交网络数据存储区50A删除用户的历史的日志。
规则模块30可以利用训练模块48在用户先前在社交网络服务32上张贴然后修改的社交媒体消息上执行机器学习，以学习使用户很可能稍后修改该帖子的社交媒体消息的特性，并且生成该用户的规则集中的一个或多个规则。通过在这些社交媒体消息上执行机器学习，训练模块48可以生成机器学习的模型使得能够至少部分地基于社交媒体消息是否包含在用户先前在社交网络服务32张贴然后修改的社交媒体消息上学习过的特性，对社交媒体消息确定在该社交媒体消息在社交网络服务32上张贴后然后用户将修改(例如删除)社交媒体消息的可能性。
规则模块30可以利用任何适当的机器学习模型在用户先前在社交网络服务32张贴然后修改的社交媒体消息上执行机器学习。在一个示例中，规则模块30可以使用假定用户先前在社交网络服务32张贴然后修改的社交媒体消息的内容训练的决策树。在该示例中，规则模块30可以在这些社交媒体消息上训练以识别包含在这些社交媒体消息的内容中、易于使这些社交媒体消息更可能稍后被用户修改的某些词、短语、媒体内容(例如视听)特性等。由此，不是使用户手动地指定词、短语、媒体内容特性等，而是规则模块30可以经由机器学习，创建指定这些词、短语、特征等的规则集中的一个或多个规则在用户先前在社交网络服务32张贴然后修改的社交媒体消息上训练模型。
在另一示例中，规则模块30替选地或除决策树外，可使用神经网络来建模考虑随时间而变的不同信号的用户的行为。神经网络的一种非排他性示例是递归神经网络。除用户先前在社交网络服务32张贴然后修改或从社交网络服务32删除的社交媒体消息的内容外，神经网络可以捕捉时间相关动作。由此，除关于社交媒体消息的内容的规则外，神经网络能够基于与社交媒体消息相关联的环境信息，诸如跨时间的用户的位置(例如场地)、跨时间的用户活动(例如，如果用户正玩游戏)以及用户的最终动作(例如将社交媒体消息张贴在社交网络服务32)来生成规则。基于与社交媒体消息相关联的环境信息生成规则还可以经由任何适当的机器学习技术，诸如上述决策树执行。
由规则模块30生成的每一规则还可以与对应于如果社交媒体消息与由规则指定的特性匹配，编写社交媒体消息的用户将在社交媒体消息被张贴在社交网络服务32后修改它的概率的函数的得分相关联。例如，训练模块48会遇到包含特定短语的该用户的多个在前社交媒体消息，其中，由用户张贴该社交媒体消息，同时用户被检测到处于感兴趣的点或地理位置(例如餐馆)。训练模块48还可以确定稍后在张贴那些社交媒体消息的一天内由用户删除具有这些特性的这些在前社交媒体消息的仅20％。在该示例中，训练模块48可以生成指定这些特性的规则并且可以分配对应于如果社交媒体消息与由规则指定的特性匹配，编写该社交媒体消息的用户在其被张贴在社交网络服务32后将修改社交媒体消息的20％机会的得分。
在用户先前在社交网络服务32张贴然后修改过的社交媒体消息上执行机器学习的结果可以是规则模块30生成能够确定来自用户的社交媒体消息如果在社交网络服务32张贴然后将由用户修改的可能性的机器训练模型。规则模块30可以把来自用户的社交媒体消息输入到该模型中，并且该模型可以分析社交媒体消息以输出对应于如果社交媒体消息在社交网络服务32张贴后用户将修改其内容的可能性的得分。以这种方式，规则模块30可以利用训练模块48来至少部分地基于由用户在社交网络服务32处采取的在前动作，生成机器训练的模型作为用于用户的规则集中的一个或多个规则。
类似地，规则模块30可以至少部分地基于社交网络服务32的多个用户的在前动作，生成用于用户的规则集中的一个或多个规则。规则模块30可以至少部分地基于由社交网络服务32的多个用户对由多个用户编写并且在社交网络服务32张贴的在前社交媒体消息采取的在前动作，生成用于用户的规则集中的一个或多个规则。规则模块30可以基于这些先前张贴的社交媒体消息的内容、与社交媒体消息有关的环境信息，诸如当用户写作或张贴社交媒体消息时的多个用户中的该用户的位置、当写作或张贴社交媒体消息时，多个用户中的该用户参与的活动等，生成这样的一个或多个规则。
多个用户可以是社交网络服务32的两个或更多用户。在一些示例中，社交网络服务32可以使其用户选择属于多个用户。在一些示例中，社交网络服务32可以明确地警告社交网络服务32的用户可以分析社交网络服务32处的他们的在前行为，并且可以为用户提供选项以退出。由此，多个用户可以包括未退出的社交网络服务32的用户，或选择使他们在社交网络服务32处的在前行为被分析以创建规则集的用户。
社交网络服务32可以捕捉在社交网络数据存储区50A中存储的日志中的社交网络服务32的多个用户的在前行为。这些日志可以被加密，也可以被匿名化以最小化基于在日志中存储的信息识别用户的机会。社交网络服务32可以去除识别各用户的所有个人信息，用随机分配的ID替换任何用户ID和/或采用任何适当的差分隐私机制来匿名化包含在日志内的数据。在任何时候，用户可以选择不在日志中收集其信息，在用户选择不在日志中收集其信息时，社交网络服务32可以从日志删除该用户的信息。替选地，在一些示例中，社交网络服务32可以不收集用户信息，除非用户明确选择这种数据收集。
规则模块30可以利用训练模块48在社交网络服务32上张贴的由多个用户编写然后由多个用户中的一个或多个修改的社交媒体消息上执行机器学习，以学习可能使用户很可能稍后修改帖子的社交媒体消息的特性，并因此生成规则集中的一个或多个。通过在这些社交媒体消息上执行机器学习，训练模块48可以生成机器训练的模型，以使得能够对社交媒体消息确定编写该社交媒体消息的用户在把该社交媒体消息张贴在社交网络服务32后然后将修改(例如删除)该社交媒体消息的可能性。这种确定可以至少部分地基于社交媒体消息是否包含在多个用户先前在社交网络服务32张贴并且稍后修改过的社交媒体消息上学习的特性。
规则模块30可以利用任何适当的机器学习模型在多个用户先前在社交网络服务32张贴并且稍后修改过的社交媒体消息上执行机器学习。在一个示例中，规则模块30可以利用假定多个用户先前在社交网络服务32张贴并且稍后修改过的社交媒体消息的内容训练的决策树。在该示例中，规则模块30可以在这些社交媒体消息上训练模型以识别易于使这些社交媒体消息更可能稍后由多个用户修改的、包含在这些社交媒体消息的内容中的某些词、短语、视听特性等。由此，不是用户手动地指定词、短语、媒体内容特性等，而是规则模块30可以经由机器学习创建指定这些词、短语、视听特性等的规则集中的一个或多个以在多个用户先前在社交网络服务32张贴并且稍后修改过的社交媒体消息上训练模型。
在另一示例中，规则模块30可以使用神经网络来模拟考虑了随时间变化的不同信号的多个用户的行为。在决策树和神经网络中，除多个用户先前在社交网络服务32张贴然后修改或从社交网络服务32删除的社交媒体消息的内容外，递归神经网络可以捕捉时间相关动作。由此，除关于社交媒体消息的内容的规则外，递归神经网络能够基于与社交媒体消息相关联的环境信息，诸如跨时间的多个用户的位置(例如场地)、跨时间的多个用户活动(例如，如果用户正玩游戏)以及多个用户的最终动作(例如将社交媒体消息张贴在社交网络服务32)来生成规则。
由规则模块30生成的每一规则可以与得分相关联，该得分对应于如果社交媒体消息与规则指定的特性匹配则编写该社交媒体消息的用户将在社交媒体消息张贴在社交网络服务32后修改它的概率的函数。例如，训练模块48会遇到包含特定词的多个用户的多个在前社交媒体消息，其中，由用户张贴该社交媒体消息，同时用户被检测到处于感兴趣的点或地理位置(例如餐馆)。训练模块48还可以确定稍后在张贴那些社交媒体消息的一天内，由用户删除具有这些特性的这些在前社交媒体消息的仅20％。在该示例中，训练模块48可以生成指定这些特性的规则并且可以分配对应于如果社交媒体消息与由规则指定的特性匹配，编写该社交媒体消息的用户在其被张贴在社交网络服务32后将修改社交媒体消息的20％机会的得分。
在多个用户先前在社交网络服务32张贴然后修改的社交媒体消息上执行机器学习的结果可以是生成机器训练模型的规则模块30，该机器训练模型能够确定来自社交网络服务32的用户的社交媒体消息如果被张贴在社交网络服务32然后将由用户修改的可能性。规则模块30可以把来自用户的社交媒体消息输入到该模型中，并且该模型可以分析社交媒体消息以输出对应于如果社交媒体消息在社交网络服务32张贴然后将被用户修改的可能性的社交媒体消息的得分。以这种方式，规则模块30可以利用训练模块48至少部分地基于用户在社交网络服务32处采取的在前动作，生成机器训练模型作为用于用户的规则集中的一个或多个。
模型可以由规则模块30使用以分析由社交网络服务32的任何用户创建的社交媒体消息以确定如果社交媒体消息在社交网络服务32张贴然后将由用户修改的可能性。事实上，可以使用模型来确定由用户创建的社交媒体消息如果在社交网络服务32张贴然后将由用户修改的可能性，与用户是否为使其在社交网络服务32的在前行为被分析以创建模型的多个用户的一部分无关。
社交网络服务32可以使用由社交网络服务32的管理员或运营商手动生成的一个或多个规则、至少部分地基于在社交网络服务32处，由用户采取的在前动作生成的一个或多个规则以及至少部分地基于在社交网络服务32由多个用户采取的在前动作生成的一个或多个规则的任意组合。在一些示例中，社交网络服务32可以仅使用由社交网络服务32的管理员或运营商手动生成的一个或多个规则。在一些示例中，社交网络服务32可以使用由社交网络服务32的管理员或运营商手动生成的一个或多个规则以及至少部分地基于在社交网络服务32由用户采取的在前动作生成的一个或多个规则。在一些示例中，社交网络服务32可以使用由社交网络服务32的管理员或运营商手动生成的一个或多个规则以及至少部分地基于在社交网络服务32由多个用户采取的在前动作生成的一个或多个规则。
规则模块30可以把规则集应用于社交媒体消息以对该社交媒体消息生成对应于在张贴社交媒体消息后用户很可能修改它的可能性的得分。如果规则模块30确定用于该社交媒体消息的得分超出阈值，那么规则模块30可以使社交网络服务32生成警告消息以警告用户该用户很可能修改该社交媒体消息。阈值可以是数值、百分比值等并且可以对应于在社交媒体消息被张贴到社交网络服务32后用户很可能修改它的高可能性。在一个示例中，阈值可以是0.75，其可以对应于社交媒体消息被张贴到社交网络服务32后用户很可能修改它的75％可能性。在其他示例中，阈值可以是诸如20的整数值、诸如80％的百分比值或任何其他适当的值。这些阈值可以由管理员或运营商手动地确定和设置。还可以基于在社交网络服务32张贴并且稍后由用户修改或删除的社交媒体消息的得分，设置该阈值。例如，阈值可以是这些社交媒体消息的得分的平均数(例如平均值或中值)。例如，如果在社交网络服务32张贴并且稍后由用户修改或删除的在前社交媒体消息的平均得分为(例如1中的)0.8，社交网络服务32可以将阈值设定为0.8，或设定为0.8的某一百分比(例如0.8中的90％)。
如上所述，每一规则可以与得分相关联，该得分对应于与规则匹配的社交媒体消息在社交网络服务32张贴后将由用户修改的可能性。由此，规则模块30可以至少部分地基于把规则集应用于社交媒体消息并且确定该社交媒体消息是否与规则集匹配，生成用于该社交媒体消息的得分。
在一些示例中，规则可以具有相关得分，如果社交媒体消息与由规则指定的特性匹配，那么与规则相关联的得分与用于该社交媒体消息的得分相加。例如，如果社交媒体消息的文本内容与规则指定的一个或多个冒犯性词或短语中的任何一个匹配，指定一个或多个冒犯性词或短语的规则可以指定得分1.0。如果社交媒体消息与一个或多个冒犯性词或短语中的任何一个匹配，规则模块30可以将1.0的得分与用于该社交媒体消息的得分相加。在一些示例中，得分1.0可以超出该阈值，使得如果社交媒体消息仅包含由规则指定的单个冒犯性词或短语，用于该社交媒体消息的得分可能超出该阈值。
在其他示例中，规则模块30可以把小于该阈值的得分与用于由该社交媒体消息包含的由规则指定的每一冒犯性词或短语的社交媒体消息的得分相加。规则模块30可以把得分与规则指定的每一冒犯性词或短语相关联，其中，每一相关得分小于该阈值。在该实例中，如果社交媒体消息仅包含由规则指定的单个冒犯性词或短语，用于社交媒体消息的得分不一定超出阈值。然而，如果社交媒体消息包含由规则指定的两个或以上冒犯性词或短语，用于该社交媒体消息的得分可能超出该阈值。
如上所述，规则模块30可以把规则的任何适当组合应用于社交媒体消息以确定社交媒体消息在社交网络服务32张贴后用户将修改它的可能性。例如，规则模块30可以首先应用一个或多个手动生成的规则。一个或多个手动生成的规则可以指定例如冒犯性、使人难堪或以其他方式破坏社交网络服务32的服务条款的词或短语的黑名单。规则模块30可以关联用于黑名单中的词或短语的每一个的得分，使得每一得分超出阈值。在该实例中，用于黑名单中的词或短语的每一个的得分可以超出阈值。由此，如果社交媒体消息即使包含由一个或多个手动生成的规则指定的黑名单中包括的单个词或短语，用于社交媒体消息的得分可以超出该阈值。
除了或替代应用一个或多个手动生成的规则，在一些示例中，规则模块30可以应用至少部分地基于用户在由用户编写并且张贴在社交网络服务32的在前社交媒体消息上采取的在前动作，由规则模块30生成的一个或多个规则。具体地，规则模块30可以至少部分地基于先前由该用户张贴到社交网络服务32并且稍后由该用户修改过的社交媒体消息，生成一个或多个规则。
如果规则模块30先前已经应用了指定词或短语的黑名单的一个或多个手动生成的规则，在一些示例中，仅当社交媒体消息不包括由一个或多个手动生成的规则指定的词或短语的任何一个时，规则模块30才可以应用那些至少部分地基于在该用户编写并且张贴在社交网络服务32的在前社交媒体消息上由该用户采取的在前动作而由规则模块30生成的一个或多个规则。这就像与由一个或多个手动生成的规则指定的词或短语中的仅一个匹配的得分超出该阈值的情形。在一些示例中，如果应用一个或多个手动生成的规则后，用于社交媒体消息的得分不超出该阈值，则规则模块可以应用至少部分地基于在由用户编写并且张贴在社交网络服务32的在前社交媒体消息上由用户采取的在前动作而由规则模块30生成的一个或多个规则，即使社交媒体消息包括由一个或多个手动生成的规则指定的词或短语中的一个或多个。
为把那些至少部分地基于在用户编写并且张贴在社交网络服务32的在前社交媒体消息上由用户采取的在前动作而由规则模块30生成的一个或多个规则应用于社交媒体消息，规则模块30可以将社交媒体消息输入到至少部分地基于在用户编写并且张贴在社交网络服务32的在前社交媒体消息上由用户采取的在前动作而由训练模块48训练的机器训练模型。机器训练模型响应接收社交媒体消息，生成用于社交媒体消息的得分。例如，机器训练模型可以确定社交媒体消息是否匹配先前由用户张贴到社交网络服务32然后由该用户修改过的社交媒体消息的一个或多个特性，如前由机器训练模型学习那样，并且基于社交媒体消息与一个或多个特性的匹配程度，分配用于社交媒体消息的得分。
除了或替代把至少部分地基于在用户编写并且张贴在社交网络服务32的在前社交媒体消息上由用户采取的在前动作而由规则模块30生成的一个或多个规则应用于社交媒体消息，规则模块30还可以把至少部分地基于在由多个其他用户编写并且张贴在社交网络服务32的在前社交媒体消息上由社交网络服务32的多个其他用户采取的在前动作生成的一个或多个规则应用于社交媒体消息。具体地，规则模块30可以至少部分地基于由多个其他用户先前张贴到社交网络服务32并且稍后由多个其他用户中的一个或多个修改的社交媒体消息，生成一个或多个规则。
为把至少部分地基于在多个其他用户编写并且张贴在社交网络服务32的在前社交媒体消息上由多个其他用户采取的在前动作而由规则模块30生成的一个或多个规则应用于社交媒体消息，规则模块30可以把社交媒体消息输入到至少部分地基于在多个用户编写并且张贴在社交网络服务32的在前社交媒体消息上由多个其他用户采取的在前动作训练的机器训练模型。机器训练模型响应接收到社交媒体消息，生成用于该社交媒体消息的得分。例如，机器训练模型可以确定该社交媒体消息是否与多个用户先前张贴到社交网络服务32并且稍后由多个其他用户中的一个或多个修改过的社交媒体消息的一个或多个特性匹配，如前由机器训练模型学习那样，并且可以基于社交媒体消息与一个或多个特性的匹配程度，分配用于该社交媒体消息的得分。
如本文所述，规则模块30可以应用规则集以计算对应于创建该社交媒体消息的用户在把社交媒体消息张贴在社交网络服务32后将修改其内容的可能性的用于社交媒体消息的得分。在生成用于社交媒体消息的得分后，社交网络服务32可以把该得分与对应于创建该社交媒体消息的用户在把社交媒体消息张贴在社交网络服务32后将修改其内容的相对高可能性的阈值比较。由此，如果用于社交媒体消息的得分超出阈值，社交网络服务32可以认为该社交媒体消息具有将被创建该社交媒体消息的用户在将其张贴在社交网络服务32后进行修改的高可能性。
响应确定该社交媒体消息具有在将其张贴在社交网络服务32后被创建该社交媒体消息的用户修改的高可能性，社交网络服务32可以禁止将该社交媒体消息张贴到社交网络服务32。社交网络服务32也可以生成警告消息以发送到用户的计算设备(例如计算设备2)以通知该用户该社交媒体消息被张贴在社交网络服务32后用户很可能修改该社交媒体消息并且为用户提供禁止将社交媒体消息张贴到社交网络服务32的机会。警告消息可以是通过网络26由社交网络服务器系统28传送到社交媒体消息源自的计算设备(例如计算设备2)的任何适当的数据。以这种方式，社交网络服务32可以减少在社交网络服务32张贴然后从社交网络服务32编辑或移除的外部社交媒体消息的数量，由此提高社交网络服务器系统28的计算效率，如上所述。
图3是流程图，示出社交网络服务器系统的操作的例子，该社交网络服务器系统被配置成根据本公开的一个或多个技术确定编写社交媒体消息的用户是否可能稍后修改该社交媒体消息。仅为了示例目的，在下文中，在图1和2的环境内，描述图3的示例性操作。在图3的示例中，社交网络服务器系统28可以接收将在社交网络服务器系统28上张贴的社交媒体消息(102)，该社交媒体消息由社交网络服务器系统28的用户编写。在一些示例中，将在社交网络服务器系统28张贴的社交媒体消息可以是将在社交网络服务器系统处执行的社交网络服务32张贴的社交媒体消息，以及社交网络服务器系统28的用户可以是在社交网络服务器系统28处执行的社交网络服务32的用户。
在把社交媒体消息张贴在社交网络服务器系统28前：社交网络服务器系统28可以至少部分地基于把一个或多个规则应用于社交媒体消息的内容，确定该社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性(104)。至少部分地基于在用户编写并且张贴在社交网络服务器系统28的在前社交媒体消息上由用户采取的在前动作，生成所述一个或多个规则。响应确定所述可能性超出阈值，社交网络服务器系统可以生成警告消息(106)。
在一些示例中，确定社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性包括：通过社交网络服务器系统28确定在社交媒体消息在社交网络服务器系统28张贴后用户将从社交网络服务器系统28删除该社交媒体消息的可能性。在一些示例中，至少部分地基于在社交网络服务上张贴的由用户编写并且稍后由用户修改的在前社交媒体消息，生成所述一个或多个规则。
在一些示例中，至少部分地基于在社交网络服务器系统28张贴的用户编写然后由用户修改的在前社交媒体消息，社交网络服务器系统28可以利用机器训练模型而生成一个或多个规则。在一些示例中，确定社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性可以包括：社交网络服务器系统28把社交媒体消息输入到在社交网络服务器系统28执行的模型中，并且从该模型输出该社交媒体消息的得分，该得分对应于社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性。
在一些示例中，确定社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性至少部分地基于下述的一个或多个：社交媒体消息的文本内容、与社交媒体消息相关联的环境信息和社交媒体消息的预期受众。
在一些示例中，一个或多个规则是一个或多个第一规则以及确定社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性进一步至少部分地基于把一个或多个第二规则应用于社交媒体消息的内容，以及其中，至少部分地基于在多个用户编写并且在社交网络服务器系统28张贴的在前社交媒体消息上由社交网络服务器系统28的多个用户采取的在前动作，生成一个或多个第二规则。
在一些示例中，至少部分地基于由多个用户编写的在社交网络服务器系统28张贴的并且稍后由多个用户中的一个或多个修改的在前社交媒体消息，生成一个或多个规则。在一些示例中，社交网络服务器系统28可以进一步通过至少部分地基于在社交网络服务器系统28张贴的由多个用户编写并且稍后由多个用户中的一个或多个修改的在前社交媒体消息来机器训练模型，生成一个或多个第二规则。在一些示例中，确定社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性可以包括社交网络服务器系统28将社交媒体消息输入到模型中，并且从社交网络服务器系统32执行的模型输出用于该社交媒体消息的得分，该得分对应于社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性。
在一些示例中，确定社交媒体消息在社交网络服务器系统28张贴后用户将修改其内容的可能性进一步至少部分地基于把一个或多个第三规则应用于社交媒体消息的内容，其中，可以手动地生成一个或多个第三规则。
在一个或多个示例中，所述的功能可以以硬件、软件、固件或其任意组合实现。如果用软件实现，则功能可以作为一个或多个指令或代码存储在计算机可读介质上或在计算机可读介质上传送并且由硬件处理单元执行。计算机可读介质可以包括对应于诸如数据存储介质的有形介质的计算机可读存储介质或通信介质，其包括便于例如根据通信协议，将计算机程序从一个地方传送到另一个地方的任何介质。以这种方式，计算机可读介质通常可以对应于(1)非瞬态的有形的计算机可读存储介质，或(2)诸如信号或载波的通信介质。数据存储介质可以是能由一个或多个计算机或一个或多个处理器访问以获取用于实现本公开中所述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可以包括计算机可读存储介质。
作为示例而非限制，这些计算机可读存储介质可以包括RAM、ROM、EEPROM、CD-ROM或其他光盘存储器、磁盘存储器或其他磁存储设备、闪存或能被用来以指令或数据结构的形式存储所需程序代码并且能由计算机访问的任何其他介质。同时，任何连接被适当地称为计算机可读介质。例如，如果使用同轴电缆、光纤电缆、双绞线、数字用户线(DSL)或无线技术，诸如红外线、无线电和微波，从网站、服务器或其他远程源传送指令，则同轴电缆、光纤电缆、双绞线、DSL或无线技术，诸如红外线、无线电和微波被包括在介质的定义中。然而，应理解到，计算机可读存储介质和数据存储介质不包括连接、载波、信号或其他瞬态介质，而是指向非瞬态有形存储介质。如本文所使用的磁盘和光盘包括小型盘(CD)、激光盘、光盘、数字通用盘(DVD)、软盘和蓝光盘，其中，磁盘通常以磁性方式再现数据，而光盘通过激光，光学地再现数据。以上的组合也应当包括在计算机可读介质的范围内。
指令可以由一个或多个处理器执行，诸如一个或多个数字信号处理器(DSP)、通用微处理器、专用集成电路(ASIC)、现场可编程逻辑阵列(FPGA)或其他等同的集成或分立逻辑电路。因此，如本文所使用的术语“处理器”可以指适于实现本文所述技术的任何前述结构或任何其它结构。此外，在一些方面，本文描述的功能可以在专用硬件和/或软件模块内提供。而且，这些技术能完全实现在一个或多个电路或逻辑元件中。
本公开的技术可以在各种设备或装置中实现，包括无线手机、集成电路(IC)或一组IC(例如，芯片组)。在本公开中描述了各种组件、模块或单元，以强调被配置为执行所公开的技术的设备的功能方面，但不一定需要由不同硬件单元实现。相反，如上所述，各种单元可以组合在硬件单元中，或者由包括如上所述的一个或多个处理器的可互操作硬件单元的集合结合适当的软件和/或固件来提供。
已经描述了各个实施例。这些和其他示例在所附权利要求的范围内。

Claims (13)

1.一种方法，包括：
由社交网络服务器系统接收要在该社交网络服务器系统张贴的社交媒体消息，所述社交媒体消息由所述社交网络服务器系统的用户编写；
在把所述社交媒体消息张贴在所述社交网络服务器系统前：
由所述社交网络服务器系统并且至少部分地基于把一个或多个规则应用于所述社交媒体消息的内容，确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性，其中，至少部分地基于所述用户对由该用户编写在所述社交网络服务器系统上张贴的在前社交媒体消息采取的在前动作，生成在确定在所述社交媒体消息被张贴后所述用户将修改其内容的可能性时所使用的所述一个或多个规则；以及
响应确定所述可能性超出阈值，
由所述社交网络服务器系统生成用于呈现给所述用户的警告消息，其中，所述警告消息识别所述社交媒体消息在所述社交网络服务器系统张贴后所述用户将修改的其内容的一部分，以及
使得所述警告消息响应用户输入针对张贴界面元件而经由所述用户的计算设备被呈现；以及
响应确定所述可能性未超出所述阈值：
使得所述社交媒体消息响应所述用户输入针对所述张贴界面元件而在所述用户编写所述社交媒体消息的时间被张贴到所述社交网络服务器系统。
2.如权利要求1所述的方法，其中，确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性包括：由所述社交网络服务器系统确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将从所述社交网络服务器系统删除所述社交媒体消息的可能性。
3.如权利要求1所述的方法，其中，至少部分地基于在所述社交网络服务器系统张贴的由所述用户编写然后由所述用户修改的所述在前社交媒体消息，生成所述一个或多个规则。
4.如权利要求3所述的方法，进一步包括：
所述社交网络服务器系统基于训练示例训练机器学习模型以生成所述一个或多个规则，其中，所述训练示例包括在所述社交网络服务器系统张贴的由所述用户编写然后由所述用户修改的所述在前社交媒体消息。
5.如权利要求4所述的方法，其中，确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性包括：
所述社交网络服务器系统应用所述社交媒体消息作为在所述社交网络服务器系统执行的经训练的机器学习模型的输入，以及
所述社交网络服务器系统接收用于所述社交媒体消息的得分作为所述经训练的机器学习模型的输出，其中，所述得分对应于所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性。
6.如权利要求1所述的方法，其中，确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性至少部分地基于下述中的一个或多个：
所述社交媒体消息的文本内容，
与所述社交媒体消息相关联的环境信息，以及
所述社交媒体消息的预期受众。
7.如权利要求1所述的方法，其中，所述一个或多个规则是一个或多个第一规则，其中，确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性进一步至少部分地基于把一个或多个第二规则应用于所述社交媒体消息的内容，以及其中，至少部分地基于由所述社交网络服务器系统的多个用户对由所述多个用户编写并且在所述社交网络服务器系统上张贴的在前社交媒体消息采取的在前动作，生成所述一个或多个第二规则。
8.如权利要求7所述的方法，其中，至少部分地基于在所述社交网络服务器系统张贴的由所述多个用户编写的并且稍后由所述多个用户中的一个或多个用户修改的在前社交媒体消息，生成所述一个或多个第二规则。
9.如权利要求8所述的方法，进一步包括：
所述社交网络服务器系统基于训练示例训练机器学习模型以生成所述一个或多个第二规则，其中，所述训练示例包括在所述社交网络服务器系统张贴的由所述多个用户编写的并且稍后由所述多个用户中的一个或多个用户修改的在前社交媒体消息。
10.如权利要求9所述的方法，其中，确定所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性包括：
所述社交网络服务器系统应用所述社交媒体消息作为在所述社交网络服务器系统执行的经训练的机器学习模型的输入；以及
所述社交网络服务器系统接收用于所述社交媒体消息的得分作为所述经训练的机器学习模型的输出，其中，所述得分对应于所述社交媒体消息在所述社交网络服务器系统张贴后用户将修改其内容的可能性。
11.如权利要求1所述的方法，
其中，所述社交媒体消息的所述内容包括个人敏感内容，并且其中，所述个人敏感内容包括以下中的至少一个：所述用户的信用卡信息、所述用户的借记卡信息、所述用户的社会安全号以及用于所述用户的密码，并且
其中，确定所述可能性是至少部分地基于所述社交媒体消息包括所述个人敏感内容。
12.一种社交网络服务器系统，包括：
非瞬态计算机可读存储介质；
通信耦合到所述非瞬态计算机可读存储介质的至少一个处理器，所述至少一个处理器被配置成执行权利要求1-11中任一项所述的方法。
13.一种编码有指令的非瞬态计算机可读存储介质，当所述指令被执行时，使社交网络服务器系统的一个或多个处理器执行权利要求1-11中任一项所述的方法。
CN201710891991.0A 2016-12-15 2017-09-27 检测外部社交媒体消息 Active CN108234283B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US15/380,748 US20180176173A1 (en) 2016-12-15 2016-12-15 Detecting extraneous social media messages
US15/380,748 2016-12-15

Publications (2)

Publication Number Publication Date
CN108234283A CN108234283A (zh) 2018-06-29
CN108234283B true CN108234283B (zh) 2021-03-16

Family

ID=60244390

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710891991.0A Active CN108234283B (zh) 2016-12-15 2017-09-27 检测外部社交媒体消息

Country Status (5)

Country Link
US (1) US20180176173A1 (zh)
CN (1) CN108234283B (zh)
DE (2) DE102017121911A1 (zh)
GB (1) GB2558035A (zh)
WO (1) WO2018111426A1 (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3481661A4 (en) * 2016-07-05 2020-03-11 Nauto, Inc. AUTOMATIC DRIVER IDENTIFICATION SYSTEM AND METHOD
EP3497405B1 (en) 2016-08-09 2022-06-15 Nauto, Inc. System and method for precision localization and mapping
US10733460B2 (en) 2016-09-14 2020-08-04 Nauto, Inc. Systems and methods for safe route determination
EP3535646A4 (en) 2016-11-07 2020-08-12 Nauto, Inc. SYSTEM AND METHOD FOR DETERMINING DRIVER DISTRACTION
US10902345B2 (en) * 2017-01-19 2021-01-26 International Business Machines Corporation Predicting user posting behavior in social media applications
US20180341877A1 (en) * 2017-05-25 2018-11-29 Microsoft Technology Licensing, Llc Escalation of machine-learning inputs for content moderation
US10453150B2 (en) 2017-06-16 2019-10-22 Nauto, Inc. System and method for adverse vehicle event determination
US10417816B2 (en) * 2017-06-16 2019-09-17 Nauto, Inc. System and method for digital environment reconstruction
WO2019169031A1 (en) 2018-02-27 2019-09-06 Nauto, Inc. Method for determining driving policy
US10963627B2 (en) * 2018-06-11 2021-03-30 Adobe Inc. Automatically generating digital enterprise content variants
US11853701B2 (en) * 2019-06-23 2023-12-26 LitLingo Technologies, Inc. Method for recommending and implementing communication optimizations
US11223591B2 (en) * 2020-02-05 2022-01-11 International Business Machines Corporation Dynamically modifying shared location information
WO2022182923A1 (en) * 2021-02-24 2022-09-01 Lifebrand, Llc System and methods for scrubbing social media content
EP4298489A4 (en) * 2021-02-24 2024-08-07 Lifebrand Inc SYSTEM AND PROCEDURE FOR STANDARDIZING THE EVALUATION OF INDIVIDUAL SOCIAL MEDIA CONTENT
US11941358B2 (en) * 2021-06-14 2024-03-26 Asapp, Inc. Identifying messages entered into an incorrect conversation

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9002700B2 (en) * 2010-05-13 2015-04-07 Grammarly, Inc. Systems and methods for advanced grammar checking
CN102185787A (zh) * 2011-01-04 2011-09-14 北京开心人信息技术有限公司 一种基于隐私保护的交互方法与系统
US20140007255A1 (en) * 2012-06-28 2014-01-02 International Business Machines Corporation Privacy Control in a Social Network
US20160255139A1 (en) * 2016-03-12 2016-09-01 Yogesh Chunilal Rathod Structured updated status, requests, user data & programming based presenting & accessing of connections or connectable users or entities and/or link(s)
US10142278B2 (en) * 2014-10-14 2018-11-27 Adobe Systems Incorporated Automatic anomaly alerts for scheduled posts
CN105225157A (zh) * 2015-09-15 2016-01-06 珠海赞友科技有限公司 一种净化社交软件聊天内容的方法
US20170329972A1 (en) * 2016-05-10 2017-11-16 Quest Software Inc. Determining a threat severity associated with an event

Also Published As

Publication number Publication date
GB201715339D0 (en) 2017-11-08
GB2558035A (en) 2018-07-04
DE102017121911A1 (de) 2018-06-21
CN108234283A (zh) 2018-06-29
WO2018111426A1 (en) 2018-06-21
US20180176173A1 (en) 2018-06-21
DE202017105740U1 (de) 2018-04-16

Similar Documents

Publication Publication Date Title
CN108234283B (zh) 检测外部社交媒体消息
EP3369219B1 (en) Predictive responses to incoming communications
KR102608967B1 (ko) 메신저 어플리케이션과 연관된 대화방을 디스플레이하는 방법 및 장치
US9686217B2 (en) Method to stop cyber-bullying before it occurs
US20190081919A1 (en) Computerized system and method for modifying a message to apply security features to the message's content
US20180285592A1 (en) Selectively obscuring private information based on contextual information
AU2020292195A1 (en) Notification tagging for a workspace or application
CN105144040A (zh) 基于通信上下文的预测文本建议
US11698978B2 (en) Masking private content on a device display based on contextual data
US11281761B2 (en) Method and system for using a plurality of accounts in an instant messaging application
US10116668B2 (en) System and method for enhanced display-screen security and privacy
CN107111593A (zh) 在刚性软件开发环境中允许数据分类的方法
CN107533618A (zh) 保护数据免受未经授权的访问
CN112905971B (zh) 一种处理信息的方法和装置
US20190141068A1 (en) Online service abuser detection
US20180218134A1 (en) Determining computer ownership
US20240244024A1 (en) Systems and methods for detecting offensive content based on metadata of one or more responsive messages
CN111246293B (zh) 用于监控用户行为的方法、设备和计算机存储介质
US20160182498A1 (en) Separated use mobile devices
CN107390999A (zh) 应用程序操作方法及装置、计算机装置及可读存储介质
CN113504860A (zh) 消息回复方法和装置
US20220414244A1 (en) Sender-based consent mechanism for sharing images
WO2024163716A1 (en) Configurable narrative system
CN114157629A (zh) 邮件分发方法、装置、设备及介质
KR20240120166A (ko) 메시지의 무결성을 보장하는 방법, 컴퓨터 장치, 및 컴퓨터 프로그램

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant