DE102017121911A1

DE102017121911A1 - Detektieren belangloser Social Media-Nachrichten

Info

Publication number: DE102017121911A1
Application number: DE102017121911.0A
Authority: DE
Inventors: Davin Martin Keysers; Thomas Deselaers; Victor Carbune
Original assignee: Google LLC
Current assignee: Google LLC
Priority date: 2016-12-15
Filing date: 2017-09-21
Publication date: 2018-06-21
Also published as: US20180176173A1; WO2018111426A1; DE202017105740U1; CN108234283B; GB201715339D0; CN108234283A; GB2558035A

Abstract

Ein soziales Netzwerk-Serversystem kann eine Social Media-Nachricht empfangen, die in dem sozialen Netzwerk-Serversystem gepostet werden soll, wobei die Social Media-Nachricht von einem Nutzer des sozialen Netzwerk-Serversystems verfasst ist. Vor dem Posten der Social Media-Nachricht im sozialen Netzwerk-Serversystem kann das soziale Netzwerk-Serversystem, zumindest teilweise basierend auf der Anwendung einer oder mehrerer abgelegter Regeln auf den Inhalt der Social Media-Nachricht, eine Wahrscheinlichkeit bestimmen, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt werden, die von dem Nutzer bei früheren von dem Nutzer verfassten und in dem sozialen Netzwerk-Serversystem geposteten Social Media-Nachrichten ausgeführt wurden und kann, als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit einen Schwellenwert überschreitet, eine Warnmeldung erzeugen.

Description

HINTERGRUND
Ein soziales Netzwerk, das auf einem Computersystem ausgeführt wird, kann es Nutzern des sozialen Netzwerks erlauben, Social Media-Nachrichten zu posten, die von anderen Nutzern des sozialen Netzwerks betrachtet werden können. Ein Nutzer kann, nach dem Posten einer Social Media-Nachricht, zu einem späteren Zeitpunkt wählen, ob er die Social Media-Nachricht löschen oder den Inhalt der Social Media-Nachricht ändern möchte.
KURZDARSTELLUNG
Die Aspekte dieser Offenlegung beziehen sich auf Techniken für die Erzeugung einer Warnmeldung in einem Computersystem, um anzuzeigen, dass der Inhalt einer Social Media-Nachricht, die in einem sozialen Netzwerk-Serversystem gepostet werden soll, beleidigenden oder verfänglichen Inhalts sein kann oder persönlich sensiblen Inhalt haben kann, und Techniken, die es einem Nutzer erlauben, die Nachricht zu ändern oder zu löschen, bevor sie gepostet wird, oder andernfalls die Erlaubnis zu verweigern, dass die Nachricht auf dem sozialen Netzwerk-Serversystem gepostet wird. Da diese Techniken ein soziales Netzwerk-Serversystem veranlassen können, Abstand vom Posten bestimmter Nachrichten zu nehmen, die ein Nutzer später wahrscheinlich wieder löschen wird, können diese Techniken den Umfang der Datenverarbeitung von Nachrichten im sozialen Netzwerk-Serversystem verringern (z. B. Nachrichten, die gepostet werden und danach wieder gelöscht werden), und damit möglicherweise die Leistung des sozialen Netzwerk-Serversystems verbessern.
In einem Aspekt richtet sich die Offenbarung an ein Verfahren. Das Verfahren umfasst Empfangen, durch ein soziales Netzwerk-Serversystem, einer Social Media-Nachricht, die in dem sozialen Netzwerk-Serversystem gepostet werden soll, wobei die Social Media-Nachricht von einem Nutzer des sozialen Netzwerk-Serversystems verfasst ist. Das Verfahren umfasst ferner, vor dem Posten der Social Media-Nachricht im sozialen Netzwerk-Serversystem: Bestimmen, durch das soziale Netzwerk-Serversystem und zumindest teilweise basierend auf der Anwendung einer oder mehrerer abgelegter Regeln auf den Inhalt der Social Media-Nachricht, einer Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt werden, die von dem Nutzer bei früheren von dem Nutzer verfassten und in dem sozialen Netzwerk-Serversystem geposteten Social Media-Nachrichten ausgeführt wurden; und Erzeugen einer Warnmeldung durch das soziale Netzwerk-Serversystem als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit einen Schwellenwert überschreitet.
In einem weiteren Aspekt richtet sich die Offenbarung an ein soziales Netzwerk-Serversystem. Das soziale Netzwerk-Serversystem enthält einen Datenspeicher. Das soziale Netzwerk-Serversystem schließt darüber hinaus mindestens einen Prozessor ein, der kommunikativ mit dem Datenspeicher gekoppelt ist, wobei der mindestens eine Prozessor konfiguriert ist, eine Social Media-Nachricht zu empfangen, die im sozialen Netzwerk-Serversystem gepostet werden soll, wobei die Social Media-Nachricht von einem Nutzer des sozialen Netzwerk-Serversystems verfasst ist. Vor dem Posten der Social Media-Nachricht auf dem sozialen Netzwerk-Serversystem ist der mindestens eine Prozessor konfiguriert: zumindest teilweise, basierend auf der Anwendung einer oder mehrerer im Speicher abgelegter Regeln auf den Inhalt der Social Media-Nachricht, eine Wahrscheinlichkeit zu bestimmen, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt werden, die von dem Nutzer bei früheren von dem Nutzer verfassten und in dem sozialen Netzwerk-Serversytem geposteten Social Media-Nachrichten ausgeführt wurden; und als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit einen Schwellenwert überschreitet, eine Warnmeldung zu erzeugen.
In einem weiteren Aspekt richtet sich die Offenbarung an ein nichtflüchtiges computerlesbares Speichermedium, das mit Anweisungen codiert ist. Diese Anweisungen veranlassen bei ihrer Ausführung, dass ein oder mehrere Prozessoren eines Computergeräts eine Social Media-Nachricht empfangen, die im sozialen Netzwerk-Serversystem gepostet werden soll, wobei die Social Media-Nachricht von einem Nutzer des sozialen Netzwerk-Serversystems verfasst ist. Die Anweisungen veranlassen den einen oder die mehreren Prozessoren, vor dem Posten der Social Media-Nachricht auf dem sozialen Netzwerk-Serversystem: zumindest teilweise basierend auf der Anwendung einer oder mehrerer im Speicher abgelegter Regeln auf den Inhalt der Social Media-Nachricht eine Wahrscheinlichkeit zu bestimmen, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt werden, die vom Nutzer in früheren von diesem Nutzer verfassten und im sozialen Netzwerk-Serversystem geposteten Social Media-Nachrichten ausgeführt wurden; und als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit einen Schwellenwert überschreitet, eine Warnmeldung auszugeben.
Die Details eines oder mehrerer Beispiele der Offenlegung sind in den zugehörigen Zeichnungen und der Beschreibung nachfolgend ausgeführt. Andere Merkmale, Objekte und Vorteile sind aus der Beschreibung und den Zeichnungen sowie aus den Patentansprüchen ersichtlich.
Figurenliste

1 ist ein Blockdiagramm, das als Beispiel ein Computergerät und grafische Benutzerschnittstellen (GUIs) darstellt, die so konfiguriert sein können, dass sie eine Abfrage für das Posten einer Social Media-Nachricht an ein soziales Beispiel-Netzwerk-Serversystem senden, wobei das soziale Netzwerk-Serversystem so konfiguriert ist, dass es bestimmt, ob ein Nutzer, der die Social Media-Nachricht verfasst hat, möglicherweise die Social Media-Nachricht später, gemäß einer oder mehrerer Techniken der vorliegenden Offenbarung, ändert.
2 ist ein Blockdiagramm, das Einzelheiten eines Beispiels eines sozialen Netzwerk-Serversystems darstellt, das so konfiguriert sein kann, dass es bestimmt, ob ein Nutzer, der eine Social Media-Nachricht verfasst hat, die Social Media-Nachricht voraussichtlich später gemäß einer oder mehrerer Techniken der vorliegenden Offenbarung ändern wird.
3 ist ein Flussdiagramm, das als Beispiel Vorgänge eines sozialen Netzwerk-Serversystems darstellt, die so konfiguriert sein können, dass sie bestimmen, ob der Nutzer, der eine Social Media-Nachricht verfasst hat, die Social Media-Nachricht voraussichtlich später gemäß einer oder mehrerer Techniken der vorliegenden Offenbarung ändern wird.

AUSFÜHRLICHE BESCHREIBUNG
1 ist ein Blockdiagramm, das als Beispiel ein Computergerät 2, ein soziales Netzwerk-Serversystem 28 und die grafischen Benutzerschnittstellen (GUIs) 12 und 18 für die Zusendung einer Abfrage für das Posten einer Social Media-Nachricht auf einem sozialen Netzwerkdienst 32 eines sozialen Netzwerk-Serversystems 28 darstellt, wobei der soziale Netzwerkdienst 32 des sozialen Netzwerk-Serversystems 28 so konfiguriert sein kann, dass er die Wahrscheinlichkeit bestimmt, dass ein Nutzer, der die Social Media-Nachricht verfasst hat, den Inhalt der Social Media-Nachricht später, nachdem er sie im sozialen Netzwerk-Serversystem 28 gepostet hat, gemäß einer oder mehrerer Techniken der vorliegenden Offenbarung, wieder löscht. Wie in 1 dargestellt, kann das Computergerät 2 mit dem sozialen Netzwerk-Serversystem 28 über das Netzwerk 26 kommunizieren, um mit dem sozialen Netzwerkdienst 32, der vom sozialen Netzwerk-Serversystem 28 bereitgestellt wird, zu interagieren. Ein Nutzer kann mit dem sozialen Netzwerkdienst 32 über eine soziale Netzwerkanwendung 10A interagieren, die auf einem Computergerät 2 ausgeführt wird, wobei die soziale Netzwerkanwendung 10A Inhalt in einem sozialen Netzwerkdienst 32 posten kann. Der Nutzer kann den im sozialen Netzwerkdienst 32 geposteten Inhalt auf Computergeräten betrachten, die mit den sozialen Netzwerkkontakten des Nutzers verbunden sind. Die soziale Netzwerkanwendung 10A kann mit dem sozialen Netzwerkdienst 32 des sozialen Netzwerk-Serversystems 28 über Netzwerk 26 kommunizieren, um Daten gemäß der Interaktion des Nutzers mit der sozialen Netzwerkanwendung 10A zu senden und zu empfangen.
Netzwerk 26 kann jedes öffentliche oder private Kommunikationsnetz sein, wie das Internet, ein mobiles Datennetzwerk, Einwählmodems über ein Telefonnetz, ein privates lokales Netzwerk (LAN), Standleitungen oder eine Kombination aus diesen Kommunikationsnetzen. Netzwerk 26 kann einen oder mehrere Netzwerkschalter, Netzwerk-Hubs, Netzwerk-Router, Modems oder jedes andere geeignete Netzwerkgerät einschließen, die bedienbar miteinander gekoppelt sind, um den Informationsaustausch zwischen dem sozialen Netzwerk-Serversystem 28 und dem Computergerät 2 bereitzustellen. Netzwerk 26 kann ein drahtgebundenes Netzwerk oder ein drahtloses Netzwerk sein.
Das Computergerät 2 und das soziale Netzwerk-Serversystem 28 können Daten über das Netzwerk 26, unter Verwendung jeder geeigneten Kommunikationstechnik, übertragen und empfangen. Das Computergerät 2 und das soziale Netzwerk-Serversystem 28 können bedienbar mit dem Netzwerk 26, unter Verwendung entsprechender Netzwerkverbindungen, gekoppelt sein. Die Verbindungen, die das Computergerät 2 und das soziale Netzwerk-Serversystem 28 mit Netzwerk 26 koppeln, können Ethernet, asynchrone Übertragungsmodus (ATM)-Netzwerke oder sonstige geeignete Arten von drahtgebundenen und/oder drahtlosen Netzwerkverbindungen einschließen.
In einigen Beispielen kann das soziale Netzwerk-Serversystem 28 ein Einzel-Computergerät sein, wie beispielsweise ein Computerserver. In weiteren Beispielen kann das soziale Netzwerk-Serversystem 28 in mehrere Computergeräte oder Computersysteme implementiert sein, die die Handlungen eines Serversystems (z. B. Cloud-Computing) ausführen.
Beispiele für das Computergerät 2 können Folgendes einschließen, sind aber nicht darauf beschränkt: tragbare, mobile oder sonstige Geräte, wie Mobiltelefone (einschließlich Smartphones), tragbare Geräte (einschließlich Smartwatches), Laptop-Computer, Desktop-Computer, Tablet-Computer, Smart-TV-Plattformen, Personal Digital Assistants (PDAs), Server-Computer, Zentralrechner und Ähnliches.
Das Computergerät 2, wie im Beispiel in 1 dargestellt, schließt eine Benutzerschnittstellen-(UI)-Einheit 4 ein. Die UI-Einheit 4 des Computergeräts 2 kann so konfiguriert sein, dass sie als Eingabegerät und/oder Ausgabegerät für das Computergerät 2 funktioniert. Die UI-Einheit 4 kann unter Verwendung verschiedener Technologien implementiert werden. Beispielsweise kann die UI-Einheit 4 so konfiguriert sein, dass sie die Eingabe von einem Nutzer über Tast-, Audio- und/oder Video-Feedback empfängt. Beispiele von Eingabegeräten schließen eine präsenzempfindliche Anzeige, ein präsenzempfindliches oder berührungsempfindliches Eingabegerät, eine Maus, eine Tastatur, ein Sprachreaktionssystem, eine Videokamera, ein Mikrofon oder jede andere Art von Gerät zum Erkennen von Eingaben eines Nutzers ein. In einigen Beispielen schließt ein präsenzempfindliches Display, einen berührungsempfindlichen oder präsenzempfindlichen Eingabebildschirm, wie einen resistiven Touchscreen, einen SAW-Touchscreen („Surface Acoustic Wave“, Touchscreens mit akustischer Oberflächenwellentechnologie), einen kapazitiven Touchscreen, projektiv-kapazitiven Touchscreen, einen druckempfindlichen Bildschirm, APR-Touchscreen („Acoustic Pulse Recognition“, Touchscreens mit akustischer Impulserkennung) oder andere präsenzempfindliche Technologien ein. Das heißt in einigen Fällen, dass die UI-Einheit 4 des Computergeräts 2 eine präsenzempfindliche Vorrichtung enthalten kann, die taktile Eingaben von einem Nutzer des Computergeräts 2 empfangen kann. Die UI-Einheit 4 kann Anweisungen über eine taktile Eingabe empfangen, indem sie eine Geste oder mehrere Gesten eines Nutzers erkennt (z. B. wenn der Nutzer mit einem Finger oder einem Taststift eine oder mehrere Stellen der UI-Einheit 4 berührt oder darauf zeigt).
Die UI-Einheit 4 kann zusätzlich oder alternativ so konfiguriert sein, dass sie als Ausgabegerät funktioniert, durch Bereitstellung einer Ausgabe an einen Nutzer als Tast-, Audio- oder Videoimpulse. Die Beispiele der Ausgabegeräte schließen eine Soundkarte, eine Videografikadapterkarte, oder eines oder mehrere Anzeigegeräte, wie z. B. LCDs („Liquid Crystal Display“, Flüssigkristallanzeigen), Punktmatrixanzeigen, LED-Anzeigen („Light Emitting Diode“, Leuchtdiodenanzeigen), OLED-Anzeigen („Organic Light Emitting Diode“, organische Leuchtdiodenanzeigen), E-Papier-Anzeigen oder ähnliche Monochrom- oder Farbanzeigen, die sichtbare Informationen für einen Nutzer eines Computergeräts 2 ausgeben können, ein. Zusätzliche Beispiele eines Ausgabegeräts schließen einen Lautsprecher, einen Kathodenstrahlröhren-(CRT)-Monitor, ein Flüssigkristallanzeigen (LCD)-Gerät oder ein anderes Gerät ein, das eine allgemeinverständliche Ausgabe an einen Nutzer erzeugen kann. Beispielsweise kann die UI-Einheit 4 einem Nutzer des Computergeräts 2 eine Ausgabe als grafische Benutzerschnittstelle präsentieren, die mit der Funktionsweise des Computergeräts 2 verbunden sein kann. Auf diese Weise kann die UI-Einheit 4 verschiedene Benutzerschnittstellen für Anwendungen haben, die auf dem Computergerät 2 ausführbar oder für dieses zugänglich sind (z. B. eine elektronische Messaging-Anwendung, eine Internetbrowser-Anwendung). Ein Nutzer des Computergeräts 2 kann mit einer entsprechenden Benutzerschnittstelle einer Anwendung interagieren, um das Computergerät 2 dazu zu veranlassen, die Vorgänge hinsichtlich einer Funktion auszuführen.
In einigen Beispielen kann die UI-Einheit 4 des Computergeräts 2 zweidimensionale und/oder dreidimensionale Gesten als Eingabe von einem Nutzer des Computergeräts 2 erkennen. Beispielsweise kann ein Sensor der UI-Einheit 4 die Bewegung eines Nutzers (z. B. die Bewegung einer Hand, eines Arms, eines Stifts, eines Taststifts) innerhalb eines Grenzabstands des Sensors von der UI-Einheit 4 erkennen. Die UI-Einheit 4 kann eine zwei- oder dreidimensionale Vektordarstellung der Bewegung feststellen und die Vektordarstellung mit einer Gesteneingabe (z. B. ein Winken mit der Hand, ein Zusammenführen der Finger, ein Klatschen, eine Stiftberührung usw.) korrelieren, die über mehrere Dimensionen verfügt. Mit anderen Worten kann die UI-Einheit 4, in einigen Beispielen, eine multidimensionale Geste erkennen, ohne dass der Nutzer diese Gesten auf oder in der Nähe von einem Bildschirm oder einer Oberfläche, auf dem bzw. der die UI-Einheit 4 Informationen zum Anzeigen ausgibt, ausführen muss. Stattdessen kann die UI-Einheit 4 eine multidimensionale Geste erkennen, die an einem Sensor oder in der Nähe eines Sensors ausgeführt wird, der sich in der Nähe des Bildschirms bzw. der Oberfläche befinden kann, aber nicht muss, auf dem bzw. der die UI-Einheit 4 Informationen für die Anzeige ausgibt.
Im Beispiel in 1 schließt das Computergerät 2 das Benutzerschnittstellen (UI)-Modul 6 und/oder die Anwendungsmodule 10A-10N ein (zusammen „die Anwendungsmodule 10“). Die Module 6 und/oder 10 können einen oder mehrere der hier beschriebenen Vorgänge unter Verwendung von Hardware, Software, Firmware oder einer Kombination daraus ausführen, die im Computergerät 2 resident sind und/oder darauf ausgeführt werden. Das Computergerät 2 kann die Module 6 und/oder 10 mit einem Prozessor oder mehreren Prozessoren ausführen. In einigen Beispielen kann das Computergerät 2 die Module 6 und/oder 10 als virtuelle Maschinen, die auf der zugrundeliegenden Hardware laufen, ausführen. Die Module 6 und/oder 10 können als ein oder mehrere Dienste eines Betriebssystems oder einer Computerplattform ausgeführt werden, oder können als ein oder mehrere ausführbare Programme auf einer Anwendungsebene einer Computerplattform ausgeführt werden.
Das UI-Modul 6, wie im Beispiel in 1 dargestellt, kann durch Computergerät 2 betrieben werden, um eine oder mehrere Funktionen auszuführen, wie beispielsweise Eingaben zu empfangen und Anweisungen dieser Eingaben an weitere Komponenten zu senden, die mit Computergerät 2 verbunden sind, wie beispielsweise die Module 10. Das UI-Modul 6 kann auch Daten von Komponenten empfangen, die mit Computergerät 2 verbunden sind, wie die Module 10. Mithilfe der empfangenen Daten kann das UI-Modul 6 andere Komponenten, die mit Computergerät 2 verbunden sind, z. B. UI-Einheit 4, veranlassen, eine Ausgabe auf Basis der empfangenen Daten bereitzustellen. Beispielsweise kann das UI-Modul 6 Daten von einem der Anwendungsmodule 10 empfangen, um eine GUI anzuzeigen.
Die Anwendungsmodule 10, wie im Beispiel in 1 dargestellt, können Funktionen einschließen, um eine Vielzahl von Vorgängen auf dem Computergerät 2 auszuführen. Beispielsweise können die Anwendungsmodule 10 ein Textverarbeitungsprogramm, eine E-Mail-Anwendung, eine Chat-Anwendung, eine Messaging-Anwendung, eine soziale Netzwerk-Anwendung, ein Webbrowser, ein Multimedia-Player, eine Kalender-Anwendung, ein Betriebssystem, eine Verteilte-System-Anwendung, eine Grafikdesign-Anwendung, eine Bildbearbeitungsanwendung, eine Webentwicklungs-Anwendung oder jede andere Anwendung einschließen. In einigen Beispielen können ein oder mehrere Anwendungsmodule 10 mit dem sozialen Netzwerkdienst 32 interagieren, der vom sozialen Netzwerk-Serversystem 28 bereitgestellt wird.
Beispielsweise kann eines der Anwendungsmodule 10 (z. B. Anwendungsmodul 10A) die soziale Netzwerkanwendung 10A sein. Die soziale Netzwerkanwendung 10A kann jede Anwendung oder jeder Prozess sein, die/der auf dem Computergerät 2 ausgeführt wird, die/der mit einem sozialen Netzwerkdienst 32 interagieren kann, der vom sozialen Netzwerk-Serversystem 28 bereitgestellt wird. Beispiele einer sozialen Netzwerkanwendung 10A schließen eine App (z. B. eine soziale Netzwerk-App auf einem Smartphone), einen Webbrowser, ein Widget, einen Systemebenen-Prozess und Ähnliches ein.
Die soziale Netzwerkanwendung 10A kann Funktionen enthalten, um mit dem sozialen Netzwerkdienst 32 zu interagieren, der vom sozialen Netzwerk-Serversystem 28 bereitgestellt wird. Diese Funktionen können die Fähigkeit einschließen, Social Media-Nachrichten zu verfassen und auf dem sozialen Netzwerkdienst 32 zu posten, Social Media-Nachrichten, die von anderen Nutzern des sozialen Netzwerkdienstes 32 gepostet werden, zu empfangen, auf Social Media-Nachrichten, die von anderen Nutzern des sozialen Netzwerkdienstes 32 gepostet werden, zu antworten und Ähnliches. Die Social Media-Nachrichten können Inhalte haben, die von Nutzern auf dem sozialen Netzwerkdienst 32 gepostet werden, damit sie von anderen Nutzern des sozialen Netzwerkdienstes 32 angeschaut oder auf andere Weise verarbeitet werden. Diese Inhalte können eine Kombination von Text, Bildern, Videos, Audioaufnahmen, Animationen, Weblinks, Symbolen, Emojis und Ähnliches enthalten. Beispiele von Social Media-Nachrichten können eine Nachricht einschließen, die Textinhalte und/oder audiovisuelle Inhalte hat und im sozialen Netzwerkdienst 32 gepostet und von einem oder mehreren Nutzern des sozialen Netzwerkdienstes 32 betrachtet werden kann, eine Statusaktualisierung, Kommentare zu Social Media-Nachrichten, die von anderen Nutzern des sozialen Netzwerkdienstes 32 gepostet wurden, eine Restaurant-Bewertung, die auf einer sozialen Restaurantbewertungs-Webseite gepostet wurde, und Ähnliches.
Im Beispiel in 1 kann die soziale Netzwerkanwendung 10A Inhalte empfangen, die von einem Nutzer des Computergeräts 2 verfasst oder auf andere Weise erzeugt oder eingeschlossen wurden, um sie im sozialen Netzwerkdienst 32 zu posten. Die soziale Netzwerkanwendung 10A kann eine oder mehrere Komponenten des Computergeräts 2 dazu veranlassen, eine GUI auszugeben (z. B. um einem Nutzer des Computergeräts 2 etwas anzuzeigen), mit der der Nutzer interagieren kann, um einen Inhalt einzugeben oder auf andere Weise bereitzustellen, der im sozialen Netzwerkdienst 32 gepostet werden soll. Das heißt, die soziale Netzwerkanwendung 10A kann Daten an das UI-Modul 6 senden, um die UI-Einheit 4 dazu zu veranlassen, die GUI 12 anzuzeigen.
Die GUI 12 kann die grafische Benutzerschnittstelle der sozialen Netzwerkanwendung 10A sein, die auf Computergerät 2 ausgeführt wird. Wie in 1 dargestellt, kann die GUI 12 den Inhaltsbereich 13, den Audience Selector 15 und die Posten-Taste 16 einschließen. Der Inhaltsbereich 13 kann ein Bereich im GUI 12 sein, in den der Nutzer Inhalte 14 eingeben oder in dem er Inhalte verfassen kann, wie Texte, Bilder, Videos und Ähnliches, um eine Social Media-Nachricht zu erstellen, die den Inhalt 14 enthält, der im sozialen Netzwerkdienst 32 gepostet werden soll.
Der Audience Selector 15 kann ein Widget oder eine GUI-Steuerung sein, die es dem Nutzer ermöglicht, eine vorgesehene Zielgruppe für die Social Media-Nachricht auszuwählen. Diese vorgesehene Zielgruppe kann dem Nutzer oder den Nutzern des sozialen Netzwerkdienstes 32 angeben, für wen die Social Media-Nachricht sichtbar sein soll, wenn die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet wird. Im Beispiel in 1 kann der Nutzer den Audience Selector 15 einsetzen, um innerhalb der vorgesehenen Zielgruppe „Just me (nur ich),“ „Friends (Freunde),“ „Coworkers (Mitarbeiter)“ und „Everyone (Jeder)“ auszuwählen. Die vorgesehene Zielgruppe „Just me (nur ich)“ darf nur den Nutzer einschließen, der die Social Media-Nachricht postet. Die vorgesehene Zielgruppe „Everyone (Jeder)“ kann jeden Nutzer des sozialen Netzwerkdienstes 32 einschließen. Wenn demnach der Nutzer über den Audience Selector 15 „Just me (nur ich)“ auswählt, ist die Social Media-Nachricht für den Nutzer nur sichtbar, wenn sie im sozialen Netzwerkdienst 32 erscheint. Wenn darüber hinaus der Nutzer über den Audience Selector 15 „Everyone (Jeder)“ auswählt, ist die Social Media-Nachricht für jeden Nutzer des sozialen Netzwerkdienstes 32 sichtbar, wenn sie im sozialen Netzwerkdienst 32 erscheint.
Die vorgesehenen Zielgruppen der „Friends (Freunde)“ und „Coworkers (Mitarbeiter)“ können jeweils eine unterschiedliche Gruppe von Nutzern des sozialen Netzwerkdienstes 32 einschließen. Beispielsweise kann der Nutzer die Nutzer des sozialen Netzwerkdienstes 32 auswählen, die die vorgesehenen Zielgruppen der „Friends (Freunde)“ und „Coworkers (Mitarbeiter)“ bilden. In einigen Beispielen kann es einen oder mehrere Nutzer des sozialen Netzwerkdienstes 32 geben, die sowohl zu „Friends (Freunde)“ als auch „Coworkers (Mitarbeiter)“ gehören. In einigen Beispielen kann es einen oder mehrere Nutzer des sozialen Netzwerkdienstes 32 geben, die nur zu „Friends (Freunde)“ oder „Coworkers (Mitarbeiter)“ gehören. In einigen Beispielen kann es einen oder mehrere Nutzer des sozialen Netzwerkdienstes 32 geben, die entweder zu „Friends (Freunde)“ oder zu „Coworkers (Mitarbeiter)“ gehören. Die vorgesehenen Zielgruppen, die in 1 dargestellt sind, stellen nur einige nicht-abschließende Beispiele der Gruppierungen von Nutzern des sozialen Netzwerkdienstes 32 dar, in anderen Beispielen kann der Nutzer unter anderem, verschiedene Gruppierungen von Nutzern des sozialen Netzwerkdienstes 32 als vorgesehene Zielgruppe der Social Media-Nachricht auswählen.
Die GUI 12 kann mehr Elemente oder weniger Elemente einschließen als in 1 dargestellt. Beispielsweise kann das Computergerät 2 die Angabe einer Texteingabe durch Eingabe eines Nutzers über eine graphische Tastatur in GUI 12 empfangen, um Textteile eines Inhalts 14 der Social Media-Nachricht zu bilden, die im sozialen Netzwerkdienst 32 gepostet werden soll. In ähnlicher Weise kann das Computergerät 2 eine Angabe zu einer Eingabe empfangen, die das Computergerät anweist, Bilder, Videos, Audiodateien und Ähnliches auszuwählen, um sie in den Inhalt 14 der Social Media-Nachricht einzuschließen. Als solches kann der Nutzer mit der GUI 12 interagieren, um den Inhalt 14 einer Social Media-Nachricht einzugeben, die in einem sozialen Netzwerkdienst 32 gepostet werden soll.
Im Beispiel in 1 hat der Nutzer potenziell verfänglichen oder beleidigenden Inhalt als Inhalt 14 einer Social Media-Nachricht verfasst oder auf andere Weise eingegeben. Eine Social Media-Nachricht kann jeden Inhalt haben, der von einem Nutzer erstellt wurde und der über den sozialen Netzwerkdienst 32 geteilt werden soll. Beispiele von Social Media-Nachrichten können soziale Netzwerk-Updates, Kommentare zu sozialen Netzwerk-Updates, die von anderen Nutzern gepostet werden, Antworten auf Kommentare anderer Nutzer im sozialen Netzwerkdienst 32, Restaurantbewertungen, Location Check-Ins und Ähnliches sein. Wie oben angesprochen, kann der Inhalt 14 einer Social Media-Nachricht Text, Bilder, Videos und Ähnliches enthalten. Im Beispiel hat der Nutzer auch den vorgesehenen Audience Selector 15 verwendet, um die vorgesehene Zielgruppe von „Friends (Freunden)“ als die vorgesehene Zielgruppe für die Social Media-Nachricht auszuwählen.
Das Computergerät 2 kann eine Angabe zu einer Eingabe empfangen, die das Computergerät 2 anweist, den Inhalt 14 im sozialen Netzwerkdienst 32 zu posten. Zu diesem Zweck kann der Nutzer die Posten-Taste 16 auswählen. Beispielsweise kann der Nutzer des Computergeräts 2 eine Eingabe 17 an UI-Einheit 4 ausführen, um die Posten-Taste 16 anzuklicken oder auf andere Weise auszuwählen. Die UI-Einheit 4 kann eine Eingabe 17 erkennen und eine Angabe der Eingabe an das UI-Modul 6 senden. Das UI-Modul 6 kann Daten an die soziale Netzwerkanwendung 10A basierend auf der empfangenen Angabe bereitstellen und die soziale Netzwerkanwendung 10A kann bestimmen, dass die Eingabe 17 einer Auswahl der Posten-Taste 16 entspricht.
Als Reaktion auf den Empfang der Daten, die eine Nutzerauswahl über die Posten-Taste 16 anzeigen (z. B. eine Angabe zur Eingabe 17), kann die soziale Netzwerkanwendung 10A mit dem sozialen Netzwerk-Serversystem 28 über das Netzwerk 26 kommunizieren, um dem sozialen Netzwerk-Serversystem 28 eine Abfrage zu senden, die Social Media-Nachricht, die in Inhalt 14 enthalten ist, in einem sozialen Netzwerkdienst 32 zu posten. Die soziale Netzwerkanwendung 10A kann Daten kommunizieren, wie beispielsweise eine Angabe zum Inhalt 14 der Social Media-Nachricht, zusammen mit den Angaben zu kontextabhängigen Informationen, die mit der Social Media-Nachricht verbunden sind, an das soziale Netzwerk-Serversystem 28 des sozialen Netzwerk-Serversystems 28 als Teil der Abfrage. Diese kontextabhängigen Informationen können einschließen, sind aber nicht beschränkt darauf, eine Angabe des Nutzers, der versucht, die Social Media-Nachricht zu posten, eine Angabe der Uhrzeit und des Datums, an dem der Nutzer versucht, die Social Media-Nachricht zu posten, eine Angabe des geographischen Standorts des Nutzers, eine Angabe des Computergeräts 2, von dem aus der Nutzer versucht, die Social Media-Nachricht zu posten, eine Angabe der bestimmten Zielgruppe der Social Media-Nachricht, eine Angabe der Tätigkeit, aus der das Computergerät 2 abgeleitet hat, dass der Nutzer beteiligt ist, und Ähnliches.
Wie in 1 dargestellt, kann das soziale Netzwerk-Serversystem 28 das Regel-Modul 30 und den sozialen Netzwerkdienst 32 enthalten. Das soziale Netzwerk-Serversystem 28 kann die Abfrage zum Posten der Social Media-Nachricht von der sozialen Netzwerkanwendung 10A des Computergeräts 2 über Netzwerk 26 empfangen. Vor dem Posten der Social Media-Nachricht im sozialen Netzwerkdienst 32 kann der soziale Netzwerkdienst 32 das Regel-Modul 30 einsetzen, um eine oder mehrere Regeln auf den Inhalt 14 der Social Media-Nachricht anzuwenden, die als Teil der Abfrage eingeschlossen ist, um zu bestimmen, ob eine Warnmeldung an das Computergerät 2 erzeugt und ausgegeben werden soll, um den Nutzer zu warnen, dass die Social Media-Nachricht potenziell beleidigenden oder verfänglichen Inhalt, persönlich sensiblen Inhalt oder Ähnliches hat.
Um zu bestimmen, ob eine Warnmeldung an das Computergerät 2 erzeugt und ausgegeben werden soll, um den Nutzer zu warnen, dass die Social Media-Nachricht potenziell beleidigenden, verfänglichen oder persönlich sensiblen Inhalt hat, kann der soziale Netzwerkdienst 32 eine Wahrscheinlichkeit bestimmen, dass der Nutzer den Inhalt 14 der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerkdienst 32 gepostet hat. Das Ändern des Inhalts 14 der Social Media-Nachricht kann die Bearbeitung des Inhalts 14 einschließen, um einige Teile (aber nicht alle) des Inhalts 14 zu entfernen, die als beleidigend, verfänglich oder persönlich sensibel betrachtet werden, die Bearbeitung des Inhalts 14, um solche Teile des Inhalts 14 durch zusätzlichen Inhalt zu ersetzen (z. B. Austausch eines Satzes in der Social Media-Nachricht durch einen anderen Satz oder Austausch eines Bildes in der Social Media-Nachricht durch ein anderes Bild) oder das Löschen der Social Media-Nachricht 14. Dabei kann die Änderung der Social Media-Nachricht die Bearbeitung des Inhalts 14 einschließen, um mindestens einen Teil des Inhalts 14 zu ersetzen oder die Social Media-Nachricht zu löschen.
Es ist äußerst wahrscheinlich, dass der Nutzer, nachdem er eine Social Media-Nachricht gepostet hat, die gepostete Social Media-Nachricht ändern würde, wenn sie den Inhalt 14 enthält, der beispielsweise beleidigend oder verfänglich ist oder den Nutzer auf andere Weise in einem negativen Licht darstellt, oder um die Social Media-Nachricht zu bearbeiten und diese beleidigenden oder verfänglichen Teile des Inhalts 14 zu entfernen oder zu ersetzen. Demnach kann der soziale Netzwerkdienst 32 vor dem Posten der Social Media-Nachricht eine Wahrscheinlichkeit bestimmen, dass der Nutzer, nachdem er die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet hat, den Inhalt 14 der Social Media-Nachricht als Proxy ändert, um zu bestimmen, ob die Social Media-Nachricht den Inhalt 14 hat, der potenziell beleidigend oder verfänglich ist oder den Nutzer in einem negativen Licht darstellt, oder ob die Social Media-Nachricht persönlich sensible Informationen enthält (z. B. Kreditkartennummern, Sozialversicherungsnummern, Passwörter und ähnliches), die der Nutzer anderen Nutzern des sozialen Netzwerkdienstes 32 nicht öffentlich zugänglich machen möchte.
Zu diesem Zweck kann der soziale Netzwerkdienst 32 das Regel-Modul 30 einsetzen, um die Social Media-Nachricht auf eine Reihe von Regeln zu überprüfen. Der Regelsatz kann Eigenschaften der Social Media-Nachrichten aufführen, die angeben können, dass die Wahrscheinlichkeit bei diesen Social Media-Nachrichten höher ist, dass sie von den Verfassern der Social Media-Nachrichten geändert (z. B. gelöscht) werden, nachdem die Social Media-Nachrichten im sozialen Netzwerkdienst 32 gepostet wurden.
Der Regelsatz kann Eigenschaften des Inhalts (z. B. Inhalt 14) der Social Media-Nachrichten festlegen, die angeben können, dass die Wahrscheinlichkeit bei diesen Social Media-Nachrichten höher ist, dass sie gelöscht werden, nachdem die Social Media-Nachrichten im sozialen Netzwerkdienst 32 gepostet wurden. Wenn beispielsweise der Inhalt einer Social Media-Nachricht bestimmte Wörter enthält (z. B. Schimpfwörter) oder ein Bild enthält, in dem mindestens 90% der Bildpixel die Farbe menschlicher Haut haben, kann diese Eigenschaft anzeigen, dass die Social Media-Nachricht eine relativ höhere Wahrscheinlichkeit hat, dass sie nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, geändert wird.
Der Regelsatz kann auch Eigenschaften von Social Media-Nachrichten spezifizieren, anders als die Eigenschaften des Inhalts der Social Media-Nachrichten, die angeben können, dass die Wahrscheinlichkeit bei diesen Social Media-Nachrichten höher ist, dass sie geändert werden, nachdem die Social Media-Nachrichten im sozialen Netzwerkdienst 32 gepostet wurden. Diese Eigenschaften der Social Media-Nachrichten können die Uhrzeit einschließen, zu der die Social Media-Nachricht erstellt wurde, den geographischen Standort des Computergeräts 2, an dem die Social Media-Nachricht verfasst wurde und Ähnliches. Wenn beispielsweise der soziale Netzwerkdienst 32 eine Abfrage zum Posten einer Social Media-Nachricht empfängt, die zwischen Mitternacht und 8 Uhr morgens verfasst wurde, und wenn der geographische Standort des Computergeräts, an dem die Social Media-Nachricht verfasst wurde, einer Bar oder einem Nachtclub entspricht, dann können diese Eigenschaften anzeigen, dass die Social Media-Nachricht eine höhere Wahrscheinlichkeit hat, geändert zu werden, nachdem sie gepostet wurde.
In einigen Beispielen können die Regeln, die auf Social Media-Nachrichten angewendet werden, um die Wahrscheinlichkeit zu bestimmen, dass der Nutzer den Inhalt 14 der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, mindestens teilweise von der vorgesehenen Zielgruppe der Social Media-Nachricht abhängen. Wenn beispielsweise die vorgesehene Zielgruppe nur den Nutzer einschließt, der die Social Media-Nachricht verfasst hat, kann das Regel-Modul 30 keine der Regeln anwenden und nicht bestimmen, ob der Nutzer den Inhalt 14 der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. In einem weiteren Beispiel, wenn die vorgesehene Zielgruppe Nutzer einschließt, die als Freunde des Nutzers betrachtet werden, würde das Regel-Modul 30 von der Anwendung der Regeln absehen, hinsichtlich der Schimpfwörter im Inhalt 14 des Netzwerkdienstes 32. Im Gegensatz dazu, wenn die vorgesehene Zielgruppe Nutzer einschließt, die als Mitarbeiter des Nutzers betrachtet werden, würde das Regel-Modul 30 die Regeln für Schimpfwörter im Inhalt 14 des Netzwerkdienstes 32 anwenden. Demnach kann der Regelsatz, der auf die Social Media-Nachricht angewendet wird, mindestens teilweise von der vorgesehenen Zielgruppe der Social Media-Nachricht abhängen.
Der Regelsatz, den das Regel-Modul 30 auf die Social Media-Nachrichten anwenden kann, kann auf verschiedene Weise erzeugt werden. Der Regelsatz kann eine oder mehrere Regeln einschließen, die manuell erstellt werden, wie beispielsweise von Administratoren des sozialen Netzwerkdienstes 32 oder anderen geeigneten Autoren dieser Regeln. Die Administratoren des sozialen Netzwerkdienstes 32 oder andere geeignete Autoren können die Regeln durch Spezifizierung der Eigenschaften der Social Media-Nachricht verfassen (z. B. spezifische Wörter oder Sätze, die in den Inhalt eingebunden sind), die angeben können, dass die Social Media-Nachricht eine höhere Wahrscheinlichkeit hat, gelöscht zu werden.
Der Regelsatz kann auch eine oder mehrere Regeln einschließen, wie Regel-Modul 30, die basierend auf früheren Handlungen des Nutzers, der die Social Media-Nachricht verfasst hat, erzeugt werden. Das Regel-Modul 32 kann die eine oder die mehreren Regeln basierend auf früheren Social Media-Nachrichten erstellen, die gepostet und später vom Nutzer geändert wurden. Beispielsweise kann das Regel-Modul 30 maschinelles Lernen bezüglich der früheren Social Media-Nachrichten ausführen, um die allgemeinen Eigenschaften dieser vorherigen Social Media-Nachrichten kennenzulernen, die dem Regel-Modul 30 signalisieren oder anzeigen können, dass bei dem Nutzer eine hohe Wahrscheinlichkeit besteht, dass er die Social Media-Nachrichten ändert. Wie oben angesprochen, kann der soziale Netzwerkdienst 32 die Wahrscheinlichkeit bestimmen, dass der Nutzer, nachdem er die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet hat, den Inhalt 14 der Social Media-Nachricht als Proxy ändert, um zu bestimmen, ob die Social Media-Nachricht einen Inhalt 14 hat, der potenziell beleidigend oder verfänglich ist oder in anderer Weise ein negatives Licht auf den Nutzer wirft. Demnach kann durch die Analyse des Satzes von Social Media-Nachrichten, die gepostet und dann später vom Nutzer geändert wurden, das Regel-Modul 30 die allgemeinen Eigenschaften dieser Posts bestimmen, die dem Regel-Modul 30 signalisieren oder anzeigen, dass bei dem Nutzer eine hohe Wahrscheinlichkeit besteht, dass er die Social Media-Nachrichten nach dem Posten ändert, die zumindest einige dieser allgemeinen Eigenschaften haben.
Das Regel-Modul 30 kann maschinelles Lernen auf Social Media-Nachrichten anwenden, die gepostet und dann später vom Nutzer gelöscht wurden, um ein Modell basierend auf diesen Social Media-Nachrichten einzuüben. Auf diese Weise kann das Regel-Modul 30 allgemeine Eigenschaften dieser zuvor geposteten und dann geänderten Social Media-Nachrichten bestimmen und Regeln basierend auf diesen allgemeinen Eigenschaften, wie sie vom Regel-Modul 30 bestimmt wurden, aufstellen. Das Regel-Modul 30 kann eine Social Media-Nachricht in das maschinengeschulte Modul eingeben, als Antwort kann das maschinengeschulte Modul die Wahrscheinlichkeit ausgeben, dass der Nutzer den Inhalt 14 der Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde.
Der von Regel-Modul 30 verwendete Regelsatz kann auch eine oder mehrere Regeln einschließen, die das Regel-Modul 30 basierend auf den Social Media-Nachrichten erzeugen kann, die von einer Vielzahl von Nutzern des sozialen Netzwerkdienstes 32 gepostet und später geändert wurden. In diesem Fall kann, statt nur den Satz der Social Media-Nachrichten zu analysieren, die von einem einzelnen Nutzer gepostet und dann später geändert wurden, das Regel-Modul 30 das maschinelle Lernen auf einen Satz von Social Media-Nachrichten anwenden, die von einer entsprechenden Vielzahl von Nutzern des sozialen Netzwerkdienstes 32 gepostet und dann später geändert wurden, um die allgemeinen Eigenschaften dieser zuvor geposteten und später geänderten Social Media-Nachrichten zu bestimmen und Regeln basierend auf diesen allgemeinen Eigenschaften, wie sie vom Regel-Modul 30 bestimmt wurden, zu erstellen. Die Social Media-Nachrichten, die von Nutzern des sozialen Netzwerkdienstes 32 gepostet und dann später geändert wurden, können auch von dem Nutzer verfasste Social Media-Nachrichten einschließen, bei denen zuvor festgestellt wurde, dass sie Inhalte haben, die potenziell beleidigend, verfänglich sind oder auf andere Weise ein negatives Licht auf einen oder mehrere Nutzer werfen, die der eine oder die mehreren Nutzer nach der Feststellung dann entschieden haben, nicht im sozialen Netzwerkdienst 32 zu posten.
Das Regel-Modul 30 kann eine Punktzahl für die Social Media-Nachricht erzeugen, die zumindest teilweise auf der Anwendung des Regelsatzes auf die Social Media-Nachricht basiert. Diese Punktzahl kann der Wahrscheinlichkeit entsprechen, dass der Nutzer, nachdem er den Post veröffentlicht hat, den Inhalt des Posts ändern wird. Wenn die Punktzahl für die Social Media-Nachricht einen Wahrscheinlichkeits-Grenzwert überschreitet, kann der soziale Netzwerkdienst 32 feststellen, ob die Wahrscheinlichkeit, dass der Nutzer, nachdem er den Post veröffentlicht hat, den Inhalt des Posts ändert, ebenfalls den Wahrscheinlichkeits-Grenzwert überschreitet.
In diesem Beispiel, in dem eine Regel einen Satz von Schimpfwörtern spezifiziert, kann das Regel-Modul 30 eine Punktzahl für die Social Media-Nachricht erzeugen, die den Wahrscheinlichkeits-Grenzwert überschreitet, wenn der Inhalt 14 der Social Media-Nachricht nur eines aus dem Satz der Schimpfwörter, die von der Regel spezifiziert wurden, enthält. In einem weiteren Beispiel kann das Regel-Modul 30 eine Punktzahl der Social Media-Nachricht erzeugen, die den Wahrscheinlichkeits-Grenzwert nicht überschreitet, wenn der Inhalt 14 der Social Media-Nachricht nur eines des Satzes von Schimpfwörtern, die von der Regel spezifiziert wurden, enthält, aber kann eine Punktzahl für die Social Media-Nachricht erzeugen, die den Wahrscheinlichkeits-Grenzwert überschreitet, wenn der Inhalt 14 der Social Media-Nachricht mehr als eine vorher festgelegte Anzahl des Satzes von Schimpfwörtern, die von der Regel spezifiziert wurden, enthält. In weiteren Beispielen kann das Regel-Modul 30 einen Regelsatz anwenden, um entsprechende Punktzahlen für die Social Media-Nachricht zu erzeugen, wobei die Punktzahl, die durch Anwendung einer einzelnen Regel entstanden ist, den Wahrscheinlichkeits-Grenzwert nicht überschreitet, aber wobei die Gesamtpunktzahl aus der Anwendung mehrerer Regeln des Regelsatzes auf die Social Media-Nachricht den Wahrscheinlichkeits-Grenzwert überschreitet. Es versteht sich, dass die oben genannten Beispiele nur einige der möglichen Wege sind, eine Punktzahl der Social Media-Nachricht basierend auf der Anwendung eines Regelsatzes zu bestimmen, und dass jede andere geeignete Technik für die Anwendung eines Regelsatzes auf eine Social Media-Nachricht, um eine Punktzahl für die Social Media-Nachricht zu erzeugen, gleichermaßen anwendbar sein kann.
Als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändert, einen Grenzwert überschreitet, kann der soziale Netzwerkdienst 32 davon Abstand nehmen, einen Post der Social Media-Nachricht im sozialen Netzwerkdienst 32 zu veröffentlichen, und kann eine Warnmeldung ausgeben. Die Warnmeldung kann angeben, dass der soziale Netzwerkdienst 32 festgestellt hat, dass die Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, einen Wahrscheinlichkeits-Grenzwert überschreitet. In einigen Beispielen kann die Warnmeldung die Social Media-Nachricht ermitteln. Die Warnmeldung kann auch spezifische Teile des Inhalts 14 ermitteln, bei denen der soziale Netzwerkdienst 32 festgestellt hat, dass sie möglicherweise verfänglichen, beleidigenden und/oder persönlich sensiblen Inhalt haben.
Der soziale Netzwerkdienst 32 kann eine Angabe der Warnmeldung an die soziale Netzwerkanwendung 10A weitergeben, die auf dem Computergerät 2 über Netzwerk 28 ausgeführt wird. Als Reaktion auf den Empfang der Angabe zu der Warnmeldung vom sozialen Netzwerkdienst 32, kann die soziale Netzwerkanwendung 10A den Nutzer über die Warnmeldung, anhand der Ausgabe einer Benachrichtigung, einer Meldung oder ähnlichen Anzeige, informieren. Die soziale Netzwerkanwendung 10A kann veranlassen, dass eine oder mehrere Komponenten des Computergeräts 2 eine Benachrichtigung, eine Meldung oder Ähnliches ausgeben (z. B. als Anzeige für den Nutzer des Computergeräts 2), die angibt, dass die soziale Netzwerkanwendung 10A eine solche Warnmeldung vom sozialen Netzwerkdienst 32 erhalten hat. Die soziale Netzwerkanwendung 10A kann Daten an das UI-Modul 6 senden, um die UI-Einheit 4 dazu zu veranlassen, die GUI 18 anzuzeigen. Wie im Beispiel in 1 dargestellt, schließt die GUI 18 die Meldung 20 ein, die dem Nutzer des Computergeräts 2 angibt, dass die Social Media-Nachricht, die der Nutzer im sozialen Netzwerkdienst 32 posten wollte, potenziell verfänglichen oder beleidigenden Inhalt umfasst. In einigen Beispielen kann die Meldung 20 auch spezifische Teile des Inhalts 14 ermitteln, bei denen der soziale Netzwerkdienst 32 festgestellt hat, dass sie möglicherweise verfänglichen oder beleidigenden Inhalt umfassen.
Die soziale Netzwerkanwendung 10A kann auch Daten an das UI-Modul 6 senden, um die UI-Einheit 4 dazu zu veranlassen, die „Post (Posten)“-Taste 22 und die „Do not Post (Nicht Posten)“-Taste 24 anzuzeigen. Wenn die UI-Einheit 4 eine Eingabe erkennt, die die „Post (Posten)“-Taste 22 auswählt, kann das UI-Modul 6 der sozialen Netzwerkanwendung 10A basierend auf der empfangenen Angabe Daten bereitstellen und die soziale Netzwerkanwendung 10A kann bestimmen, dass die Eingabe, die von der UI-Einheit 4 erkannt wurde, einer Auswahl der „Post (Posten)“-Taste 22 entspricht. Als Reaktion auf den Empfang der Daten, die angeben, dass der Nutzer die „Post (Posten)“-Taste 22 ausgewählt hat, kann die soziale Netzwerkanwendung 10A mit dem sozialen Netzwerk-Serversystem 28 über Netzwerk 26 kommunizieren, um eine Bestätigung zu senden, dass der Nutzer die Social Media-Nachricht im sozialen Netzwerkdienst 32 posten möchte.
Wenn die UI-Einheit 4 eine Eingabe erkennt, die die „Do not Post (Nicht Posten)“-Taste 24 auswählt, kann das UI-Modul 6 der sozialen Netzwerkanwendung 10A basierend auf der empfangenen Angabe Daten bereitstellen und die soziale Netzwerkanwendung 10A kann bestimmen, dass die Eingabe, die von der UI-Einheit 4 erkannt wurde, einer Auswahl der „Do not Post (Nicht Posten)“-Taste 24 entspricht. Als Reaktion auf den Empfang der Daten, die angeben, dass der Nutzer die „Do not Post (Nicht Posten)“-Taste 24 ausgewählt hat, kann die soziale Netzwerkanwendung 10A mit dem sozialen Netzwerk-Serversystem 28 über Netzwerk 26 kommunizieren, um eine Bestätigung zu senden, dass der Nutzer die Social Media-Nachricht im sozialen Netzwerkdienst 32 nicht posten möchte.
Alternativ, als Reaktion auf den Empfang der Daten, die angeben, dass der Nutzer die „Do not Post (Nicht Posten)“-Taste 24 ausgewählt hat, kann die soziale Netzwerkanwendung 10A von einer weiteren Kommunikation mit dem sozialen Netzwerkdienst 32 hinsichtlich der Social Media-Nachricht absehen. Die soziale Netzwerkanwendung 10A kann beispielsweise die Social Media-Nachricht verwerfen oder die Social Media-Nachricht speichern (zum Beispiel in einen Entwurf-Ordner), damit der Nutzer zu einem späteren Zeitpunkt entscheiden kann, ob er die Social Media-Nachricht posten möchte.
Darüber hinaus, als Reaktion auf den Empfang der Daten, die angeben, dass der Nutzer die „Do not Post (Nicht Posten)“-Taste 24 ausgewählt hat, kann die Netzwerkanwendung 10A dem Nutzer auch eine Gelegenheit geben, den Inhalt 14 der Social Media-Nachricht zu bearbeiten, Teile des Inhalts 14 zu löschen oder zu ändern, bei denen der soziale Netzwerkdienst 32 festgestellt hat, dass sie potenziell verfänglichen oder beleidigenden Inhalt haben. Wenn die soziale Netzwerkanwendung 10A eine Warnmeldung vom sozialen Netzwerkdienst 32 empfängt, dass Teile des Inhalts 14 möglicherweise verfänglichen oder beleidigenden Inhalt haben, kann die soziale Netzwerkanwendung 10A diese erkannten Teile des Inhalts 14 markieren. Beispielsweise kann die soziale Netzwerkanwendung 10A Daten an das UI-Modul 6 senden, um die UI-Einheit 4 dazu zu veranlassen, diese Teile des Inhalts 14 visuell hervorzuheben (z. B. durch visuelles Markieren).
Durch die Feststellung, dass ein Nutzer versucht, eine Social Media-Nachricht im sozialen Netzwerkdienst zu posten (z. B. im sozialen Netzwerkdienst 32), bei der eine Wahrscheinlichkeit besteht, dass der Nutzer sie löscht oder auf andere Weise ändert, nachdem sie im sozialen Netzwerkdienst gepostet wurde, und durch die Erzeugung einer Warnmeldung, die den Nutzer über diese Feststellung benachrichtigt, können die hier offengelegten Techniken die im Computersystem (z. B. im sozialen Netzwerk-Serversystem 28), auf dem der soziale Netzwerkdienst ausgeführt wird, erforderliche Verarbeitungsmenge reduzieren. Beispielsweise können die hier offengelegten Techniken die Anzahl der befremdlichen Social Media-Nachrichten, die im sozialen Netzwerkdienst gepostet werden, reduzieren und damit die im Computersystem für den Post der Social Media-Nachrichten und die Verbreitung der Social Media-Nachrichten im sozialen Netzwerk erforderliche Verarbeitungsmenge verringern. Die hier offengelegten Techniken können auch die im Computersystem für das Löschen der befremdlichen Social Media-Nachrichten erforderliche Verarbeitungsmenge reduzieren. Als solches können die hier offengelegten Techniken potenziell die Leistung des sozialen Netzwerkdienstes, der im Computersystem ausgeführt wird, verbessern.
Darüber hinaus schließen die hier offengelegten Techniken die Anwendung eines Regelsatzes für den Inhalt einer Social Media-Nachricht ein, um zu bestimmen, ob eine Wahrscheinlichkeit besteht, dass der Nutzer sie löscht oder auf andere Weise ändert, nachdem sie im sozialen Netzwerkdienst gepostet wurde. Durch die Aufstellung einer oder mehrerer Regeln basierend auf vorherigen von dem Nutzer geposteten und dann später gelöschten Social Media-Nachrichten können die hier offengelegten Techniken die Social Media-Nachrichten genauer identifizieren, bei denen eine Wahrscheinlichkeit besteht, dass sie gelöscht werden, nachdem sie im sozialen Netzwerkdienst gepostet wurden. Durch eine genauere Identifizierung dieser Social Media-Nachrichten, bei denen eine Wahrscheinlichkeit besteht, dass sie gelöscht oder auf andere Weise geändert werden, nachdem sie im sozialen Netzwerkdienst gepostet wurden, kann der soziale Netzwerkdienst potenziell die Anzahl der Warnmeldungen reduzieren, die er bezüglich falsch positiver Resultate ausgibt und über das Netzwerk versendet, ebenso die Anzahl der Abfragen, die er über das Netzwerk empfängt, diese Social Media-Nachrichten zu löschen, und dadurch auch die Menge des Traffic über das Netzwerk (z. B. Netzwerk 26) reduzieren.
Darüber hinaus können die hier offengelegten Techniken, durch die Identifizierung dieser Social Media-Nachrichten, bei denen eine Wahrscheinlichkeit besteht, dass sie gelöscht oder auf andere Weise geändert werden, nachdem sie im sozialen Netzwerkdienst gepostet wurden, den Nutzer oder die Nutzer, der/die diese identifizierten Social Media-Nachrichten verfasst hat/haben, in die Lage versetzen, auf das Posten dieser Social Media-Nachrichten im sozialen Netzwerkdienst zu verzichten. Durch das Nicht-Posten dieser Social Media-Nachrichten, bei denen eine Wahrscheinlichkeit festgestellt wurde, dass sie gelöscht oder auf andere Weise nach dem Posten verändert werden, muss der Nutzer oder müssen die Nutzer nicht weiter mit der sozialen Netzwerkanwendung (z. B. soziale Netzwerkanwendung 10A) interagieren, um diese Social Media-Nachrichten zu löschen. Durch die potenzielle Reduzierung der Anzahl der Male, die der Nutzer oder die Nutzer mit der sozialen Netzwerkanwendung interagieren muss/müssen, können die hier offengelegten Techniken das Computergerät, das die soziale Netzwerkanwendung ausführt (z. B. Computergerät 2) in die Lage versetzen, die Anzahl der Verarbeitungszyklen, die benötigt werden, um die soziale Netzwerkanwendung auszuführen, zu reduzieren und damit auch den Stromverbrauch zu verringern. Diese Stromeinsparung kann nützlich sein, wenn das Computergerät ein mobiles Computergerät ist, das hauptsächlich im Akkubetrieb läuft. Als solches können die hier offengelegten Techniken die Funktion des Computers oder Computersystems selbst (z. B. das soziale Netzwerk-Serversystem 28, Computergerät 2) in vielerlei Hinsicht verbessern.
2 ist ein Blockdiagramm, das Einzelheiten eines Beispiels des sozialen Netzwerk-Serversystems 28 darstellt, das so konfiguriert sein kann, dass es bestimmt, ob ein Nutzer, der eine Social Media-Nachricht verfasst hat, die Social Media-Nachricht, gemäß einer oder mehrerer Techniken der vorliegenden Offenbarung, möglicherweise später ändert. 2 wird unten im Zusammenhang mit 1 beschrieben. 2 stellt nur ein bestimmtes Beispiel des sozialen Netzwerk-Serversystems 28 dar, und viele weitere Beispielgeräte mit mehr, weniger oder unterschiedlichen Komponenten sind ebenfalls konfigurierbar, um die Vorgänge, in Übereinstimmung mit den Techniken dieser Offenlegung, auszuführen.
Während die Komponenten des sozialen Netzwerk-Serversystems 28 im Beispiel in 2 als Teil eines Einzelgeräts dargestellt sind, können sie in einigen Beispielen in verschiedenen Geräten untergebracht und/oder ein Teil davon sein. Beispielsweise kann das soziale Netzwerk-Serversystem 28 in einigen Beispielen ein „Cloud“-Computersystem sein. Demnach können sich, in diesen Beispielen, die in 2 dargestellten Module über mehrere Computergeräte erstrecken. In einigen Beispielen kann das soziale Netzwerk-Serversystem 28 einen einer Vielzahl von Servern repräsentieren, die einen Server-Cluster für ein „Cloud“-Computersystem bilden.
Wie im Beispiel in 2 dargestellt, schließt das soziale Netzwerk-Serversystem 28 einen oder mehrere Prozessoren 40, eine oder mehrere Kommunikationseinheiten 42 und ein oder mehrere Speichergeräte 46 ein. Die Speichergeräte 46 enthalten darüber hinaus das soziale Netzwerk-Modul 32, das Regel-Modul 30, den sozialen Netzwerk-Datenspeicher 50A und den Regel-Datenspeicher 50B. Das Regel-Modul 30, im Beispiel in 2, schließt das Trainingsmodul 48 ein.
Jede der Komponenten 40, 42 und 46 kann zwecks Kommunikation zwischen den Komponenten (physisch, kommunikativ und/oder operativ) miteinander verbunden sein. Im Beispiel in 2 können die Komponenten 40, 42 und 46 über einen Kommunikationskanal oder mehrere Kommunikationskanäle 44 miteinander verbunden sein. In einigen Beispielen können die Kommunikationskanäle 44 einen Systembus, eine Netzwerkverbindung, eine prozessübergreifende Kommunikationsdatenstruktur oder jeden anderen Kanal zur Datenkommunikation beinhalten. Der soziale Netzwerkdienst 32, das Regel-Modul 30 und das Trainingsmodul 48 können auch Informationen untereinander austauschen, ebenso mit den Komponenten in Computergerät 2.
Im Beispiel in 2 können ein oder mehrere Prozessoren 40 die Funktionalität implementieren und/oder Anweisungen im sozialen Netzwerk-Serversystem 28 ausführen. Beispielsweise können ein oder mehrere Prozessoren 40 Anweisungen empfangen und ausführen, die in den Speichergeräten 46 gespeichert sind, die die Funktionen von Modul 30 und 48 und des sozialen Netzwerkdienstes 32 ausführen. Diese Anweisungen, die von einem oder mehreren Prozessoren 40 ausgeführt werden, können das soziale Netzwerk-Serversystem 28 dazu veranlassen, die Informationen während der Ausführung in den Speichergeräten 46 zu speichern. Der eine oder die mehreren Prozessoren 40 können Anweisungen der Module 30 und 48 und des sozialen Netzwerkdienstes 32 ausführen, um die Wahrscheinlichkeit zu bestimmen, dass ein Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerk-Serversystem gepostet wurde. Das heißt, die Module 30 und 48 und der soziale Netzwerkdienst 32 können, anhand eines oder mehrerer Prozessoren 40, verschiedene Handlungen oder Funktionen des hier beschriebenen sozialen Netzwerk-Serversystems 28 ausführen.
Im Beispiel in 2 können eine oder mehrere Kommunikationseinheiten 42 über ein oder mehrere Netzwerke (z. B. Netzwerk 26) mit externen Geräten (z. B. Computergerät 2) kommunizieren, indem sie Netzwerksignale über das eine oder die mehreren Netzwerke senden und/oder empfangen. So kann beispielsweise das soziale Netzwerk-Serversystem 28 die Kommunikationseinheiten 46 verwenden, um Funksignale in einem Funknetz, wie z. B. einem Mobilfunknetz, zu senden und/oder zu empfangen. Gleichermaßen können Kommunikationseinheiten 42 Satellitensignale in einem Satellitennetzwerk, wie z. B. einem GPS-Netzwerk (globalen Positionierungssystem), senden und/oder empfangen. Beispiele der Kommunikationseinheit 42 können eine Netzwerkschnittstellenkarte (z. B. eine Ethernetkarte), einen optischen Sendeempfänger, einen Hochfrequenz-Sendeempfänger oder jede andere Art von Vorrichtung beinhalten, die Informationen senden und/oder empfangen kann. Weitere Beispiele von Kommunikationseinheiten 42 können Nahfeldkommunikations-(NFC)-Einheiten, Bluetooth® Funk, Kurzwellenempfänger, Mobilfunkdatenradios, drahtlose Netzwerke (z. B. Wi-Fi®), sowie Universal Serial Bus (USB)-Steuereinheiten beinhalten.
Ein oder mehrere Speichergeräte 46 können im Beispiel in 2 Informationen für die Verarbeitung während des Betriebs des sozialen Netzwerk-Serversystems 28 speichern. In einigen Beispielen können die Speichergeräte 46 temporäre Speicher sein, was bedeutet, dass der Hauptzweck der Speichergeräte 46 nicht die Langzeitspeicherung ist. Beispielsweise können die Speichergeräte 50 im sozialen Netzwerk-Serversystem 28 zur Kurzzeitspeicherung von Informationen als flüchtiger Speicher konfiguriert sein, und behalten deshalb gespeicherte Inhalte nicht, wenn sie ausgeschaltet werden. Beispiele von flüchtigen Speichern enthalten Arbeitsspeicher (RAM), dynamische Arbeitsspeicher (DRAM), statische Arbeitsspeicher (SRAM) und sonstige Formen flüchtiger Speicher, die im Fachgebiet bekannt sind.
Die Speichergeräte 46 beinhalten in einigen Beispielen auch ein oder mehrere computerlesbare Speichermedien. Das heißt, die Speichergeräte 46 können größere Mengen von Informationen als flüchtige Speicher speichern. Beispielsweise können die Speichergeräte 46 nichtflüchtige Speicher einschließen, die Informationen in Einschalt-und Ausschaltzyklen beibehalten. Beispiele von nichtflüchtigen Speichern beinhalten magnetische Festplatten, optische Festplatten, Disketten, Flashspeicher oder Formen von elektrisch programmierbaren Speichern (EPROM) oder von elektrisch überschreibbaren und programmierbaren (EEPROM) Speichern. Auf jeden Fall können die Speichergeräte 46, im Beispiel in 2, Programmanweisungen und/oder Daten speichern, die mit den Modulen 30 und 48 und dem sozialen Netzwerkdienst 32 verbunden sind.
Das soziale Netzwerk-Serversystem 28 kann, im Beispiel in 2, eine Abfrage empfangen, eine Social Media-Nachricht im sozialen Netzwerkdienst 32 zu posten. Beispielsweise kann eine der Kommunikationseinheiten 46 Daten vom Computergerät 2 über Netzwerk 26 empfangen (z. B. ein drahtloses Netzwerk oder ein Mobilfunknetz). Die Kommunikationseinheiten 46 können die empfangenen Daten einem oder mehreren Anwendungsmodulen 10 bereitstellen, die dazu bestimmt sind (z. B. zuvor von einem Nutzer bestimmt wurden), die empfangenen Daten, wie ein soziales Netzwerk-Serversystem 28, zu verarbeiten.
Die empfangenen Daten können eine Angabe zu der Social Media-Nachricht, wie auch Angaben zu den Kontextdaten einschließen, die mit der Social Media-Nachricht verbunden sind. Die Angabe zu der Social Media-Nachricht kann eine Angabe zum Inhalt 14 der Social Media-Nachricht einschließen, die einen Textinhalt, audiovisuellen Inhalt und Ähnliches haben kann. In einigen Beispielen kann die Angabe zur Social Media-Nachricht die Social Media-Nachricht sein, die im sozialen Netzwerkdienst 32 gepostet werden soll. Die Angaben zu den Kontextdaten, die mit der Social Media-Nachricht verbunden sind, können eine Angabe zum Verfasser (d. h. dem Nutzer) der Social Media-Nachricht, eine Angabe zur vorgesehenen Zielgruppe der Social Media-Nachricht, dem geographischen Standort des Computergeräts, von dem die Social Media-Nachricht stammt, die daraus gefolgerte Aktivität des Nutzers, wenn der Nutzer die Social Media-Nachricht verfasst oder abgeschickt hat, die Uhrzeit, zu der der Nutzer die Social Media-Nachricht verfasst oder geschickt hat, und Ähnliches enthalten.
Der soziale Netzwerkdienst 32 kann die Angabe zur Social Media-Nachricht empfangen und vor dem Posten der Social Media-Nachricht im sozialen Netzwerkdienst 32, das Regel-Modul 30 einsetzen, um zu bestimmen, ob eine Warnmeldung ausgegeben werden soll, die anzeigt, dass beim Inhalt 14 der Social Media-Nachricht eine Wahrscheinlichkeit besteht, dass sie vom Nutzer geändert wird (z. B. dem Verfasser der Social Media-Nachricht), nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Wenn das Regel-Modul 30 feststellt, dass die Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, einen festgelegten Grenzwert überschreitet, kann der soziale Netzwerkdienst 32 vom Posten der Social Media-Nachricht absehen und eine Warnmeldung ausgeben, die an das Computergerät geschickt wird, von dem die Social Media-Nachricht stammt (z. B. Computergerät 2), um den Nutzer darauf hinzuweisen, dass die Social Media-Nachricht beleidigenden, verfänglichen oder persönlich sensiblen Inhalt enthalten kann, so dass der Nutzer entscheiden kann, auf die Veröffentlichung des Posts der Social Media-Nachricht im sozialen Netzwerkdienst 32 zu verzichten.
Wenn das Regel-Modul 30 feststellt, dass die Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, den festgelegten Grenzwert nicht überschreitet, kann der soziale Netzwerkdienst 32 die Social Media-Nachricht im sozialen Netzwerkdienst 32 posten. Alternativ, wenn der soziale Netzwerkdienst 32, nach Erzeugung der Warnmeldung, die an das Computergerät geschickt wird, von dem die Social Media-Nachricht stammt, von dem Computergerät, von dem die Social Media-Nachricht stammt, eine Angabe zur Bestätigung der Abfrage empfängt, die Social Media-Nachricht zu posten, dann kann der soziale Netzwerkdienst 32 die Social Media-Nachricht ebenfalls im sozialen Netzwerkdienst 32 posten.
Das Posten der Social Media-Nachricht im sozialen Netzwerkdienst 32 kann die Verarbeitung der Social Media-Nachricht einschließen, um die Social Media-Nachricht verfügbar zu machen, damit sie von den Nutzern des sozialen Netzwerkdienstes 32, die Mitglieder der vorgesehenen Zielgruppe der Social Media-Nachricht sind, betrachtet werden kann. Der soziale Netzwerkdienst 32 kann die Social Media-Nachricht im sozialen Netzwerk-Datenspeicher 50A als Social Media-Nachricht speichern, die mit dem Nutzer verbunden ist, der die Nachricht verfasst hat, die Betrachtungsberechtigungen für die Social Media-Nachricht ändern, damit sie nur von den Nutzern zu sehen ist, die Mitglieder der vorgesehenen Zielgruppe der Social Media-Nachricht sind, und Ähnliches. Auf diese Weise wird die Social Media-Nachricht dem sozialen Nachrichten-Feed oder der Zeitleiste des Nutzers im sozialen Netzwerkdienst 32 hinzugefügt und kann im sozialen Netzwerkdienst 32 von der vorgesehenen Zielgruppe betrachtet werden.
Dabei kann die Änderung der Social Media-Nachricht die Bearbeitung mindestens eines Teils des Inhalts 14 der Social Media-Nachricht einschließen. Die Änderung der Social Media-Nachricht kann auch das Löschen der Social Media-Nachricht aus dem sozialen Netzwerkdienst 32 einschließen. Das Löschen einer Social Media-Nachricht kann den Schritt des Entfernens der Social Media-Nachricht aus dem sozialen Netzwerkdienst 32 einschließen oder den Schritt, dass die Social Media-Nachricht nicht für andere Nutzer des sozialen Netzwerkdienstes 32 sichtbar ist.
Das Regel-Modul 30 kann eine Social Media-Nachricht auf einen Regelsatz analysieren, der im Regel-Datenspeicher 50B abgelegt ist, um die Wahrscheinlichkeit zu bestimmen, dass der Nutzer, der die Nachricht verfasst hat, den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Der Regelsatz kann Eigenschaften der Social Media-Nachrichten festlegen, die angeben können, dass die Wahrscheinlichkeit bei diesen Social Media-Nachrichten relativ höher ist, dass sie vom Nutzer geändert werden, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurden.
In einigen Beispielen kann der Regelsatz die Regeln für einen Textinhalt einschließen, der in der Social Media-Nachricht enthalten sein kann, so dass das Regel-Modul 30 die Wahrscheinlichkeit zumindest teilweise basierend auf dem Textinhalt der Social Media-Nachricht bestimmen kann. Die Regeln können die Wörter oder Sätze festlegen, die potenziell beleidigend oder verfänglich sein können oder den Verfasser der Wörter oder Sätze auf andere Weise in einem negativen Licht darstellen. Diese Wörter oder Sätze können beispielsweise Schimpfwörter und Sätze einschließen, die potenziell hasserzeugende oder verletzende Wörter oder Sätze enthalten, oder Wörter und Sätze enthalten, die potenziell rassistisch und/oder sexistisch oder ähnliches sein können. Die Wörter oder Sätze können auch persönliche Informationen des Nutzers sein, die für andere Nutzer nicht sichtbar sein sollten. Beispiele solcher Wörter oder Sätze können Kreditkartennummern, Sozialversicherungsnummern, mögliche Passwörter und Ähnliches sein. In einigen Beispielen kann das Regel-Modul 30 den Wörtern oder Sätzen, die in den Regeln festgelegt sind, Punktzahlen vergeben. Diese Punktzahlen können der Möglichkeit entsprechen, dass eine Wahrscheinlichkeit besteht, dass ein Nutzer eine Social Media-Nachricht ändert, die die assoziierten Wörter oder Sätze enthält, oder die Social Media-Nachricht ändert, indem die assoziierten Wörter oder Sätze gelöscht werden.
Das Regel-Modul 30 kann diese Regeln auf den Inhalt 14 der Social Media-Nachricht anwenden, um zu bestimmen, ob der Textinhalt der Social Media-Nachricht solche Wörter oder Sätze oder anderen Text enthält, der in diesen Regeln spezifiziert ist. In einigen Beispielen kann das Regel-Modul 30 die Social Media-Nachricht zumindest teilweise basierend auf einer Übereinstimmung der Wörter und Sätze, die von den Regeln spezifiziert sind, bewerten. Das Regel-Modul 30 kann die Social Media-Nachricht basierend auf den assoziierten Punktzahlen der Wörter oder Sätze in der Social Media-Nachricht, die in den Regeln spezifiziert sind, bewerten.
In einigen Beispielen kann der Regelsatz Regeln hinsichtlich jeder Art von Medieninhalt einschließen (z. B. Bilder, Videos und Audioaufnahmen), die in der Social Media-Nachricht enthalten sein können. Die Regeln können Eigenschaften des Medieninhalts festlegen, der potenziell persönlich sensibel oder potenziell beleidigend oder verfänglich sein könnte oder den Nutzer, der diesen Inhalt in die Social Media-Nachrichten aufgenommen hat, in einem negativen Licht darstellen könnte. Beispielsweise kann eine Regel festlegen, dass ein Bild als beleidigend oder verfänglich betrachtet wird, wenn über 90% der Bildpixel hautfarben sind. Eine weitere Beispielregel kann festlegen, dass ein Audio-Clip als beleidigend oder verfänglich betrachtet wird, wenn der Audio-Clip hörbare Schimpfwörter oder -sätze enthält.
Das Regel-Modul 30 kann diese Regeln auf den Inhalt 14 der Social Media-Nachricht anwenden, um zu bestimmen, ob der Medieninhalt der Social Media-Nachricht eine der in diesen Regeln spezifizierten Eigenschaften aufweist. In einigen Beispielen kann das Regel-Modul 30 die Social Media-Nachricht zumindest teilweise basierend auf einer Übereinstimmung der in diesen Regeln spezifizierten Eigenschaften bewerten. Das Regel-Modul 30 kann die Social Media-Nachricht basierend auf den assoziierten Punktzahlen der Eigenschaften des Medieninhalts in der Social Media-Nachricht, die in den Regeln spezifiziert sind, bewerten.
In einigen Beispielen kann der Regelsatz auch Regeln für Textinformationen einschließen, die mit der Social Media-Nachricht verbunden sind, wie beispielsweise die Uhrzeit, zu der die Social Media-Nachricht verfasst wurde, der Standort des Nutzers zu dem Zeitpunkt als die Social Media-Nachricht verfasst wurde, und Ähnliches. Beispielsweise kann eine Regel die Textinformationen kombinieren, die mit der Social Media-Nachricht verbunden sind, ebenso den Inhalt oder die Eigenschaften der Social Media-Nachricht, um die Wahrscheinlichkeit zu bewerten, dass bei einem Nutzer die Wahrscheinlichkeit besteht, dass er die Social Media-Nachricht ändert, nachdem sie gepostet wurde. Eine Regel kann beispielsweise mit einer relativ hohen Punktzahl verbunden sein, die einer hohen Wahrscheinlichkeit entspricht, dass ein Nutzer die Social Media-Nachricht ändert, wenn die Social Media-Nachricht vom Nutzer zwischen Mitternacht und 7 Uhr morgens verfasst wurde, wenn sich der Nutzer in einer Bar aufhält und wenn die Social Media-Nachricht ein Bild einschließt, das zu über 90% hautfarbene Bildpixel aufweist.
Das Regel-Modul 30 kann den Regelsatz erzeugen, der auf die Social Media-Nachrichten angewendet wird, die von einem Nutzer des sozialen Netzwerkdienstes 32 in vielerlei Hinsicht verfasst oder erstellt wurden. In einem Beispiel kann ein Administrator des sozialen Netzwerkdienstes 32 einen oder mehrere Regelsätze manuell erstellen. Beispielsweise kann der Administrator manuell eine schwarze Liste von Wörtern oder Sätzen erstellen, die beleidigend oder verfänglich sind oder auf andere Weise gegen die Dienstleistungsbedingungen des sozialen Netzwerkdienstes 32 verstoßen. Der Administrator kann in ähnlicher Weise manuell Regeln aufstellen, die pornographische oder illegale Bilder und Videoinhalte erkennen.
In diesen Beispielen, wenn das Regel-Modul 30 feststellt, dass eine Social Media-Nachricht eines der Wörter oder Sätze der schwarzen Liste enthält, oder wenn die Social Media-Nachricht Bilder oder Videoinhalte aufweist, kann das Regel-Modul 30 bestimmen, dass die Wahrscheinlichkeit, dass der Nutzer, der die Nachricht verfasst hat, den Inhalt der Social Media-Nachricht löschen oder auf andere Weise ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, einen Grenzwert überschreitet, und kann eine Warnmeldung ausgeben, die an das Computergerät des Nutzers gesendet wird. In einigen Beispielen würde der soziale Netzwerkdienst 32 verhindern, dass eine solche Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet wird, es sei denn, der beleidigende Inhalt wurde aus der Social Media-Nachricht entfernt.
In einigen Beispielen kann das Regel-Modul 30 den Regelsatz festlegen, der auf eine Social Media-Nachricht angewendet wird, zumindest teilweise basierend auf der bestimmten Zielgruppe der Social Media-Nachricht, wie sie vom Nutzer festgelegt wurde, da ein bestimmter Inhalt einer Social Media-Nachricht potenziell verfänglich oder beleidigend sein kann, wenn er von einer Nutzergruppe betrachtet wird, aber nicht potenziell verfänglich oder beleidigend sein muss, wenn er von einer anderen Nutzergruppe betrachtet wird. In einem Beispiel kann das Regel-Modul 30, wenn die vorgesehene Zielgruppe einer Social Media-Nachricht Nutzer einschließt, die als enge Freunde des Verfassers der Social Media-Nachricht betrachtet werden, davon absehen, die Regeln anzuwenden, die Schimpfwörter in Social Media-Nachricht festlegen. Auf diese Weise darf das Regel-Modul 30 die Wahrscheinlichkeit, dass der Nutzer, der die Nachricht verfasst hat, den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, nicht erhöhen, wenn der Inhalt der Social Media-Nachricht Schimpfwörter enthält, die in diesen Regeln festgelegt wurden. Im Gegensatz dazu, wenn die vorgesehene Zielgruppe der Social Media-Nachricht Nutzer einschließt, die als Mitarbeiter des Verfassers der Social Media-Nachricht betrachtet werden, kann das Regel-Modul 30 die Regeln anwenden, die Schimpfwörter in der Social Media-Nachricht festlegen. Demnach kann die Entscheidung, ob eine Regel auf eine Social Media-Nachricht angewendet wird, auch von der vorgesehenen Zielgruppe der Social Media-Nachricht abhängen. In einigen Beispielen kann der jeweilige Regelsatz mit einer Gruppe einer oder mehrerer vorgesehener Zielgruppen verbunden werden, so dass der jeweilige Regelsatz nur auf eine Social Media-Nachricht angewendet werden muss, die für mindestens eine der einen oder mehreren vorgesehenen Zielgruppen sichtbar ist, die mit der entsprechenden Regel verbunden ist/sind.
In einem Beispiel kann das Regel-Modul 30 einen oder mehrere Regelsätze für einen Nutzer erstellen, zumindest teilweise basierend auf dem früheren Verhalten des Nutzers bei der Interaktion mit dem sozialen Netzwerkdienst 32, wie beispielsweise die früheren Aktionen des Nutzers bei früheren Social Media-Nachrichten, die vom Nutzer verfasst und im sozialen Netzwerkdienst 32 gepostet wurden. Diese früheren Aktionen des Nutzers können die Änderung des Inhalts der früheren Social Media-Nachrichten oder das Löschen der früheren Social Media-Nachrichten einschließen. Das Regel-Modul 30 kann einen oder mehrere Regelsätze für einen Nutzer erstellen, zumindest teilweise basierend auf den Social Media-Nachrichten, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert oder gelöscht hat. Das Regel-Modul 30 kann diese eine oder die mehreren Regeln basierend auf dem Inhalt dieser zuvor geposteten Social Media-Nachrichten, den kontextabhängigen Informationen, die sich auf die Social Media-Nachrichten beziehen, wie den Standort des Nutzers, als der Nutzer die Social Media-Nachrichten verfasst oder gepostet hat, der Aktivität, mit der der Nutzer befasst war, als er die Social Media-Nachrichten verfasst oder gepostet hat, und Ähnlichem erstellen.
In einigen Beispielen kann das Regel-Modul 30 einen oder mehrere Regelsätze für einen Nutzer erstellen, zumindest teilweise basierend auf früheren Social Media-Nachrichten, die im sozialen Netzwerkdienst 32 gepostet wurden und dann später vom Nutzer innerhalb eines Zeitrahmens, nachdem die entsprechenden früheren Social Media-Nachrichten gepostet worden waren, wieder gelöscht wurden. Wenn ein Nutzer eine Social Media-Nachricht kurz nachdem die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet wurde, ändert, ist es wahrscheinlich, dass die Social Media-Nachricht einen Inhalt hatte, der verfänglich, beleidigend oder persönlich sensibel war. Wenn andererseits ein Nutzer eine Social Media-Nachricht Jahre nachdem die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet wurde, ändert, ist es wahrscheinlicher, dass der Nutzer die Social Media-Nachricht aus anderen Gründen geändert hat, als dass deren Inhalt verfänglich, beleidigend oder persönlich sensibel war. Demnach kann in einigen Beispielen der Zeitrahmen, in dem ein Nutzer eine frühere Social Media-Nachricht ändert, ein Tag, 8 Stunden, eine Stunde oder Ähnliches sein, und das Regel-Modul 30 kann einen oder mehrere Regelsätze für einen Nutzer erstellen, zumindest teilweise basierend auf früheren im sozialen Netzwerkdienst 32 geposteten und dann später von dem Nutzer innerhalb des spezifischen Zeitrahmens wieder gelöschten Social Media-Nachrichten.
Ein solches Protokoll eines Nutzerverlaufs kann im sozialen Netzwerk-Datenspeicher 50A gespeichert sein. Das Protokoll des Nutzerverlaufs wird, beispielsweise über Verschlüsselung, im sozialen Netzwerk-Datenspeicher 50A gesichert, und kann vom Nutzer verwaltet werden, so dass der Nutzer das Protokoll löschen oder den Zugriff des Regel-Moduls 30 auf das Protokoll beschränken kann. In einigen Beispielen kann das Regel-Modul 30 eine Warnmeldung vor der Nutzung des Protokolls des Nutzerverlaufs ausgeben, so dass der Nutzer explizit zulassen oder ablehnen kann, ob das Regel-Modul 30 Zugriff auf das Protokoll erhält. In einigen Beispielen kann der soziale Netzwerkdienst 30 kein Protokoll des Nutzerverlaufs im sozialen Netzwerk-Datenspeicher 50A speichern, es sei denn der Nutzer entscheidet sich explizit für die Speicherung des Nutzerverlaufs. In einigen Beispielen wird das Protokoll des Nutzerverlaufs in regelmäßigen Abständen aus dem sozialen Netzwerk-Datenspeicher 50A gelöscht, wie beispielsweise jeden Tag, jede Woche, jeden Monat und so weiter.
Das Regel-Modul 30 kann das Trainingsmodul 48 nutzen, um das maschinelle Lernen über die Social Media-Nachrichten auszuführen, das der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat, um die Eigenschaften der Social Media-Nachrichten kennenzulernen, die es wahrscheinlicher machen, dass der Nutzer den Post später ändert, und um einen oder mehrere Regelsätze für den Nutzer zu erstellen. Durch die Ausführung des maschinellen Lernens bei diesen Social Media-Nachrichten, kann das Trainingsmodul 48 ein maschinengeschultes Modell erzeugen, um für eine Social Media-Nachricht die Wahrscheinlichkeit bestimmen zu können, dass ein Nutzer die Social Media-Nachricht später ändert (z. B. löscht), nachdem die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet wurde, zumindest teilweise darauf basierend, ob die Social Media-Nachricht die über die Social Media-Nachrichten kennengelernten Eigenschaften enthält, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat.
Das Regel-Modul 30 kann ein geeignetes Modell des maschinellen Lernens nutzen, um das maschinelle Lernen über die Social Media-Nachrichten, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat, auszuführen. In einem Beispiel kann das Regel-Modul 30 einen Entscheidungsbaum nutzen, der anhand des Inhalts der Social Media-Nachrichten, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat, geschult werden kann. In diesem Beispiel kann das Regel-Modul 30 das Modell über diese Social Media-Nachrichten schulen, um bestimmte Wörter, Sätze, Medieninhalt- (z. B. audiovisuelle) Eigenschaften und Ähnliches zu erkennen, die zum Inhalt dieser Social Media-Nachrichten gehören und die es wahrscheinlicher machen, dass diese Social Media-Nachrichten später vom Nutzer geändert werden. Damit ein Nutzer Wörter, Sätze oder Medieninhalt-Eigenschaften und Ähnliches nicht manuell festlegen muss, kann das Regel-Modul 30 einen oder mehrere Regelsätze erstellen, die diese Wörter, Sätze, Eigenschaften und Ähnliches über maschinelles Lernen festlegen, um ein Modell für Social Media-Nachrichten zu schulen, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat.
In einem weiteren Beispiel kann das Regel-Modul 30 alternativ oder zusätzlich zum Entscheidungsbaum, ein neuronales Netz verwenden, das das Verhalten des Nutzers formt und dabei über die Zeit verschiedene Signale einbezieht. Ein nicht-exklusives Beispiel eines neuronalen Netzes ist ein rekurrentes neuronales Netz. Zusätzlich zum Inhalt der Social Media-Nachrichten, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet hat und dann später geändert oder aus dem sozialen Netzwerkdienst 32 gelöscht hat, kann das neuronale Netz zeitabhängige Aktionen erfassen. Zusätzlich zu den Regeln hinsichtlich des Inhalts einer Social Media-Nachricht, kann das neuronale Netz in der Lage sein, Regeln basierend auf kontextabhängigen Informationen, die mit der Social Media-Nachricht verbunden sind, zu erzeugen, wie beispielsweise den Standort des Nutzers über die Zeit (z. B. einen Veranstaltungsort), die Aktivität des Nutzers über die Zeit (z. B. wenn der Nutzer ein Spiel spielt), wie auch die letzte Aktion des Nutzers (z. B. das Posten einer Social Media-Nachricht im sozialen Netzwerkdienst 32). Das Erstellen von Regeln basierend auf kontextabhängigen Informationen, verbunden mit der Social Media-Nachricht, kann auch über eine andere geeignete Technik des maschinellen Lernens ausgeführt werden, wie beispielsweise den oben beschriebenen Entscheidungsbaum.
Jede der von Regel-Modul 30 erzeugten Regeln kann mit einer Punktzahl verbunden sein, die einer Funktion der Wahrscheinlichkeit entspricht, dass, wenn eine Social Media-Nachricht mit den von einer Regel festgelegten Eigenschaften übereinstimmt, der Nutzer, der die Social Media-Nachricht verfasst hat, die Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Beispielsweise kann das Trainingsmodul 48 mehrere frühere Social Media-Nachrichten des Nutzers finden, die einen spezifischen Satz enthalten, wobei die Social Media-Nachricht vom Nutzer gepostet und dabei festgestellt wurde, dass sich der Nutzer an einer Sehenswürdigkeit oder einem bestimmten geographischen Standort aufhielt (z. B. einem Restaurant). Das Trainingsmodul 48 kann auch feststellen, dass nur 20% dieser früheren Social Media-Nachrichten, die diese Eigenschaften haben, später vom Nutzer innerhalb eines Tages nach dem Posten dieser Social Media-Nachrichten gelöscht wurden. In diesem Beispiel kann das Trainingsmodul 30 eine Regel erstellen, die diese Eigenschaften festlegt und kann eine Punktzahl zuordnen, die einer 20% Chance entspricht, dass, wenn eine Social Media-Nachricht mit den von einer Regel festgelegten Eigenschaften übereinstimmt, der Nutzer, der die Social Media-Nachricht verfasst hat, die Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde.
Das Resultat der Ausführung des maschinellen Lernens zu den Social Media-Nachrichten, die der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat, kann sein, dass das Regel-Modul 30 ein maschinengeschultes Modell erzeugt, das in der Lage sein kann, die Wahrscheinlichkeit zu bestimmen, dass eine Social Media-Nachricht von einem Nutzer, wenn sie im sozialen Netzwerkdienst 32 gepostet wurde, später von dem Nutzer geändert wird. Das Regel-Modul 30 kann eine Social Media-Nachricht des Nutzers in das Modell eingeben und das Modell kann die Social Media-Nachricht analysieren, um eine Punktzahl auszugeben, die der Wahrscheinlichkeit entspricht, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Auf diese Weise kann das Regel-Modul 30 das Trainingsmodul 48 nutzen, um ein maschinengeschultes Modell für den einen oder die mehreren Regelsätze für einen Nutzer zu erzeugen, zumindest teilweise basierend auf den früheren Aktionen, die der Nutzer im sozialen Netzwerkdienst 32 ausgeführt hat.
In ähnlicher Weise kann das Regel-Modul 30 einen oder mehrere Regelsätze für einen Nutzer erzeugen, zumindest teilweise basierend auf dem zuvor gezeigten Verhalten einer Vielzahl von Nutzern des sozialen Netzwerkdienstes 32. Das Regel-Modul 30 kann einen oder mehrere Regelsätze für einen Nutzer erstellen, zumindest teilweise basierend auf den früheren Aktionen, die von der Vielzahl von Nutzern des sozialen Netzwerkdienstes 32 in früheren Social Media-Nachrichten ausgeführt wurden, die von der Vielzahl der Nutzer verfasst und im sozialen Netzwerkdienst 32 gepostet wurden. Das Regel-Modul 30 kann diese eine oder die mehreren Regeln basierend auf dem Inhalt dieser zuvor geposteten Social Media-Nachrichten, den kontextabhängigen Informationen, die sich auf die Social Media-Nachrichten beziehen, wie den Standort des Nutzers der Vielzahl der Nutzer, als der Nutzer die Social Media-Nachrichten verfasst oder gepostet hat, der Aktivität, mit der der Nutzer der Vielzahl von Nutzern befasst war, als er die Social Media-Nachrichten verfasst oder gepostet hat, und Ähnlichem erstellen.
Die Vielzahl der Nutzer kann aus zwei oder mehr Nutzern des sozialen Netzwerkdienstes 32 bestehen. In einigen Beispielen kann der soziale Netzwerkdienst 32 seinen Nutzern ermöglichen, sich der Vielzahl der Nutzer anzuschließen. In einigen Beispielen kann der soziale Netzwerkdienst 32 die Nutzer des sozialen Netzwerkdienstes 32 explizit darauf hinweisen, dass ihr früheres Verhalten im sozialen Netzwerkdienst 32 analysiert wird, und kann den Nutzern die Option bieten, auszutreten. Demnach kann die Vielzahl der Nutzer solche Nutzer des sozialen Netzwerkdienstes 32 aufweisen, die nicht ausgetreten sind oder die sich angeschlossen haben und die ihre früheren Aktivitäten im sozialen Netzwerkdienst 32 analysieren lassen, um den Regelsatz zu erstellen.
Der soziale Netzwerkdienst 32 kann das frühere Verhalten einer Vielzahl von Nutzern des sozialen Netzwerkdienstes 32 in Protokollen erfassen, die im sozialen Netzwerk-Datenspeicher 50A gespeichert sind. Diese Protokolle können verschlüsselt und auch anonymisiert sein, um die Möglichkeit zu verringern, dass ein Nutzer basierend auf den Informationen, die in den Protokollen gespeichert sind, identifiziert werden kann. Der soziale Netzwerkdienst 32 kann alle persönlichen Informationen, die einzelne Nutzer identifizieren könnten, entfernen, alle Nutzer-IDs durch zufällig zugeordnete IDs ersetzen und/oder alle geeigneten Differential Privacy-Mechanismen anwenden, um die in den Protokollen enthaltenen Daten zu anonymisieren. Ein Nutzer kann zu jeder Zeit entscheiden, dass seine Informationen nicht in den Protokollen erfasst werden. Der soziale Netzwerkdienst 32 muss die Nutzerinformationen aus den Protokollen löschen, wenn der Nutzer entscheidet, dass seine Informationen nicht in den Protokollen erfasst werden dürfen. Alternativ darf der soziale Netzwerkdienst 32, in einigen Beispielen, die Nutzerinformationen nicht erfassen, wenn sich der Nutzer nicht explizit für diese Datenerfassung ausgesprochen hat.
Das Regel-Modul 30 kann das Trainingsmodul 48 nutzen, um das maschinelle Lernen über die Social Media-Nachrichten auszuführen, die von der Vielzahl der Nutzer verfasst wurden und die zuvor im sozialen Netzwerkdienst 32 gepostet und dann später von einem oder mehreren der Vielzahl von Nutzern geändert wurden, um die Eigenschaften der Social Media-Nachrichten kennenzulernen, die es potenziell wahrscheinlicher machen, dass die Nutzer den Post später ändern, und um einen oder mehrere Regelsätze zu erstellen. Durch die Ausführung des maschinellen Lernens zu diesen Social Media-Nachrichten, kann das Trainingsmodul 48 ein maschinengeschultes Modell erzeugen, um für eine Social Media-Nachricht die Wahrscheinlichkeit bestimmen zu können, dass der Nutzer, der die Social Media-Nachricht verfasst hat, die Social Media-Nachricht später ändern wird (z. B. löschen wird), nachdem die Social Media-Nachricht im sozialen Netzwerkdienst 32 gepostet wurde. Diese Bestimmung kann zumindest teilweise darauf basieren, ob die Social Media-Nachricht die Eigenschaften enthält, die über die Social Media-Nachrichten erfahren wurden, die die Vielzahl der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat.
Das Regel-Modul 30 kann ein geeignetes Modell des maschinellen Lernens nutzen, um das maschinelle Lernen über die Social Media-Nachrichten, die die Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert haben, auszuführen. In einem Beispiel kann das Regel-Modul 30 einen Entscheidungsbaum nutzen, der anhand des Inhalts der Social Media-Nachrichten, die die Vielzahl der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat, geschult werden kann. In diesem Beispiel kann das Regel-Modul 30 das Modell über diese Social Media-Nachrichten schulen, um bestimmte Wörter, Sätze, audiovisuelle Eigenschaften und Ähnliches zu erkennen, die zum Inhalt dieser Social Media-Nachrichten gehören und die es wahrscheinlicher machen, dass diese Social Media-Nachrichten später von der Vielzahl der Nutzer geändert werden. Damit ein Nutzer Wörter, Sätze oder Medieninhalt-Eigenschaften und Ähnliches nicht manuell festlegen muss, kann das Regel-Modul 30 einen oder mehrere Regelsätze erstellen, die diese Wörter, Sätze, audiovisuellen Eigenschaften und Ähnliches über maschinelles Lernen festlegen, um ein Modell über Social Media-Nachrichten zu schulen, die die Vielzahl der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet und dann später geändert hat.
In einem weiteren Beispiel kann das Regel-Modul 30 ein neuronales Netz verwenden, das das Verhalten der Vielzahl der Nutzer formt und dabei über die Zeit verschiedene Signale einbezieht. Sowohl im Entscheidungsbaum als auch im neuronalen Netz kann, zusätzlich zum Inhalt der Social Media-Nachrichten, die die Vielzahl der Nutzer zuvor im sozialen Netzwerkdienst 32 gepostet hat und dann später geändert oder aus dem sozialen Netzwerkdienst 32 gelöscht hat, das rekurrente neuronale Netz zeitabhängige Aktionen erfassen. Zusätzlich zu den Regeln hinsichtlich des Inhalts einer Social Media-Nachricht, kann das rekurrente neuronale Netz in der Lage sein, Regeln basierend auf kontextabhängigen Informationen, die mit der Social Media-Nachricht verbunden sind, zu erstellen, wie beispielsweise den Standort der Vielzahl der Nutzer über die Zeit (z. B. einen Veranstaltungsort), die Aktivität der Vielzahl der Nutzer über die Zeit (z. B. wenn der Nutzer ein Spiel spielt), wie auch die letzte Aktion der Vielzahl der Nutzer (z. B. das Posten einer Social Media-Nachricht im sozialen Netzwerkdienst 32).
Jede der von Regel-Modul 30 erzeugten Regeln kann mit einer Punktzahl verbunden sein, die einer Funktion der Wahrscheinlichkeit entspricht, dass, wenn eine Social Media-Nachricht mit den von einer Regel festgelegten Eigenschaften übereinstimmt, der Nutzer, der die Social Media-Nachricht verfasst hat, die Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Beispielsweise kann das Trainingsmodul 48 mehrere frühere Social Media-Nachrichten der Vielzahl von Nutzern finden, die einen spezifischen Satz enthalten, wobei die Social Media-Nachricht von den Nutzern gepostet wurde und dabei festgestellt wurde, dass sich die Nutzer an einer Sehenswürdigkeit oder einem bestimmten geographischen Standort aufhielten (z. B. in einem Restaurant). Das Trainingsmodul 48 kann auch feststellen, dass nur 20% dieser früheren Social Media-Nachrichten, die diese Eigenschaften haben, später von den Nutzern innerhalb eines Tages nach dem Posten dieser Social Media-Nachrichten gelöscht wurden. In diesem Beispiel kann das Trainingsmodul 30 eine Regel erstellen, die diese Eigenschaften spezifiziert und kann eine Punktzahl zuordnen, die einer 20% Chance entspricht, dass, wenn eine Social Media-Nachricht mit den von einer Regel festgelegten Eigenschaften übereinstimmt, der Nutzer, der die Social Media-Nachricht verfasst hat, die Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde.
Das Resultat der Ausführung des maschinellen Lernens über die von der Vielzahl der Nutzer zuvor im sozialen Netzwerkdienst 32 geposteten und dann später geänderten sozialen Netzwerk-Nachrichten kann sein, dass das Regel-Modul 30 ein maschinengeschultes Modell erzeugt, das in der Lage sein kann, die Wahrscheinlichkeit zu bestimmen, dass eine soziale Netzwerk-Nachricht von einem Nutzer, wenn sie im sozialen Netzwerkdienst 32 gepostet wurde, später von dem Nutzer geändert wird. Das Regel-Modul 30 kann eine Social Media-Nachricht von einem Nutzer in das Modell eingeben und das Modell kann die Social Media-Nachricht analysieren, um eine Punktzahl für die Social Media-Nachricht auszugeben, die der Wahrscheinlichkeit entspricht, dass die Social Media-Nachricht, wenn sie im sozialen Netzwerkdienst 32 gepostet wurde, später vom Nutzer geändert wird. Auf diese Weise kann das Regel-Modul 30 das Trainingsmodul 48 nutzen, um ein maschinengeschultes Modell für den einen oder die mehreren Regelsätze für einen Nutzer zu erzeugen, zumindest teilweise basierend auf den früheren Aktionen, die der Nutzer im sozialen Netzwerkdienst 32 ausgeführt hat.
Das Modell kann vom Regel-Modul 30 genutzt werden, um die von einem Nutzer des sozialen Netzwerkdienstes 32 erstellten Social Media-Nachricht zu analysieren, um die Wahrscheinlichkeit zu bestimmen, dass die Social Media-Nachricht, wenn sie im sozialen Netzwerkdienst 32 gepostet wurde, später vom Nutzer geändert wird. Tatsächlich kann das Modell verwendet werden, um die Wahrscheinlichkeit zu bestimmen, dass die von einem Nutzer erstellte Social Media-Nachricht, wenn sie im sozialen Netzwerkdienst 32 gepostet wurde, später vom Nutzer geändert wird, unabhängig davon, ob der Nutzer ein Teil der Vielzahl der Nutzer ist, deren früheres Verhalten im sozialen Netzwerkdienst 32 analysiert wurde, um das Modell zu erstellen.
Das Regel-Modul 32 kann eine Kombination der einen oder der mehreren Regeln, die manuell von einem Administrator oder Operator des sozialen Netzwerkdienstes 32 erstellt wurden, der einen oder den mehreren Regeln, die zumindest teilweise basierend auf den früheren Aktionen erzeugt wurden, die vom Nutzer im sozialen Netzwerkdienst 32 ausgeführt wurden, und der einen oder den mehreren Regeln, die zumindest teilweise basierend auf den früheren Aktionen erzeugt wurden, die von einer Vielzahl der Nutzer des sozialen Netzwerkdienstes 32 ausgeführt wurden, nutzen. In einigen Beispielen darf das Regel-Modul 32 nur die eine oder die mehreren Regeln nutzen, die manuell von einem Administrator oder Operator des sozialen Netzwerkdienstes 32 erstellt wurden. In einigen Beispielen kann das Regel-Modul 32 die eine oder die mehreren Regeln nutzen, die manuell von einem Administrator oder Operator des sozialen Netzwerkdienstes 32 erstellt wurden, zusammen mit der einen oder den mehreren Regeln, die zumindest teilweise basierend auf früheren Aktionen, die von dem Nutzer im sozialen Netzwerkdienst 32 ausgeführt wurden, erstellt wurden. In einigen Beispielen kann das Regel-Modul 32 die eine oder die mehreren Regeln nutzen, die manuell von einem Administrator oder Operator des sozialen Netzwerkdienstes 32 erstellt wurden, zusammen mit der einen oder den mehreren Regeln, die zumindest teilweise basierend auf früheren Aktionen, die von der Vielzahl der Nutzer im sozialen Netzwerkdienst 32 ausgeführt wurden, erstellt wurden.
Das Regel-Modul 30 kann den Regelsatz auf eine Social Media-Nachricht anwenden, um eine Punktzahl für die Social Media-Nachricht zu erzeugen, die der Wahrscheinlichkeit entspricht, dass ein Nutzer die Social Media-Nachricht, nachdem sie gepostet wurde, möglicherweise wieder ändert. Das Regel-Modul 30 kann die Punktzahl für die Social Media-Nachricht mit einem Grenzwert vergleichen. Wenn das Regel-Modul 30 bestimmt, dass die Punktzahl für die Social Media-Nachricht den Grenzwert überschreitet, kann das Regel-Modul 30 den sozialen Netzwerkdienst 32 veranlassen, eine Warnmeldung zu erzeugen, um den Nutzer darauf hinzuweisen, dass eine Wahrscheinlichkeit besteht, dass der Nutzer die Social Media-Nachricht ändert. Der Grenzwert kann ein numerischer Wert, ein Prozentwert oder Ähnliches sein und er kann einer hohen Wahrscheinlichkeit entsprechen, dass ein Nutzer die Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. In einem Beispiel kann der Grenzwert bei 0,75 liegen, dies kann einer Wahrscheinlichkeit von 75 % entsprechen, dass ein Nutzer die Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. In weiteren Beispielen kann der Grenzwert ein ganzzahliger Wert wie 20 sein, ein Prozentwert wie 80% oder jeder andere geeignete Wert. Ein solcher Grenzwert kann manuell bestimmt und von einem Administrator oder Operator eingesetzt werden. Der Grenzwert kann auch basierend auf den Punktzahlen der Social Media-Nachrichten festgelegt werden, die im sozialen Netzwerkdienst 32 gepostet und dann später von einem Nutzer geändert oder gelöscht wurden. Beispielsweise kann der Grenzwert ein Durchschnitt (z. B. ein arithmetischer Mittelwert oder Medianwert) der Punktzahlen dieser Social Media-Nachrichten sein. Beispielsweise, wenn die durchschnittliche Punktzahl der früheren Social Media-Nachrichten, die im sozialen Netzwerkdienst 32 gepostet und dann später von einem Nutzer geändert oder gelöscht wurden, bei 0,8 lag (von z. B. 1), kann der soziale Netzwerkdienst 32 den Grenzwert bei 0,8 oder bei einem bestimmten Prozentsatz von 0,8 (z. B. 90% von 0,8) festlegen.
Wie oben angesprochen, kann jede Regel mit einer Punktzahl verbunden sein, die der Wahrscheinlichkeit entspricht, dass eine Social Media-Nachricht, die mit der Regel übereinstimmt, von dem Nutzer geändert wird, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Das Regel-Modul 30 kann eine Punktzahl der Social Media-Nachricht erstellen, zumindest teilweise basierend auf der Anwendung des Regelsatzes auf die Social Media-Nachricht, und bestimmen, ob die Social Media-Nachricht mit dem Regelsatz übereinstimmt.
In einigen Beispielen kann eine Regel eine mit ihr verbundene Punktzahl haben und wenn eine Social Media-Nachricht mit den in dieser Regel festgelegten Eigenschaften übereinstimmt, wird die mit der Regel verbundene Punktzahl der Punktzahl für die Social Media-Nachricht hinzugefügt. Beispielsweise eine Regel, die ein oder mehrere beleidigende Wörter oder einen oder mehrere beleidigende Sätze festlegt, kann eine Punktzahl von 1,0 festlegen, wenn der Textinhalt einer Social Media-Nachricht mit einem oder mehreren beleidigenden Wörtern oder Sätzen, die von der Regel festgelegt sind, übereinstimmt. Wenn die Social Media-Nachricht mit einem des einen beleidigenden Wortes oder Satzes oder der mehreren beleidigenden Wörter oder Sätze übereinstimmt, kann das Regel-Modul 30 die Punktzahl 1,0 der Punktzahl für die Social Media-Nachricht hinzufügen. In einigen Beispielen kann eine Punktzahl von 1,0 den Grenzwert überschreiten, so dass die Punktzahl für die Social Media-Nachricht den Grenzwert überschreiten kann, auch wenn die Social Media-Nachricht nur ein einzelnes beleidigendes Wort oder einen beleidigenden Satz, das/der in der Regel festgelegt ist, enthält.
In weiteren Beispielen kann das Regel-Modul 30 eine Punktzahl, die niedriger als der Grenzwert ist, der Punktzahl für die Social Media-Nachricht für jedes beleidigende Wort oder jeden beleidigenden Satz, die von der Regel festgelegt und in der Social Media-Nachricht enthalten sind, hinzufügen. Das Regel-Modul 30 kann eine Punktzahl mit jedem beleidigenden Wort und Satz verbinden, die in der Regel festgelegt sind, wobei jede der verbundenen Punktzahlen niedriger ist als der Grenzwert. In diesem Fall muss die Punktzahl für die Social Media-Nachricht den Grenzwert nicht notwendigerweise überschreiten, wenn die Social Media-Nachricht nur ein einzelnes beleidigendes Wort oder einen beleidigenden Satz, das/der in der Regel festgelegt ist, enthält. Die Punktzahl für die Social Media-Nachricht kann jedoch den Grenzwert überschreiten, wenn die Social Media-Nachricht zwei oder mehr beleidigende Wörter oder Sätze, die in der Regel festgelegt sind, enthält.
Wie oben angesprochen kann das Regel-Modul 30 eine geeignete Kombination von Regeln auf eine Social Media-Nachricht anwenden, um die Wahrscheinlichkeit zu bestimmen, dass ein Nutzer eine Social Media-Nachricht ändern würde, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Beispielsweise kann das Regel-Modul 30 zuerst eine oder mehrere manuell erstellte Regeln anwenden. Die eine oder die mehreren manuell erstellten Regeln können eine schwarze Liste von Wörtern oder Sätzen festlegen, die beispielsweise beleidigend oder verfänglich sind oder auf andere Weise gegen die Dienstleistungsbedingungen des sozialen Netzwerkdienstes 32 verstoßen. Das Regel-Modul 30 kann eine Punktzahl mit jedem der Wörter oder Sätze in der schwarzen Liste verbinden, so dass jede Punktzahl den Grenzwert überschreitet. In diesem Fall kann die Punktzahl für jedes der Wörter oder jeden der Sätze in der schwarzen Liste den Grenzwert überschreiten. Demnach kann, wenn die Social Media-Nachricht nur ein einzelnes Wort oder einen einzelnen Satz enthält, die in der schwarzen Liste enthalten sind, die in der einen oder den mehreren manuell erstellten Regeln festgelegt wurden, die Punktzahl für die Social Media-Nachricht den Grenzwert überschreiten.
Zusätzlich oder alternativ zur Anwendung der einen oder der mehreren manuell erstellten Regeln, kann das Regel-Modul 30, in einigen Beispielen, eine oder mehrere der Regeln anwenden, die vom Regel-Modul 30 erzeugt wurden, zumindest teilweise basierend auf den früheren Aktionen, die vom Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten ausgeführt wurden. Das Regel-Modul 30 kann besonders die eine oder die mehreren Regeln zumindest teilweise basierend auf Social Media-Nachrichten erzeugen, die zuvor im sozialen Netzwerkdienst 32 gepostet und später vom Nutzer geändert wurden.
Wenn das Regel-Modul 30 bereits zuvor die eine oder die mehreren manuell erstellten Regeln angewendet hat, die in einer schwarzen Liste von Wörtern oder Sätzen festgelegt sind, kann das Regel-Modul 30, in einigen Beispielen, die eine oder die mehreren Regeln anwenden, die vom Regel-Modul 30 erzeugt wurden, zumindest teilweise basierend auf den früheren Aktionen, die vom Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten ausgeführt wurden, nur wenn die Social Media-Nachricht keines der Wörter oder keinen der Sätze enthält, die in der einen oder den mehreren manuell erstellten Regeln festgelegt sind. Dies kann der Fall sein, wenn die Punktzahl, die damit verbunden ist, dass nur eines der Wörter oder Sätze übereinstimmt, die in der einen oder den mehreren manuell erstellten Regeln festgelegt sind, den Grenzwert überschreitet. In einigen Beispielen, wenn die Punktzahl für die Social Media-Nachricht, nach Anwendung der einen oder der mehreren manuell erstellten Regeln, den Grenzwert nicht überschreitet, kann das Regel-Modul die eine oder die mehreren Regeln anwenden, die vom Regel-Modul 30 erzeugt wurden, zumindest teilweise basierend auf den früheren Aktionen, die vom Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten ausgeführt wurden, auch wenn die Social Media-Nachricht eines oder mehrere der Wörter oder Sätze enthält, die in der einen oder den mehreren manuell erstellten Regeln festgelegt sind.
Um die eine oder die mehreren Regeln anzuwenden, die von Regel-Modul 30 erzeugt wurden, zumindest teilweise basierend auf den früheren Aktionen, die von dem Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten in einer Social Media-Nachricht ausgeführt wurden, kann das Regel-Modul 30 die Social Media-Nachricht in ein maschinengeschultes Modell eingeben, das von Trainingsmodul 48 zumindest teilweise basierend auf den früheren Aktionen geschult wurde, die von dem Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten Social Media-Nachrichten, ausgeführt wurden. Das maschinengeschulte Modell kann, als Reaktion auf den Empfang der Social Media-Nachricht, die Punktzahl für die Social Media-Nachricht erzeugen. Beispielsweise kann das maschinengeschulte Modell bestimmen, ob die Social Media-Nachricht mit einer oder mehreren Eigenschaften der Social Media-Nachrichten übereinstimmt, die zuvor im sozialen Netzwerkdienst 32 von dem Nutzer gepostet und dann später vom Nutzer verändert wurden, wie es zuvor im maschinengeschulten Modell erkannt wurde, und es kann eine Punktzahl für die Social Media-Nachricht zuordnen, basierend darauf, wie gut die Social Media-Nachricht mit der einen oder den mehreren Eigenschaften übereinstimmt.
Zusätzlich oder alternativ zur Anwendung der einen oder der mehreren Regeln, die von Regel-Modul 30 erzeugt wurden, zumindest teilweise basierend auf den früheren Aktionen, die von dem Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten ausgeführt wurden, auf eine Social Media-Nachricht, kann das Regel-Modul 30 eine oder mehrere Regeln auf die Social Media-Nachricht anwenden, die zumindest teilweise basierend auf den früheren Aktionen, die von einer Vielzahl anderer Nutzer des sozialen Netzwerkdienstes 32 in früheren von der Vielzahl der Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten generiert wurden. Das Regel-Modul 30 kann besonders die eine oder die mehreren Regeln zumindest teilweise basierend auf Social Media-Nachrichten erzeugen, die zuvor von einer Vielzahl der Nutzer im sozialen Netzwerkdienst 32 gepostet und später von einem oder mehreren der Vielzahl der Nutzer verändert wurden.
Um die eine oder die mehreren Regeln, die von Regel-Modul 30 erzeugt wurden, zumindest teilweise basierend auf den früheren Aktionen, die von der Vielzahl anderer Nutzer in früheren von der Vielzahl der Nutzer verfassten und im sozialen Netzwerkdienst 32 geposteten Social Media-Nachrichten in einer Social Media-Nachricht anzuwenden, kann das Regel-Modul 30 die Social Media-Nachricht in ein maschinengeschultes Modell eingeben, das zumindest teilweise basierend auf den früheren Aktionen geschult wurde, die vom Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten Social Media-Nachrichten ausgeführt wurden. Das maschinengeschulte Modell kann, als Reaktion auf den Empfang der Social Media-Nachricht, die Punktzahl für die Social Media-Nachricht erzeugen. Beispielsweise kann das maschinengeschulte Modell bestimmen, ob die Social Media-Nachricht mit einer oder mehreren Eigenschaften der Social Media-Nachrichten übereinstimmt, die zuvor im sozialen Netzwerkdienst 32 von der Vielzahl anderer Nutzer gepostet und dann später von einem oder mehreren der Vielzahl anderer Nutzer verändert wurden, wie es zuvor im maschinengeschulten Modell erkannt wurde, und es kann eine Punktzahl für die Social Media-Nachricht zuordnen, basierend darauf, wie gut die Social Media-Nachricht mit der einen oder den mehreren Eigenschaften übereinstimmt.
Wie hier angesprochen, kann das Regel-Modul 30 einen Regelsatz anwenden, um eine Punktzahl für eine Social Media-Nachricht zu berechnen, die der Wahrscheinlichkeit entspricht, dass der Nutzer, der die Social Media-Nachricht erstellt hat, den Inhalt der Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Bei der Erzeugung der Punktzahl für die Social Media-Nachricht, kann der soziale Netzwerkdienst 32 die Punktzahl mit einem Grenzwert vergleichen, der einer relativ hohen Wahrscheinlichkeit entspricht, dass der Nutzer, der die Social Media-Nachricht verfasst hat, den Inhalt der Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde. Wenn demnach die Punktzahl für die Social Media-Nachricht den Grenzwert überschreitet, kann der soziale Netzwerkdienst 32 annehmen, dass die Social Media-Nachricht eine hohe Wahrscheinlichkeit hat, vom Nutzer, der die Social Media-Nachricht erstellt hat, geändert zu werden, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde.
Als Reaktion auf die Feststellung, dass die Social Media-Nachricht eine hohe Wahrscheinlichkeit hat, von dem Nutzer, der die Social Media-Nachricht erstellt hat, verändert zu werden, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, kann der soziale Netzwerkdienst 32 davon absehen, die Social Media-Nachricht im sozialen Netzwerkdienst 32 zu posten. Der soziale Netzwerkdienst 32 kann auch eine Warnmeldung ausgeben, die an das Computergerät (z. B. Computergerät 2) des Nutzers gesendet wird, um den Nutzer darüber zu benachrichtigen, dass eine Wahrscheinlichkeit besteht, dass der Nutzer die Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerkdienst 32 gepostet wurde, und dem Nutzer die Gelegenheit geben, vom Posten der Social Media-Nachricht im sozialen Netzwerkdienst 32 abzusehen. Die Warnmeldung kann alle geeigneten Daten enthalten, die vom sozialen Netzwerk-Serversystem 28 über das Netzwerk 26 an das Computergerät, von dem die Social Media-Nachricht stammt (z. B. Computergerät 2), weitergegeben werden. Auf diese Wiese kann der soziale Netzwerkdienst 32 die Anzahl der befremdlichen Social Media-Nachrichten reduzieren, die im sozialen Netzwerkdienst 32 gepostet und dann später bearbeitet oder aus dem sozialen Netzwerkdienst 32 entfernt werden, wodurch die Datenverarbeitungseffizienz des sozialen Netzwerk-Serversystems 28, wie oben angesprochen, verbessert wird.
3 ist ein Flussdiagramm, das als Beispiel Vorgänge eines sozialen Netzwerk-Serversystems darstellt, die so konfiguriert sein können, dass sie bestimmen, ob der Nutzer, der eine Social Media-Nachricht verfasst hat, die Social Media-Nachricht, gemäß einer oder mehrerer Techniken dieser Offenlegung, möglicherweise später ändert. Die nachfolgenden exemplarischen Schritte in 3 werden unten im Kontext von 1 und 2 nur zum Zwecke der Veranschaulichung dargestellt. Im Beispiel in 3 kann ein soziales Netzwerk-Serversystem 28 eine Social Media-Nachricht empfangen (102), die im sozialen Netzwerk-Serversystem 28 gepostet werden soll, wobei die Social Media-Nachricht von einem Nutzer des sozialen Netzwerk-Serversystems 28 verfasst ist. In einigen Beispielen kann eine Social Media-Nachricht, die im sozialen Netzwerk-Serversystem 28 gepostet werden soll, eine Social Media-Nachricht sein, die im sozialen Netzwerkdienst 32 gepostet werden soll, der im sozialen Netzwerk-Serversystem ausgeführt wird, und ein Nutzer des sozialen Netzwerk-Serversystems 28 kann ein Nutzer eines sozialen Netzwerkdienstes 32 sein, der auf dem sozialen Netzwerk-Serversystem 28 ausgeführt wird.
Vor dem Posten der Social Media-Nachricht im sozialen Netzwerk-Serversystem 28: das soziale Netzwerk-Serversystem 28 kann eine Wahrscheinlichkeit bestimmen (104), zumindest teilweise basierend auf der Anwendung einer oder mehrerer Regeln auf den Inhalt der Social Media-Nachricht, dass der Nutzer den Inhalt der Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerk-Serversystem 28 gepostet wurde. Die eine oder die mehreren Regeln werden zumindest teilweise basierend auf den früheren Aktionen erzeugt, die von dem Nutzer in früheren von dem Nutzer verfassten und im sozialen Netzwerk-Serversystem 28 geposteten Social Media-Nachrichten ausgeführt wurden. Als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit einen Grenzwert überschreitet, kann das soziale Netzwerk-Serversystem eine Warnmeldung ausgeben (106).
In einigen Beispielen weist die Feststellung, dass die Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem 28 gepostet hat, die Bestimmung, über das soziale Netzwerk-Serversystem 28, der Wahrscheinlichkeit auf, dass der Nutzer die Social Media-Nachricht aus dem sozialen Netzwerk-Serversystem 28 löschen würde, nachdem er sie im sozialen Netzwerk-Serversystem 28 gepostet hat. In einigen Beispielen werden die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten und dann später von dem Nutzer geänderten Social Media-Nachrichten erzeugt.
In einigen Beispielen kann das soziale Netzwerk-Serversystem 28 die eine oder die mehreren Regeln durch maschinelles Lernen eines Modells zumindest teilweise basierend auf früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten und dann später von dem Nutzer geänderten Social Media-Nachrichten erstellen. In einigen Beispielen kann die Feststellung der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerk-Serversystem 32 gepostet wurde, einschließen, dass das soziale Netzwerk-Serversystem 28 die Social Media-Nachricht in das Modell eingibt und eine Punktzahl für die Social Media-Nachricht vergibt, die der Wahrscheinlichkeit entspricht, dass der Nutzer den Inhalt der Social Media-Nachricht, nachdem er sie im sozialen Netzwerk-Serversystem 32 gepostet hat, im Modell ändert, das im sozialen Netzwerk-Serversystem 32 ausgeführt wird.
In einigen Beispielen basiert die Feststellung, dass die Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem 32 gepostet hat, zumindest teilweise, auf einem oder mehreren der folgenden Punkte: Textinhalt der Social Media-Nachricht, kontextabhängige Informationen in Verbindung mit der Social Media-Nachricht und einer vorgesehenen Zielgruppe für die Social Media-Nachricht.
In einigen Beispielen weisen die eine oder die mehreren Regeln eine erste der einen oder mehreren Regeln auf, und die Feststellung der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem 32 gepostet hat, basiert darüber hinaus, zumindest teilweise, auf der Anwendung einer zweiten der einen oder mehreren Regeln auf den Inhalt der Social Media-Nachricht, und wobei die zweite der einen oder mehreren Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt wird, die von einer Vielzahl der Nutzer des sozialen Netzwerk-Serversystems 32 in früheren von der Vielzahl der Nutzer verfassten und im sozialen Netzwerk-Serversystem 32 geposteten Social Media-Nachrichten ausgeführt wurden.
In einigen Beispielen werden die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren von der Vielzahl der Nutzer verfassten und im sozialen Netzwerk-Serversystem 28 geposteten und dann später von einem oder mehreren der Vielzahl der Nutzer geänderten Social Media-Nachrichten erzeugt. In einigen Beispielen kann das soziale Netzwerk-Serversystem 28 darüber hinaus die zweite der einen oder mehreren Regeln durch maschinelles Lernen eines Modells zumindest teilweise basierend auf früheren von der Vielzahl der Nutzer verfassten und im sozialen Netzwerk-Serversystem 28 geposteten und dann später von einem oder mehreren der Vielzahl von Nutzern geänderten Social Media-Nachrichten erstellen. In einigen Beispielen kann die Feststellung der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändert, nachdem sie im sozialen Netzwerk-Serversystem 32 gepostet wurde, einschließen, dass das soziale Netzwerk-Serversystem 28 die Social Media-Nachricht in das Modell eingibt und eine Punktzahl für die Social Media-Nachricht vergibt, die der Wahrscheinlichkeit entspricht, dass der Nutzer den Inhalt der Social Media-Nachricht, nachdem er sie im sozialen Netzwerk-Serversystem 32 gepostet hat, im Modell ändert, das im sozialen Netzwerk-Serversystem 32 ausgeführt wird.
In einigen Beispielen basiert die Feststellung der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändert, nachdem er sie im sozialen Netzwerk-Serversystem 32 gepostet hat, darüber hinaus, zumindest teilweise, auf der Anwendung einer dritten der einen oder mehreren Regeln auf den Inhalt der Social Media-Nachricht, wobei die dritte der einen oder mehreren Regeln manuell erstellt wurde.
In einem oder mehreren Beispielen können die beschriebenen Funktionen in Hardware, Software, Firmware oder einer beliebigen Kombination derselben implementiert sein. Wenn sie in Software implementiert sind, können die Funktionen als eine oder mehrere Anweisungen oder Codes auf einem computerlesbaren Medium gespeichert oder über dieses übertragen und von einer hardwarebasierten Verarbeitungseinheit ausgeführt werden. Computerlesbare Medien können computerlesbare Speichermedien beinhalten, die physischen Medien, wie z. B. Datenspeichermedien, oder Kommunikationsmedien, darunter auch Medien entsprechen, die die Übertragung eines Computerprogramms von einem Standort zum anderen, z. B. gemäß einem Kommunikationsprotokoll, erleichtern. Auf diese Weise können computerlesbare Medien im Allgemeinen physischen computerlesbaren (1) Speichermedien, die nicht flüchtig sind oder (2) einem Kommunikationsmedium, wie beispielsweise einem Signal oder eine Trägerwelle, entsprechen. Datenspeichermedien können beliebige verfügbare Medien sein, auf die von einem oder mehreren Computern oder einem oder mehreren Prozessoren zugegriffen werden kann, um Anweisungen, Code und/oder Datenstrukturen zur Ausführungsform der in dieser Offenbarung beschriebenen Techniken abzurufen. Ein Computerprogrammprodukt kann ein computerlesbares Speichermedium beinhalten.
Beispielsweise und nicht beschränkend können derartige computerlesbare Speichermedien RAM-, ROM-, EEPROM-, CD-ROM- oder andere optische Plattenspeicher, Magnetplattenspeicher oder andere magnetische Speichergeräte, FlashSpeicher oder ein beliebiges anderes Medium umfassen, das verwendet werden kann, um den gewünschten Programmcode in Form von Anweisungen oder Datenstrukturen zu speichern und auf die von einem Computer zugegriffen werden kann. Zudem wird jede Verbindung als ein computerlesbares Medium bezeichnet. Wenn beispielsweise Anweisungen von einer Webseite, einem Server oder einer anderen entfernten Quelle unter Verwendung eines Koaxialkabels, eines Glasfaserkabels, eines Twisted-Pair-Kabels, einer digitalen Teilnehmerleitung (DSL) oder drahtloser Technologien, wie beispielsweise Infrarot, Radio und Mikrowelle übertragen werden, sind Koaxialkabel, Glasfaserkabel, Twisted-Pair-Kabel, DSL oder drahtlose Technologien, wie beispielsweise Infrarot, Radio und Mikrowelle in der Definition von Medium mit eingeschlossen. Es sollte jedoch klar sein, dass computerlesbare Speichermedien und Datenspeichermedien keine Verbindungen, Trägerwellen, Signale oder andere physische Medien beinhalten, sondern stattdessen auf nicht flüchtige, physische Speichermedien ausgerichtet sind. Festplatten und Disketten, wie sie hierin verwendet werden, beinhalten Compact Disc (CD), Laserdisc, optische Disc, Digital Versatile Disc (DVD), Diskette und Blu-ray Disc, wobei Disketten typischerweise Daten magnetisch wiedergeben, während Discs Daten optisch mit Lasern wiedergeben. Kombinationen der vorstehenden sollten ebenfalls in den Umfang von computerlesbaren Medien eingeschlossen sein.
Anweisungen können durch einen oder mehrere Prozessoren, wie beispielsweise einen oder mehrere digitale Signalprozessoren (DSPs), Universalmikroprozessoren, anwendungsorientierte integrierte Schaltungen (ASICs), feldprogrammierbare Gate-Arrays (FPGAs) oder beliebige andere gleichwertige integrierte oder diskrete Logikschaltungen ausgeführt werden. Dementsprechend kann sich der Begriff „Prozessor“, wie er hierin verwendet wird, auf eine beliebige der vorgenannten Strukturen oder jede andere Struktur beziehen, die für die Implementierung der hierin beschriebenen Techniken geeignet ist. Darüber hinaus kann in einigen Aspekten die hierin beschriebene Funktionalität innerhalb dedizierter Hardware- und/oder Softwaremodule bereitgestellt werden. Auch könnten die Techniken vollständig in einer oder mehreren Schaltungen oder Logikelementen implementiert werden.
Die Techniken der vorliegenden Offenlegung können in einer breiten Vielfalt von Geräten oder Vorrichtungen implementiert werden, darunter auch in einem drahtlosen Mobilteil, einer integrierten Schaltung (IC) oder einem Satz von ICs (z. B. eines Chipsatzes). In dieser Offenlegung werden verschiedene Komponenten, Module oder Einheiten beschrieben, um funktionelle Aspekte von Geräten zu betonen, die dafür konfiguriert sind, die offenbarten Techniken auszuführen, jedoch nicht notwendigerweise eine Realisierung durch verschiedene Hardware-Einheiten erfordern. Vielmehr können, wie vorstehend beschrieben, verschiedene Einheiten in einer Hardware-Einheit kombiniert oder durch eine Sammlung von interoperativen Hardware-Einheiten, einschließlich eines oder mehrerer Prozessoren, wie vorstehend beschrieben, in Verbindung mit geeigneter Software und/oder Firmware bereitgestellt werden.
Es wurden verschiedene Beispiele beschrieben. Diese und andere Beispiele liegen innerhalb des Umfangs der folgenden Ansprüche.

Claims

Verfahren, umfassend: Empfangen, durch ein soziales Netzwerk-Serversystem, einer Social Media-Nachricht, die in dem sozialen Netzwerk-Serversystem gepostet werden soll, wobei die Social Media-Nachricht von einem Nutzer des sozialen Netzwerk-Serversystems verfasst ist; vor dem Posten der Social Media-Nachricht im sozialen Netzwerk-Serversystem: Bestimmen, durch das soziale Netzwerk-Serversystem und zumindest teilweise basierend auf der Anwendung einer oder mehrerer abgelegter Regeln auf den Inhalt der Social Media-Nachricht, einer Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt werden, die von dem Nutzer bei früheren von dem Nutzer verfassten und in dem sozialen Netzwerk-Serversystem geposteten Social Media-Nachrichten ausgeführt wurden; und Erzeugen einer Warnmeldung durch das soziale Netzwerk-Serversystem als Reaktion auf die Feststellung, dass die Wahrscheinlichkeit einen Schwellenwert überschreitet.
Verfahren nach Anspruch 1, wobei das Bestimmen der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, das Bestimmen einer Wahrscheinlichkeit durch das soziale Netzwerk-Serversystem umfasst, dass der Nutzer die Social Media-Nachricht aus dem sozialen Netzwerk-Serversystem löschen würde, nachdem sie im sozialen Netzwerk-Serversystem gepostet wurde.
Verfahren nach einem der Ansprüche 1 und 2, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten und dann später geänderten Social Media-Nachrichten erzeugt wurden.
Verfahren nach Anspruch 3, ferner umfassend: Erzeugen einer oder mehrerer Regeln durch maschinelles Lernen eines Modells, das zumindest teilweise auf früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten und dann später geänderten Social Media-Nachrichten basiert.
Verfahren nach Anspruch 4, wobei das Bestimmen der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, umfasst: Eingeben der Social Media-Nachricht durch das soziale Netzwerk-Serversystem in das Modell, das im sozialen Netzwerk-Serversystem ausgeführt wird; und Empfangen einer Punktzahl für die Social Media-Nachricht durch das soziale Netzwerk-Serversystem, die von dem Modell ausgegeben wird, wobei die Punktzahl der Wahrscheinlichkeit entspricht, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem gepostet hat.
Verfahren nach einem der Ansprüche 1-5, wobei das Bestimmen der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem gepostet hat, zumindest teilweise auf einem oder mehreren der folgenden Punkte basiert: Textinhalt der Social Media-Nachricht, kontextabhängige Informationen in Verbindung mit der Social Media-Nachricht, und eine vorgesehene Zielgruppe für die Social Media-Nachricht.
Verfahren nach einem der Ansprüche 1-6, wobei die eine oder die mehreren Regeln eine erste oder mehrere erste Regeln aufweisen, wobei das Bestimmen der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem gepostet hat, darüber hinaus zumindest teilweise auf der Anwendung einer zweiten oder mehreren zweiten Regeln auf den Inhalt der Social Media-Nachricht basiert, wobei die zweite oder die mehreren zweiten Regeln zumindest teilweise basierend auf früheren Aktionen erzeugt wird, die von einer Vielzahl der Nutzer des sozialen Netzwerk-Serversystems in früheren von der Vielzahl der Nutzer verfassten und im sozialen Netzwerk-Serversystem geposteten Social Media-Nachrichten ausgeführt wurden.
Verfahren nach Anspruch 7, wobei die eine oder die mehreren Regeln zumindest teilweise basierend auf früheren von dem Nutzer verfassten und im sozialen Netzwerkdienst geposteten und dann später geänderten Social Media-Nachrichten erzeugt wurden.
Verfahren nach Anspruch 8, ferner umfassend: Erzeugen der einen zweiten oder mehreren zweiten Regeln durch das soziale Netzwerk-Serversystem durch maschinelles Lernen eines Modells zumindest teilweise basierend auf früheren von einer Vielzahl der Nutzer verfassten und im sozialen Netzwerk-Serversystem geposteten und dann später von einem oder mehreren der Vielzahl der Nutzer geänderten Social Media-Nachrichten.
Verfahren nach Anspruch 9, wobei das Bestimmen der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem sie auf dem sozialen Netzwerk-Serversystem gepostet wurde, umfasst: Eingeben der Social Media-Nachricht durch das soziale Netzwerk-Serversystem in das Modell, das im sozialen Netzwerk-Serversystem ausgeführt wird; und Empfangen einer Punktzahl für die Social Media-Nachricht durch das soziale Netzwerk-Serversystem, die von dem Modell ausgegeben wird, wobei die Punktzahl der Wahrscheinlichkeit entspricht, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem gepostet hat.
Verfahren nach einem der Ansprüche 1-10, wobei die eine oder die mehreren Regeln eine erste oder mehrere ersten Regeln aufweisen, wobei das Bestimmen der Wahrscheinlichkeit, dass der Nutzer den Inhalt der Social Media-Nachricht ändern würde, nachdem er sie im sozialen Netzwerk-Serversystem gepostet hat, darüber hinaus zumindest teilweise auf der Anwendung einer dritten oder mehreren dritten Regeln auf den Inhalt der Social Media-Nachricht basiert, wobei die dritte der einen oder mehreren Regeln manuell erzeugt wurde.
Soziales Netzwerk-Serversystem, umfassend: ein nichtflüchtiges computerlesbares Speichermedium; mindestens einen Prozessor, der kommunikativ mit dem computerlesbaren Speichermedium gekoppelt ist, wobei der mindestens eine Prozessor konfiguriert ist, ein Verfahren der Ansprüche 1 bis 11 auszuführen.
Nichtflüchtiges computerlesbares Speichermedium codiert mit Anweisungen, die, wenn sie ausgeführt werden, einen oder mehrere Prozessoren eines sozialen Netzwerk-Serversystems veranlassen, ein Verfahren der Ansprüche 1 bis 11 auszuführen.