CN109508435A - 一种反网络欺凌方法 - Google Patents
一种反网络欺凌方法 Download PDFInfo
- Publication number
- CN109508435A CN109508435A CN201811259989.2A CN201811259989A CN109508435A CN 109508435 A CN109508435 A CN 109508435A CN 201811259989 A CN201811259989 A CN 201811259989A CN 109508435 A CN109508435 A CN 109508435A
- Authority
- CN
- China
- Prior art keywords
- information
- menace
- network
- terminal user
- bullying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
Abstract
本发明提供了一种反网络欺凌方法，用于解决现有技术中尚无专门用于反网络欺凌技术的问题。所述方法包括：获取收到的信息；计算信息的威胁程度；并判断是否超过阈值，如果超出阈值，则判断为威胁性信息并进行处理；如果未超出阈值，则再次获取下一个信息。本发明的反网络欺凌方法，通过AI及字符串识别技术对社交网络中的往来信息进行威胁性判断，同时给予用户判断的过程，从而屏蔽掉威胁性消息，以保护潜在的受害者。
Description
技术领域
本发明属于网络安全技术领域，具体涉及一种反网络欺凌方法。
背景技术
随着互联网+时代的到来，网络在我们的生活中扮演着越来越重要的角色，并逐渐成为生活的一部分，相应的人际交往也以网络社交的形式不断扩大、发展。在现实的人际交往中存在的问题，在网络社交的过程中也会存在，因此也需要相应的技术或方法来解决网络社交中存在的问题。例如，在现实的人际交往中，因为人性的弱点存在欺诈、偷盗、欺凌等问题，在网络社交中也相应的以另外一种形式存在。在这些问题中，最常见的就是网络欺凌。
网络欺凌，是在网上生活中发生的欺凌事件，人们利用互联网做出针对个人或群体的，恶意、重复、敌意的伤害行为，以使其他人受到伤害，不仅会伤害到个人，造成巨大的心理伤害，影响个人的健康成长与发展，在一定程度上也是社会发展过程中存在的一种隐患，随着社交网站的盛行，成为越来越严重的社会问题。
目前，社交网站的数量与反网络欺凌技术明显不成正比，反网络欺凌技术远不能满足社交网站的需求。现有的网络市场还没有一个专门的反网络欺凌软件，同时大公司利用的网络欺凌系统不够快捷省力。Facebook采取了投诉式反网络欺凌，Instagram上采取了Deeptext的AI来识别网络欺凌会出现的关键字符，Twitter几乎没有防止网络欺凌的技术应用。
现有技术中，人工智能(Artificial Intelligence,AI)识别技术的应用，只是限于对欺凌信息发布者的识别，并对信息进行删除，并没有从实质上对欺凌信息发布者给予惩罚，也无法有效的保护受害者，因此并不能有效地阻止网络欺凌，只是一个删除信息的工具。而投诉式反网络欺凌，反应时间慢，阻止欺凌效率低，同时在投诉的时候，受害者还能继续被欺负，威胁，因此也不能从实质上控制网络欺凌。例如facebook所用的举报系统，由人工来处理举报信息，处理速度慢，远远劣于AI，效率非常低下。由此可见，投诉和AI这两种方式只能一定程度上减少网络欺凌信息的数量，并不能保证受害者不收到威胁性消息，同时也不能保证威胁者受到惩罚，更无法对网络欺凌进行实质上的打击。
发明内容
本发明要解决的技术问题是提供一种反网络欺凌方法，用于解决现有技术中尚无专门用于反网络欺凌技术的问题，在网络社交的环境下，对网络欺凌信息发布者给予惩罚，保护潜在受害者，杜绝网络欺凌，营造干净的网络环境。
为解决上述技术问题，本发明实施例提供一种反网络欺凌方法，所述方法包括如下步骤：
步骤S1，获取收到的信息；
步骤S2，计算所述信息的威胁程度；
步骤S3，判断威胁程度是否超过阈值，如果超出阈值，则判断所述信息为威胁性信息，进入步骤S4；如果未超出阈值，则转入步骤S1；
步骤S4，对所述威胁性信息进行处理。
进一步地，所述步骤S1还包括，将所获取的信息，转化为字符串；
所述步骤S2计算所述信息的威胁程度，具体包括：利用人工智能AI和/ 或字符识别对所述字符串进行识别，通过识别计算所述信息的威胁程度值；
所述步骤S3还包括，预设一个威胁程度阈值。
进一步地，所述步骤S4对所述威胁性信息进行处理，包括：
直接屏蔽掉被威胁的终端用户收到威胁性信息；
和/或，
向发布威胁性信息的终端用户发送警告；
和/或，
在预设时间段内停止发布威胁性信息的终端用户再次发布信息。
进一步地，所述向发布威胁性信息的终端用户发送警告，进一步为，向发布威胁性信息的终端用户发送严重警告。
进一步地，所述步骤S4对所述威胁性信息进行处理，为：
向被威胁的终端用户发送“检测到威胁性消息，是否屏蔽”的确认消息，由被威胁终端用户对所述威胁性信息进行人工识别；若被威胁的终端用户反馈为肯定，则屏蔽掉被威胁的终端用户收到威胁性信息，同时在预设时间段内停止发布威胁性信息的终端用户再次发布信息，并给予严重警告；若被威胁的终端用户反馈为否定，则直接转入步骤S1。
进一步地，所述在预设时间段内停止发布威胁性信息的终端用户再次发布信息，包括：
禁止所述发布威胁性信息的终端用户向所述被威胁的终端用户发布信息；
或，
禁止所述发布威胁性信息的终端用户发布任何信息。
根据本发明的另一个方面，还提供了一种基于上述技术方案中反网络欺凌方法的应用，所述反网络欺凌方法应用于社交软件上。
进一步地，所述应用于社交软件上，进一步为：直接进行软件内部的信息文本的进出管理。
根据本发明的再一个方面，还提供了一种基于上述技术方案中反网络欺凌方法的应用，所述反网络欺凌方法以软件的方式直接运行于用户终端。
进一步地，所述方法应用于安卓或苹果操作系统。
本发明上述技术方案的有益效果如下：
本实施例所述的反网络欺凌方法，通过AI及字符串识别技术对社交网络中的往来信息进行威胁性判断，同时给予用户自己判断的过程，从而屏蔽掉威胁性消息，以保护潜在的受害者。
附图说明
为了更加清晰的阐述本发明的实施例和现有的技术方案，下面将本发明的技术方案说明附图做简单的介绍，显而易见的，在不付出创造性劳动的前提下，本领域普通技术人员可通过本附图获得其他的附图。
图1为本发明实施例所述反网络欺凌方法的流程示意图；
图2为本发明实施例中实例中反网络欺凌方法的操作流程示意图。
具体实施方式
为使本发明要解决的技术问题、技术方案和优点更加清楚，下面将结合附图及具体实施例进行详细描述。
本实施例提供了一种反网络欺凌方法，针对现在技术的社交网络中，没有专门的用于反网络欺凌的方法而提出，从根本上杜绝网络欺凌，有力的惩罚网络欺凌信息发布者，保护受害者或潜在受害者。图1所示为本实施例所述反网络欺凌方法流程示意图。如图1所示，所述反网络欺凌方法，包括如下步骤：
步骤S1，获取收到的信息；
步骤S2，计算所述信息的威胁程度；
步骤S3，判断威胁程度是否超过阈值，如果超出阈值，则判断所述信息为威胁性信息，进入步骤S4；如果未超出阈值，则转入步骤S1；
步骤S4，对所述威胁性信息进行处理。
本步骤中对所述威胁性信息的处理包括：
直接屏蔽掉被威胁的终端用户收到威胁性信息；
和/或，
向发布威胁性信息的终端用户发送警告；
和/或，
在预设时间段内停止发布威胁性信息的终端用户再次发布信息；
或，
向被威胁的终端用户发送“检测到威胁性消息，是否屏蔽”的确认消息，由被威胁终端用户对所述威胁性信息进行人工识别；若被威胁的终端用户反馈为肯定，则屏蔽掉被威胁的终端用户收到威胁性信息，同时在预设时间段内停止发布威胁性信息的终端用户再次发布信息，并给予严重警告；若被威胁的终端用户反馈为否定，则直接转入步骤S1。
进一步地，所述步骤S1中，还包括，将所获取的信息，转化为字符串；所述步骤S2计算所述信息的威胁程度，具体包括：利用AI和/或字符识别对所述字符串进行识别，通过识别计算所述信息的威胁程度值；所述步骤S3还包括，预设一个威胁程度阈值。
优选的，本实施例所述的反网络欺凌方法，通过软件的形式进行安卓操作系统或苹果操作系统输入的编辑和操控，来进行信息文本的识别和管理。
优选的，本实施例所述的反网络欺凌方法，经过社交软件公司的同意，审批后直接进行软件内部的信息文本的进出管理。
下面通过一个具体的实例，对本实施例的反网络欺凌方法作进一步详细的说明。图2所示为本实例的操作流程示意图。
如图2所示，在社交网络或聊天软件X中，存在任意两个用户，用户B 和用户A。其中，X存在让用户自行下载的已开发程序S，该程序S中运行所述反网络欺凌流程。
用户A在自己的终端上下载并安装了程序S，正常运行。当用户A通过社交网络或聊天软件X进行社会交往时，用户B向用户A发送信息M。用户 A的终端上运行的程序S，收到信息M后，将信息M转化为字符串，通过AI 和字符识别过程计算所述信息M的威胁程度值，将所计算的威胁程度值与预设的威胁程度阈值的比较；当威胁程度值超出阈值时，判断用户B向用户A 所发送的信息M为威胁性信息，此时程度S向用户A发送“检测到威胁性消息，是否屏蔽”的确认消息；如果用户A认为用户B向自己发送的不是威胁性信息，则向程序S给出否定的反馈，用户A可正常收到所述信息M；如果用户A认为用户B向自己发送的是威胁性信息，则向程序S给出肯定的反馈，程序S则屏蔽掉用户B向用户A所发送的信息M，同时在预设时间段内停止用户B向用户A发送信息，或停止用户B在社交网络或聊天软件X中发布任何信息，并向用户B反馈严重警告信息。
可替代的，这里的程序S，也可以是用户A直接在终端自行安装的运行有本实施例所述的反网络欺凌流程的软件程序。
由以上技术方案可以看出，本实施例所述的反网络欺凌方法，通过AI及字符串识别技术对社交网络中的往来信息进行威胁性判断，同时给予用户自己判断的过程，从而屏蔽掉威胁性消息，以保护潜在的受害者。
以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明所述原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。
Claims (10)
1.一种反网络欺凌方法，其特征在于，所述方法包括如下步骤：
步骤S1，获取收到的信息；
步骤S2，计算所述信息的威胁程度；
步骤S3，判断威胁程度是否超过阈值，如果超出阈值，则判断所述信息为威胁性信息，进入步骤S4；如果未超出阈值，则转入步骤S1；
步骤S4，对所述威胁性信息进行处理。
2.根据权利要求1所述的反网络欺凌方法，其特征在于，
所述步骤S1还包括，将所获取的信息，转化为字符串；
所述步骤S2计算所述信息的威胁程度，具体包括：利用人工智能AI和/或字符识别对所述字符串进行识别，通过识别计算所述信息的威胁程度值；
所述步骤S3还包括，预设一个威胁程度阈值。
3.根据权利要求1所述的反网络欺凌方法，其特征在于，所述步骤S4对所述威胁性信息进行处理，包括：
直接屏蔽掉被威胁的终端用户收到威胁性信息；
和/或，
向发布威胁性信息的终端用户发送警告；
和/或，
在预设时间段内停止发布威胁性信息的终端用户再次发布信息。
4.根据权利要求3所述的反网络欺凌方法，其特征在于，所述向发布威胁性信息的终端用户发送警告，进一步为，向发布威胁性信息的终端用户发送严重警告。
5.根据权利要求1所述的反网络欺凌方法，其特征在于，所述步骤S4对所述威胁性信息进行处理，为：
向被威胁的终端用户发送“检测到威胁性消息，是否屏蔽”的确认消息，由被威胁终端用户对所述威胁性信息进行人工识别；若被威胁的终端用户反馈为肯定，则屏蔽掉被威胁的终端用户收到威胁性信息，同时在预设时间段内停止发布威胁性信息的终端用户再次发布信息，并给予严重警告；若被威胁的终端用户反馈为否定，则直接转入步骤S1。
6.根据权利要求3至5任一项所述的反网络欺凌方法，其特征在于，所述在预设时间段内停止发布威胁性信息的终端用户再次发布信息，包括：
禁止所述发布威胁性信息的终端用户向所述被威胁的终端用户发布信息；
或，
禁止所述发布威胁性信息的终端用户发布任何信息。
7.一种基于权利要求1至6任一项反网络欺凌方法的应用，其特征在于，所述反网络欺凌方法应用于社交软件上。
8.根据权利要求7所述的反网络欺凌方法的应用，其特征在于，所述应用于社交软件上，进一步为：直接进行软件内部的信息文本的进出管理。
9.一种基于权利要求1至6任一项反网络欺凌方法的应用，其特征在于，所述反网络欺凌方法以软件的方式直接运行于用户终端。
10.根据权利要求9所述的反网络欺凌方法的应用，其特征在于，所述方法应用于安卓或苹果操作系统。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811259989.2A CN109508435A (zh) | 2018-10-26 | 2018-10-26 | 一种反网络欺凌方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811259989.2A CN109508435A (zh) | 2018-10-26 | 2018-10-26 | 一种反网络欺凌方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109508435A true CN109508435A (zh) | 2019-03-22 |
Family
ID=65746955
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811259989.2A Pending CN109508435A (zh) | 2018-10-26 | 2018-10-26 | 一种反网络欺凌方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109508435A (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104506382A (zh) * | 2014-12-17 | 2015-04-08 | 百度在线网络技术（北京）有限公司 | 消息监控方法及系统 |
| CN104539595A (zh) * | 2014-12-17 | 2015-04-22 | 南京晓庄学院 | 一种集威胁处理和路由优化于一体的sdn架构及工作方法 |
| US20150365366A1 (en) * | 2014-06-14 | 2015-12-17 | Trisha N. Prabhu | Method to stop cyber-bullying before it occurs |
| CN107147627A (zh) * | 2017-04-25 | 2017-09-08 | 广东青年职业学院 | 一种基于大数据平台的网络安全防护方法及系统 |
| CN108038374A (zh) * | 2017-12-26 | 2018-05-15 | 郑州云海信息技术有限公司 | 一种检测实时威胁的方法 |
| US20180152402A1 (en) * | 2016-11-30 | 2018-05-31 | Fujitsu Limited | Cyberbullying prevention |
-
2018
- 2018-10-26 CN CN201811259989.2A patent/CN109508435A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150365366A1 (en) * | 2014-06-14 | 2015-12-17 | Trisha N. Prabhu | Method to stop cyber-bullying before it occurs |
| CN104506382A (zh) * | 2014-12-17 | 2015-04-08 | 百度在线网络技术（北京）有限公司 | 消息监控方法及系统 |
| CN104539595A (zh) * | 2014-12-17 | 2015-04-22 | 南京晓庄学院 | 一种集威胁处理和路由优化于一体的sdn架构及工作方法 |
| US20180152402A1 (en) * | 2016-11-30 | 2018-05-31 | Fujitsu Limited | Cyberbullying prevention |
| CN107147627A (zh) * | 2017-04-25 | 2017-09-08 | 广东青年职业学院 | 一种基于大数据平台的网络安全防护方法及系统 |
| CN108038374A (zh) * | 2017-12-26 | 2018-05-15 | 郑州云海信息技术有限公司 | 一种检测实时威胁的方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105632128B (zh) | 一种报警方法及智能终端 | |
| Currie et al. | Stemming the flow: how much can the Australian smartphone app help to control COVID-19? | |
| CN104506382A (zh) | 消息监控方法及系统 | |
| CN107680330A (zh) | 安全预警方法及相关装置 | |
| CN105094630B (zh) | 应用程序推送消息的提示信息处理方法及装置 | |
| CN107464406A (zh) | 基于可穿戴装置的报警方法、系统及相应的可穿戴装置 | |
| CN102547621A (zh) | 一种垃圾短信监控与处理的系统、装置及方法 | |
| CN108494663A (zh) | 一种消息阅后即焚方法及装置 | |
| CN107959748A (zh) | 自动报警方法及装置 | |
| Rutter et al. | Visualising SARS-CoV-2 transmission routes and mitigations | |
| CN108650428A (zh) | 案件申诉举报处理方法及系统、应用装置 | |
| CN109508435A (zh) | 一种反网络欺凌方法 | |
| CN111354119A (zh) | 一种针对社区居民在疫情防控期间的智能通行平台 | |
| CN112950882A (zh) | 消防应急救援系统 | |
| CN107105027A (zh) | 移动通讯远程电子探访系统 | |
| CN101833794A (zh) | 一种安全巡检系统 | |
| CN107124197A (zh) | 一种基于可穿戴设备的移动终端通知方法及系统 | |
| Gil | Digital Contact Tracing Has Failed: Can It Be Fixed with Better Legal Design? | |
| CN107733773A (zh) | 信息保护方法、保护信息发送装置及保护信息接收装置 | |
| CN110077437A (zh) | 一种智能化主动式线路作业安全的防护方法 | |
| CN110070476A (zh) | 一种基于互联网平台的数据技术服务平台 | |
| WO2017116147A1 (ko) | 알림 메시지를 이용한 단말 제어 장치 및 방법 | |
| CN106371372A (zh) | 一种基于物联网技术的城市消防监控系统 | |
| CN102378180A (zh) | 用户身份的确定方法和装置 | |
| CN218728660U (zh) | 一种管廊智能井盖监测装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |