CN106603381B - 处理聊天信息的方法及装置 - Google Patents
处理聊天信息的方法及装置 Download PDFInfo
- Publication number
- CN106603381B CN106603381B CN201611051782.7A CN201611051782A CN106603381B CN 106603381 B CN106603381 B CN 106603381B CN 201611051782 A CN201611051782 A CN 201611051782A CN 106603381 B CN106603381 B CN 106603381B
- Authority
- CN
- China
- Prior art keywords
- information
- chat
- sensitive information
- option
- timing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
- H04L51/04—Real-time or near real-time messaging, e.g. instant messaging [IM]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
- H04L51/21—Monitoring or handling of messages
- H04L51/212—Monitoring or handling of messages using filtering or selective blocking
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Information Transfer Between Computers (AREA)
- Telephone Function (AREA)
Abstract
本公开是关于一种处理聊天信息的方法及装置,用于实现减少聊天信息中出现的敏感词。所述方法包括:获得输入的聊天信息;识别所述聊天信息中是否有预设的敏感信息;在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。采用本公开所提供的方法,能够在用户聊天过程中输出敏感信息时对用户进行提醒,从而减少了聊天信息中出现的敏感词。
Description
技术领域
本公开涉及通信及计算机处理领域,尤其涉及处理聊天信息的方法及装置。
背景技术
随着互联网技术的发展,网络已成为人们获取信息、交流信息的主要平台。即时通讯工具,打破了传统的电话交流方式,实现了网络即时通信。使得人们之间的交流更方便、更畅通。
发明内容
为克服相关技术中存在的问题,本公开提供一种处理聊天信息的方法及装置。
根据本公开实施例的第一方面,提供一种处理聊天信息的方法,包括:
获得输入的聊天信息;
识别所述聊天信息中是否有预设的敏感信息;
在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。
本公开的实施例提供的技术方案可以包括以下有益效果:当获得聊天信息之后,识别聊天信息中有没有预设的敏感信息,当有预设的敏感信息时,输出有敏感信息的提醒,从而能够在用户聊天过程中输出敏感信息时对用户进行提醒,有助于减少聊天信息中出现的敏感词。
在一个实施例中,所述方法还包括:
在所述聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
接收针对确认选项或修改选项的触发指令;
根据收到的触发指令进行相应的处理。
本公开的实施例提供的技术方案可以包括以下有益效果:在聊天信息中有预设的敏感信息时,输出确认选项和修改选项,从而能够使用户进一步确认是否对聊天记录中出现的预设的敏感信息进行修改,减少对敏感信息的误识别。
在一个实施例中,所述方法还包括:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
本公开的实施例提供的技术方案可以包括以下有益效果:在聊天记录中有预设敏感信息时开始进行计时,在计时超时时如果未收到对确认选项或修改选项的触发指令,按照确认选项处理,从而减少延误聊天信息的发送。
在一个实施例中,所述方法还包括:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
所述输出确认选项和修改选项,包括:
在计时超时时,输出确认选项和修改选项。
本公开的实施例提供的技术方案可以包括以下有益效果:在聊天信息中有预设的敏感信息时,并不直接输出确认选项和修改选项,而是开始进行计时,在计时超时时才输出确认选项和修改选项,从而为用户预留一段主动修改敏感词汇的时间,减少由于用户不小心打错字而使确认选项和修改选项频繁输出,对聊天过程造成不必要的干扰和影响。还可以给用户一段考虑时间,减少因冲动输入不合适的敏感信息。
在一个实施例中,所述聊天信息包括文本聊天信息和语音聊天信息。
本公开的实施例提供的技术方案可以包括以下有益效果:通过设置多种聊天信息的类型,使聊天信息的类型更加多样化,进而使聊天方式的选择更加灵活。
在一个实施例中,敏感信息包括文本敏感信息;
所述聊天信息为语音聊天信息时,所述识别所述聊天信息中是否有预设的敏感信息,包括:
将语音聊天信息转换为文本聊天信息;
识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
本公开的实施例提供的技术方案可以包括以下有益效果:通过将语音聊天信息转换为文本聊天信息,从而能够检测语音聊天信息中是否包含预设的敏感信息,增大了敏感信息的检测范围。
根据本公开实施例的第二方面,提供一种处理聊天信息的装置,包括:
获得模块,用于获得输入的聊天信息;
识别模块,用于识别所述聊天信息中是否有预设的敏感信息;
第一输出模块,用于在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。
在一个实施例中,所述装置还包括:
第二输出模块,用于在所述聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
接收模块,用于接收针对确认选项或修改选项的触发指令;
第一处理模块,用于根据收到的触发指令进行相应的处理。
在一个实施例中,所述装置还包括:
第一计时模块,用于在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
第二处理模块,用于在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
在一个实施例中,所述装置还包括:
第二计时模块,用于在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
所述第二输出模块,包括:
输出子模块,用于在计时超时时,输出确认选项和修改选项。
在一个实施例中,所述聊天信息包括文本聊天信息和语音聊天信息。
在一个实施例中,敏感信息包括文本敏感信息;
所述识别模块,包括:
转换子模块,用于在所述聊天信息为语音聊天信息时,将语音聊天信息转换为文本聊天信息;
识别子模块,用于识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
根据本公开实施例的第三方面,提供一种处理聊天信息的装置,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获得输入的聊天信息;
识别所述聊天信息中是否有预设的敏感信息;
在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图2是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图3是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图4是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图5是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图6是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图7是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图8是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图9是根据一示例性实施例示出的一种处理聊天信息的方法的流程图;
图10是根据一示例性实施例示出的一种处理聊天信息的装置框图;
图11是根据一示例性实施例示出的一种处理聊天信息的装置框图;
图12是根据一示例性实施例示出的一种处理聊天信息的装置框图;
图13是根据一示例性实施例示出的一种处理聊天信息的装置框图;
图14是根据一示例性实施例示出的一种处理聊天信息的装置框图;
图15是根据一示例性实施例示出的一种用于处理聊天信息的装置的框图;
图16是根据一示例性实施例示出的一种用于处理聊天信息的装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
即时通讯工具的出现,打破了传统的通过电话或者短信进行远程交流的方式。一般有网络,用户就可以用即时通讯工具与其他用户通过文字、语音进行实时的交流,在带宽条件良好时,还可以进行视频通话。也就是说,在有网络的情况下,用户采用技术通讯工具进行远程交流时,无需支付任何额外的通信费用,即可得到与多媒体电话通话一样的体验。因而,即使通讯工具受到越来越多的人的青睐。
然而,在汉语中,有很多同音异义词,用户在打字时,很可能出现打错字或者想要输出的词汇被其他同音异义词所替代的情况,这些错别字或同音异义词有可能是带有政治倾向、带有暴力倾向、带有不健康色彩等敏感词汇,从而使本来正常的交流语言变成不文明的或者伤害他人感情的语言,并在用户没有发现错误的情况下发送给对端用户,给对端用户造成不良影响。因而,如何提出一种处理聊天信息的方法,来实现减少聊天信息中出现的敏感词,成为一种亟待解决的技术问题。
本公开中,在用户聊天过程中,获得用户输入的聊天信息,识别用户输入的聊天信息中是否有预设的敏感信息,在聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。从而能够在用户聊天过程中输出敏感信息时对用户进行提醒,有助于减少聊天信息中出现的敏感词。
图1是根据一示例性实施例示出的一种处理聊天信息的方法的流程图,如图1所示,该方法可以由提供聊天功能的客户端实现,也可以由提供聊天服务的服务器实现,该方法可被实施为以下步骤S101-S103:
在步骤S101中,获得输入的聊天信息;
在步骤S102中,识别聊天信息中是否有敏感信息;
其中,预设的敏感信息为包含预设关键字的信息,该预设关键字可以是:带有政治倾向、暴力倾向、不健康色彩等几种类型词汇中的一种或几种,并将预先设置的敏感信息存储在本地。
在步骤S103中,在聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。
通过如下两种方式实现用户聊天过程中对敏感信息的提醒:
方式一
在用户聊天过程中,客户端通过编辑框实时获得用户输入的聊天信息,并将用户输入的聊天信息与预先设置并存储在本地的敏感信息进行比对,当用户输入的聊天信息中出现与本地存储的敏感信息相同的信息时,向用户输出有敏感信息的提醒。
方式二
在用户聊天过程中,当接收到用户对发送按钮的点击操作时,并不直接发送当前编辑框中的聊天信息,而是获取编辑框中的聊天信息,并将编辑框中的聊天信息与预先设置并存储在本地的敏感信息进行比对,当编辑框中的聊天信息中出现与本地存储的敏感信息相同的信息时,向用户输出敏感信息的提醒;当编辑框中的聊天信息中没有出现与本地存储的敏感信息相同的信息时,对编辑框中的内容执行发送操作。
当本方案的执行主体为服务器时,通过如下方式实现用户聊天过程中对敏感信息的提醒:
服务器预先搜集各类带有政治倾向、暴力倾向、不健康色彩的词汇,并将搜集到的词汇设置为敏感信息,将设置的敏感信息存储在本地数据库中。
举例而言,在用户A通过客户端a与客户端b对应的用户B聊天过程中,客户端a和客户端b会将聊天信息发送到服务器中,服务器检测客户端a和客户端b发送的聊天信息中是否存在与服务器预先设置的敏感信息相同的聊天信息,假设检测到客户端a发送的聊天信息中存在与服务器预先设置的敏感信息相同的聊天信息,则服务器向客户端a发送有敏感信息的提醒。
需要说明的是,对于上述三种方式中,所记载的输出有敏感信息的提醒方式可以有多种,例如:通过振动聊天内容编辑框的方式进行提醒,通过语音提示的方式进行提醒,通过改变敏感信息的颜色的方式进行提醒,通过改变敏感信息的灰度的方式进行提醒,通过在敏感信息下方进行划线方式进行提醒等。当本方案的执行主体为客户端时,客户端用户可根据喜好选择上述任意一种提醒方式。
本公开的实施例提供的技术方案可以包括以下有益效果:当获得聊天信息之后,识别聊天信息中有没有预设的敏感信息,当有预设的敏感信息时,输出有敏感信息的提醒来提醒用户,从而在用户聊天过程中,有助于减少聊天信息中的敏感词。
在一个实施例中,如图2所示,在上述步骤S103之前,方法还可被实施为如下步骤S201-S203:
在步骤S201中,在聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
在步骤S202中,接收针对确认选项或修改选项的触发指令;
在步骤S203中,根据收到的触发指令进行相应的处理。
当本方案的执行主体是客户端时,本方案可通过如下两种方式来实现:
方式一
在本方式中,客户端对聊天信息中是否有敏感信息的检测是在用户聊天过程中进行的,在客户端检测到聊天信息中有预设的敏感信息时,立即输出确认选项和修改选项,当接收到用户对于确认选项的触发指令时,关闭确认选项和修改选项。当接收到用户对于修改选项的触发指令时,可将敏感信息删除,并将当前插入点置于敏感信息未删除时所在的位置。
方式二
在本方式中,客户端对聊天信息中是否有敏感信息的检测是通过用户点击发送按钮触发的,在监测到用户点击发送按钮时,并不直接执行发送操作,而是先检测聊天编辑框中的聊天信息中是否有预设的敏感信息,当聊天编辑框中有预设的敏感信息时,输出确认选项和修改选项;当聊天编辑框中没有预设的敏感信息时,执行发送操作。
当本方案的执行主体是服务器时,本方案可通过如下方式来实现:
在用户聊天过程中,双方将聊天信息发送给其所使用的聊天工具所对应的服务器,服务器接收到聊天信息时,检测聊天信息中是否有预设的敏感信息,当检测到聊天信息中有预设的敏感信息时,向有预设的敏感信息的聊天信息所对应的用户一端发送输出确认选项和修改选项的指示,并根据接收到的触发指令进行相应的处理。
例如,在用户A通过客户端a与客户端b对应的用户B聊天过程中,客户端a和客户端b会将聊天信息发送到服务器中,由服务器检测客户端a和客户端b发送的聊天信息中是否存在与服务器预先设置的敏感信息相同的聊天信息,假设检测到客户端a中存在与服务器预先设置的敏感信息相同的聊天信息,则服务器向客户端a发送输出确认选项和修改选项的指示。在服务器接收到客户端a对应的用户A对确认按钮的点击操作时,发送聊天信息给客户端b;当接收到用户A对于修改选项的触发指令时,取消发送处理,并通知客户端a。客户端a可以在编辑框内重新显示刚才发送的聊天信息,便于用户A修改。
本公开的实施例提供的技术方案可以包括以下有益效果:在聊天信息中有预设的敏感信息时,输出确认选项和修改选项,从而能够使用户进一步确认是否对聊天记录中出现的预设的敏感信息进行修改,减少对敏感信息的误识别。
在一个实施例中,如图3所示,在上述步骤S201之后,方法还可被实施为如下步骤S301-S302:
在步骤S301中,在聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
在步骤S302中,在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
本实施例适用于用户在点击发送按钮时检测聊天信息中是否有预设的敏感信息的方案。
用户在聊天过程中,当弹出确认选项或修改选项时,用户可能会由于某些原因而不对确认选项或修改选项做选择。例如,当敏感信息是在发送聊天信息时才检测时,用户在点击发送按钮后,临时有事暂时离开聊天设备时,会认为消息已经发送,如果不执行聊天信息的发送操作,而是由于聊天消息中存在预设的敏感信息而输出确认选项和修改选项,则由于用户暂时离开,该聊天信息会一直无法发送给该聊天信息所在输入框对应的对端用户,延误了聊天信息的发送。
考虑到上述情况,本实施例中,当执行主体为客户端时,预设一时间阈值,聊天信息中有预设的敏感信息时,在输出确认选项和修改选项的同时,开始进行计时并显示计时,在计时超过预设的时间阈值时,未收到针对确认选项或修改选项的触发指令,则按照确认选项处理。从而,减少聊天信息发送的延误。
当执行主体为服务器时,预设一时间阈值,在聊天信息中有预设的敏感信息时,在将确认选项和修改选项的同时,开始进行计时并将计时过程实时发送给客户端,以使客户端显示计时过程,在计时超过预设的时间阈值时,未收到针对确认选项或修改选项的触发指令,则按照确认选项处理。
本公开的实施例提供的技术方案可以包括以下有益效果:在聊天记录中有预设敏感信息时开始进行计时,在计时超时时如果未收到对确认选项或修改选项的触发指令,按照确认选项处理,从而减少延误聊天信息的发送。
在一个实施例中,如图4所示,方法还可被实施为如下步骤S401:
在步骤S401中,在聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
上述步骤S201中的输出确认选项和修改选项可被实施为如下步骤S402:
在步骤S402中,在计时超时时,输出确认选项和修改选项。
本实施例适用于在用户聊天过程中检测聊天信息中是否有预设的敏感信息的方法。
在用户聊天过程中,在输入错别字或同音异议词而导致聊天信息中出现敏感信息后,用户自己可能就会发现并自行修改,其次,频繁弹出输出确认选项和修改选项也会给用户的聊天造成影响。
考虑到上述情况,本实施例中,当执行主体为客户端时,预设一时间阈值,该时间阈值为允许用户自行修改敏感信息的最大时间长度,在聊天信息过程中,当检测到聊天信息中有预设的敏感信息时,开始进行计时并显示计时,在计时超过预设的时间阈值时,如果用户没有修改敏感信息,则输出确认选项和修改选项;如果用户修改了敏感信息,则在用户修改敏感信息之后,关闭显示计时。
另外,在计时过程中可以暂停用户输入,希望用户可以冷静思考,有助于用户做出正确的选择。在一段时间后输出确认选项和修改选项,此时收到的用户的选择可以更准确。
当执行主体为服务器时,预设一时间阈值,该时间阈值为允许用户自行修改敏感信息的最大时间长度,在聊天信息过程中,当检测到聊天信息中有预设的敏感信息时,开始进行计时并将计时过程实时发送给客户端,在计时超过预设的时间阈值时,如果用户没有修改敏感信息,则向客户端输出确认选项和修改选项;如果用户修改了敏感信息,则在用户修改敏感信息之后,关闭显示计时。
从而,为用户预留一段主动修改敏感信息的时间,减少确认选项和修改选项频繁弹出而对用户造成的干扰和影响。
本公开的实施例提供的技术方案可以包括以下有益效果:在聊天信息中有预设的敏感信息时,并不直接输出确认选项和修改选项,而是开始进行计时,在计时超时时才输出确认选项和修改选项,从而为用户预留一段主动修改敏感词汇的时间,减少由于用户不小心打错字而使确认选项和修改选项频繁输出,对聊天过程造成不必要的干扰和影响。
在一个实施例中,聊天信息包括文本聊天信息和语音聊天信息。
本公开的实施例提供的技术方案可以包括以下有益效果:通过设置多种聊天信息的类型,使聊天信息的类型更加多样化,进而使聊天方式的选择更加灵活。
在一个实施例中,敏感信息包括文本敏感信息;
聊天信息为语音聊天信息时,如图5所示,上述步骤S102可被实施为如下步骤S501-S502:
在步骤S501中,将语音聊天信息转换为文本聊天信息;
在步骤S502中,识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
当本方案的执行主体为客户端时,当聊天信息为语音聊天信息时,通过本地的语音识别工具识别语音聊天信息,并将识别后的语音聊天信息转换为文本信息,识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。从而,通过将语音聊天信息转换为文本聊天信息,能够检测语音聊天信息中是否包含预设的敏感信息,增大了敏感信息的检测范围,并且,无需再预先设置语音敏感信息库,降低了开发成本。
当本方案的执行主体为服务器时,当接收到客户端聊天过程中的语音聊天信息时,通过本地的语音识别工具识别语音聊天信息,并将识别后的语音聊天信息转换为文本信息,识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
本公开的实施例提供的技术方案可以包括以下有益效果:通过将语音聊天信息转换为文本聊天信息,从而能够检测语音聊天信息中是否包含预设的敏感信息,增大了敏感信息的检测范围。
图6是根据一示例性实施例示出的一种处理聊天信息的方法的流程图,如图6所示,该方法可以由提供聊天功能的客户端实现,也可以由提供聊天服务的服务器实现,该方法可被实施为以下步骤S601-S605:
在步骤S601中,获得输入的聊天信息;
在步骤S602中,识别聊天信息中是否有预设的敏感信息;
在步骤S603中,在聊天信息中有预设的敏感信息时,输出有敏感信息的提醒,同时输出确认选项和修改选项;
在步骤S604中,接收针对确认选项或修改选项的触发指令;
在步骤S605中,根据收到的触发指令进行相应的处理。
图7是根据一示例性实施例示出的一种处理聊天信息的方法的流程图,如图7所示,该方法可以由提供聊天功能的客户端实现,也可以由提供聊天服务的服务器实现,该方法可被实施为以下步骤S701-S705:
在步骤S701中,获得输入的聊天信息;
在步骤S702中,识别聊天信息中是否有预设的敏感信息;
在步骤S703中,在聊天信息中有预设的敏感信息时,输出有敏感信息的提醒,同时输出确认选项和修改选项;
在步骤S704中,开始进行计时并显示计时;
在步骤S705中,在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
图8是根据一示例性实施例示出的一种处理聊天信息的方法的流程图,如图8所示,该方法可以由提供聊天功能的客户端实现,也可以由提供聊天服务的服务器实现,该方法可被实施为以下步骤S801-S804:
在步骤S801中,获得输入的聊天信息;
在步骤S802中,识别聊天信息中是否有预设的敏感信息;
在步骤S803中,在聊天信息中有预设的敏感信息时,输出有敏感信息的提醒,同时开始进行计时并显示计时;
在步骤S804中,在计时超时时,输出确认选项和修改选项。
图9是根据一示例性实施例示出的一种处理聊天信息的方法的流程图,如图9所示,该方法可以由提供聊天功能的客户端实现,也可以由提供聊天服务的服务器实现,该方法可被实施为以下步骤S901-S905:
在步骤S901中,获得输入的语音聊天信息;
在步骤S902中,将语音聊天信息转换为文本聊天信息;
在步骤S903中,识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配;
在步骤S904中,当转换得到的文本聊天信息中有预设的文本敏感信息时,输出有敏感信息的提醒,同时输出确认选项和修改选项;
在步骤S905中,接收针对确认选项或修改选项的触发指令;
在步骤S906中,根据收到的触发指令进行相应的处理。
通过以上介绍了解了处理聊天信息的实现过程,该过程由移动终端和计算机实现,下面分别针对两个设备的内部结构和功能进行介绍。
图10是根据一示例性实施例示出的一种处理聊天信息的装置框图。参照图10,该装置包括:
获得模块101,用于获得输入的聊天信息;
识别模块102,用于识别通过获得模块101获取到的聊天信息中是否有预设的敏感信息;
第一输出模块103,用于在聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。其中,第一输出模块103从识别模块102处获得识别结果,即聊天信息中有预设的敏感信息。
在一个实施例中,如图11所示,装置还包括:
第二输出模块111,用于在聊天信息中有预设的敏感信息时,输出确认选项和修改选项;其中,第二输出模块111从识别模块102处获得识别结果,即聊天信息中有预设的敏感信息。
接收模块112,用于接收针对确认选项或修改选项的触发指令;
第一处理模块113,用于根据收到的触发指令进行相应的处理。其中,第一处理模块113从接收模块112处获得触发指令。
在一个实施例中,如图12所示,装置还包括:
第一计时模块121,用于在聊天信息中有预设的敏感信息时,开始进行计时并显示计时;其中,第一计时模块121从识别模块102处获得识别结果,即聊天信息中有预设的敏感信息。
第二处理模块122,用于在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。其中,第二处理模块122从第一计时模块121处获得计时超时的结果。
在一个实施例中,如图13所示,装置还包括:
第二计时模块131,用于在聊天信息中有预设的敏感信息时,开始进行计时并显示计时;其中,第二计时模块131从识别模块102处获得识别结果,即聊天信息中有预设的敏感信息。
第二输出模块111,包括:
输出子模块132,用于在计时超时时,输出确认选项和修改选项。
在一个实施例中,聊天信息包括文本聊天信息和语音聊天信息。
在一个实施例中,敏感信息包括文本敏感信息;
如图14所示,识别模块102,包括:
转换子模块141,用于在聊天信息为语音聊天信息时,将语音聊天信息转换为文本聊天信息;
识别子模块142,用于识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图15是根据一示例性实施例示出的一种用于处理聊天信息的装置1500的框图。例如,装置1500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图15,装置1500可以包括以下一个或多个组件:处理组件1502,存储器1504,电源组件1506,多媒体组件1508,音频组件1510,输入/输出(I/O)的接口1512,传感器组件1514,以及通信组件1516。
处理组件1502通常控制装置1500的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件1502可以包括一个或多个处理器1520来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件1502可以包括一个或多个模块,便于处理组件1502和其他组件之间的交互。例如,处理组件1502可以包括多媒体模块,以方便多媒体组件1508和处理组件1502之间的交互。
存储器1504被配置为存储各种类型的数据以支持在装置1500的操作。这些数据的示例包括用于在装置1500上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器1504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件1506为装置1500的各种组件提供电源。电源组件1506可以包括电源管理系统,一个或多个电源,及其他与为装置1500生成、管理和分配电源相关联的组件。
多媒体组件1508包括在所述装置1500和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件1508包括一个前置摄像头和/或后置摄像头。当装置1500处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件1510被配置为输出和/或输入音频信号。例如,音频组件1510包括一个麦克风(MIC),当装置1500处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器1504或经由通信组件1516发送。在一些实施例中,音频组件1510还包括一个扬声器,用于输出音频信号。
I/O接口1512为处理组件1502和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件1514包括一个或多个传感器,用于为装置1500提供各个方面的状态评估。例如,传感器组件1514可以检测到装置1500的打开/关闭状态,组件的相对定位,例如所述组件为装置1500的显示器和小键盘,传感器组件1514还可以检测装置1500或装置1500的一个组件的位置改变,用户与装置1500接触的存在或不存在,装置1500方位或加速/减速和装置1500的温度变化。传感器组件1514可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件1514还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件1514还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件1516被配置为便于装置1500和其他设备之间有线或无线方式的通信。装置1500可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件1516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件1516还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置1500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器1504,上述指令可由装置1500的处理器1520执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种处理聊天信息的装置,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
获得输入的聊天信息;
识别所述聊天信息中是否有预设的敏感信息;
在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。
所述处理器还可以被配置为:
在所述聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
接收针对确认选项或修改选项的触发指令;
根据收到的触发指令进行相应的处理。
所述处理器还可以被配置为:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
所述处理器还可以被配置为:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
所述输出确认选项和修改选项,包括:
在计时超时时,输出确认选项和修改选项。
所述处理器还可以被配置为:
所述聊天信息包括文本聊天信息和语音聊天信息。
所述处理器还可以被配置为:
敏感信息包括文本敏感信息;
所述聊天信息为语音聊天信息时,所述识别所述聊天信息中是否有预设的敏感信息,包括:
将语音聊天信息转换为文本聊天信息;
识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
一种非临时性计算机可读存储介质,当所述存储介质中的指令由移动终端的处理器执行时,使得移动终端能够执行一种处理聊天信息的方法,所述方法包括:
获得输入的聊天信息;
识别所述聊天信息中是否有预设的敏感信息;
在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒。
所述存储介质中的指令还可以包括:
在所述聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
接收针对确认选项或修改选项的触发指令;
根据收到的触发指令进行相应的处理。
所述存储介质中的指令还可以包括:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
所述存储介质中的指令还可以包括:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
所述输出确认选项和修改选项,包括:
在计时超时时,输出确认选项和修改选项。
所述存储介质中的指令还可以包括:
所述聊天信息包括文本聊天信息和语音聊天信息。
所述存储介质中的指令还可以包括:
敏感信息包括文本敏感信息;
所述聊天信息为语音聊天信息时,所述识别所述聊天信息中是否有预设的敏感信息,包括:
将语音聊天信息转换为文本聊天信息;
识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
图16是根据一示例性实施例示出的一种用于处理聊天信息的装置1600的框图。例如,装置1600可以被提供为一计算机。参照图16,装置1600包括处理组件1622,其进一步包括一个或多个处理器,以及由存储器1632所代表的存储器资源,用于存储可由处理组件1622的执行的指令,例如应用程序。存储器1632中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1622被配置为执行指令,以执行上述方法处理聊天信息。
装置1600还可以包括一个电源组件1626被配置为执行装置1600的电源管理,一个有线或无线网络接口1650被配置为将装置1600连接到网络,和一个输入输出(I/O)接口1658。装置1600可以操作基于存储在存储器1632的操作系统,例如Windows ServerTM,MacOS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (9)
1.一种处理聊天信息的方法,其特征在于,包括:
获得输入的聊天信息;
识别所述聊天信息中是否有预设的敏感信息;
在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒;
在所述聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
接收针对确认选项或修改选项的触发指令;
根据收到的触发指令进行相应的处理;
其中,所述根据收到的触发指令进行相应的处理包括:
在接收到用户对于修改选项的触发指令时,将所述敏感信息自动删除,并将当前插入点置于所述敏感信息未删除时所在的位置。
2.根据权利要求1所述的处理聊天信息的方法,其特征在于,所述方法还包括:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
3.根据权利要求1所述的处理聊天信息的方法,其特征在于,所述方法还包括:
在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
所述输出确认选项和修改选项,包括:
在计时超时时,输出确认选项和修改选项。
4.根据权利要求1所述的处理聊天信息的方法,其特征在于,敏感信息包括文本敏感信息;
所述聊天信息为语音聊天信息时,所述识别所述聊天信息中是否有预设的敏感信息,包括:
将语音聊天信息转换为文本聊天信息;
识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
5.一种处理聊天信息的装置,其特征在于,包括:
获得模块,用于获得输入的聊天信息;
识别模块,用于识别所述聊天信息中是否有预设的敏感信息;
第一输出模块,用于在所述聊天信息中有预设的敏感信息时,输出有敏感信息的提醒;
第二输出模块,用于在所述聊天信息中有预设的敏感信息时,输出确认选项和修改选项;
接收模块,用于接收针对确认选项或修改选项的触发指令;
第一处理模块,用于根据收到的触发指令进行相应的处理;
其中,所述第一处理模块,具体用于在接收到用户对于修改选项的触发指令时,将所述敏感信息自动删除,并将当前插入点置于所述敏感信息未删除时所在的位置。
6.根据权利要求5所述的处理聊天信息的装置,其特征在于,所述装置还包括:
第一计时模块,用于在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
第二处理模块,用于在计时超时时,未收到针对确认选项或修改选项的触发指令,按照确认选项处理。
7.根据权利要求5所述的处理聊天信息的装置,其特征在于,所述装置还包括:
第二计时模块,用于在所述聊天信息中有预设的敏感信息时,开始进行计时并显示计时;
所述第二输出模块,包括:
输出子模块,用于在计时超时时,输出确认选项和修改选项。
8.根据权利要求5所述的处理聊天信息的装置,其特征在于,敏感信息包括文本敏感信息;
所述识别模块,包括:
转换子模块,用于在所述聊天信息为语音聊天信息时,将语音聊天信息转换为文本聊天信息;
识别子模块,用于识别转换得到的文本聊天信息中是否有预设的文本敏感信息匹配。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1-4任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611051782.7A CN106603381B (zh) | 2016-11-24 | 2016-11-24 | 处理聊天信息的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611051782.7A CN106603381B (zh) | 2016-11-24 | 2016-11-24 | 处理聊天信息的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106603381A CN106603381A (zh) | 2017-04-26 |
CN106603381B true CN106603381B (zh) | 2020-06-02 |
Family
ID=58591841
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611051782.7A Active CN106603381B (zh) | 2016-11-24 | 2016-11-24 | 处理聊天信息的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106603381B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111143557A (zh) * | 2019-12-12 | 2020-05-12 | 北京小米移动软件有限公司 | 实时语音交互处理方法及装置、电子设备、存储介质 |
CN113724735A (zh) * | 2021-09-01 | 2021-11-30 | 广州博冠信息科技有限公司 | 语音流处理方法及装置、计算机可读存储介质、电子设备 |
CN113822062A (zh) * | 2021-09-22 | 2021-12-21 | 未鲲(上海)科技服务有限公司 | 文本数据处理方法、装置、设备及可读存储介质 |
CN115086471B (zh) * | 2022-07-22 | 2022-11-18 | 北京云客数智科技有限公司 | 一种防止手机误发送的方法及系统 |
CN117294669A (zh) * | 2023-08-17 | 2023-12-26 | 湖南马兰数字教育科技有限公司 | 虚拟聊天室的发言管理方法、装置、设备和介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102902766A (zh) * | 2012-09-25 | 2013-01-30 | 中国联合网络通信集团有限公司 | 检测词汇的方法与装置 |
CN103995834A (zh) * | 2014-04-24 | 2014-08-20 | 小米科技有限责任公司 | 敏感信息检测方法及相关装置 |
CN105468787A (zh) * | 2015-12-29 | 2016-04-06 | 深圳市英威腾电气股份有限公司 | 一种设置工业设备参数的方法、装置及系统 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6973256B1 (en) * | 2000-10-30 | 2005-12-06 | Koninklijke Philips Electronics N.V. | System and method for detecting highlights in a video program using audio properties |
US9495661B2 (en) * | 2011-09-26 | 2016-11-15 | Sparxo, Inc | Embeddable context sensitive chat system |
CN103366742B (zh) * | 2012-03-31 | 2018-07-31 | 上海果壳电子有限公司 | 语音输入方法及系统 |
US20170006161A9 (en) * | 2013-03-15 | 2017-01-05 | Genesys Telecommunications Laboratories, Inc. | Intelligent automated agent for a contact center |
CN106055996B (zh) * | 2016-05-18 | 2021-03-16 | 维沃移动通信有限公司 | 一种多媒体信息分享方法及移动终端 |
-
2016
- 2016-11-24 CN CN201611051782.7A patent/CN106603381B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102902766A (zh) * | 2012-09-25 | 2013-01-30 | 中国联合网络通信集团有限公司 | 检测词汇的方法与装置 |
CN103995834A (zh) * | 2014-04-24 | 2014-08-20 | 小米科技有限责任公司 | 敏感信息检测方法及相关装置 |
CN105468787A (zh) * | 2015-12-29 | 2016-04-06 | 深圳市英威腾电气股份有限公司 | 一种设置工业设备参数的方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN106603381A (zh) | 2017-04-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106921560B (zh) | 语音通信方法、装置及系统 | |
CN106603381B (zh) | 处理聊天信息的方法及装置 | |
CN106791921B (zh) | 视频直播的处理方法、装置及存储介质 | |
CN106506335B (zh) | 分享视频文件的方法及装置 | |
US20180091305A1 (en) | Method and device for processing verification code | |
US10325244B2 (en) | Method and device for processing a communication message | |
EP3026876B1 (en) | Method for acquiring recommending information, terminal and server | |
CN104683568A (zh) | 信息提醒方法和装置 | |
CN106254192B (zh) | 提示方法、提示装置及提示系统 | |
CN103995834A (zh) | 敏感信息检测方法及相关装置 | |
CN105095366B (zh) | 文字消息处理方法和装置 | |
CN105404401A (zh) | 输入处理方法、装置及设备 | |
CN106331328B (zh) | 信息提示的方法及装置 | |
CN112291631A (zh) | 信息获取方法、装置、终端及存储介质 | |
CN105101121B (zh) | 一种信息发送的方法及装置 | |
WO2020038171A1 (zh) | 撤回图片文件的方法及其控制方法、装置及移动终端 | |
CN105516457A (zh) | 通讯消息的处理方法及装置 | |
CN109274825B (zh) | 一种消息提醒方法及装置 | |
CN111181844A (zh) | 消息处理方法、装置及介质 | |
CN105704286A (zh) | 一种通讯信息的展示方法及装置 | |
CN105227426B (zh) | 一种应用界面切换方法、装置及终端设备 | |
CN106506808B (zh) | 对通讯消息提示的方法及装置 | |
CN110213062B (zh) | 处理消息的方法及装置 | |
CN109448313B (zh) | 车辆识别方法、装置、设备及存储介质 | |
CN107241432B (zh) | 消息接收方法、装置、电子设备及计算机可存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |