CN109547651A - 一种提示方法、装置及计算机存储介质 - Google Patents
一种提示方法、装置及计算机存储介质 Download PDFInfo
- Publication number
- CN109547651A CN109547651A CN201811228479.9A CN201811228479A CN109547651A CN 109547651 A CN109547651 A CN 109547651A CN 201811228479 A CN201811228479 A CN 201811228479A CN 109547651 A CN109547651 A CN 109547651A
- Authority
- CN
- China
- Prior art keywords
- detected
- voice messaging
- phoneme
- default
- sensitive
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M3/00—Automatic or semi-automatic exchanges
- H04M3/22—Arrangements for supervision, monitoring or testing
- H04M3/2281—Call monitoring, e.g. for law enforcement purposes; Call tracing; Detection or prevention of malicious calls
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/12—Detection or prevention of fraud
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
- G10L2015/025—Phonemes, fenemes or fenones being the recognition units
Abstract
本发明实施例公开一种提示方法、装置及计算机存储介质，该方法中，首先确定待检测语音信息，在对待检测语音进行检测时，可以直接仅基于声学模型进行检测，检测效率高，识别速度快。进而，在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件，如果待检测语音信息中的预设敏感音素满足预设条件，表明该待检测语音信息的发送对象是潜在的可疑对象，此时，输出提示信息，用于提示用户该发送对象为可疑对象，确保了可疑对象检测的高效性，为用户提供了一种针对语音信息的发送对象是否为可疑对象的有效提示方式，降低用户被电信诈骗的机率。
Description
技术领域
本发明涉及电子技术领域，尤其涉及一种提示方法、装置及计算机存储介质。
背景技术
随着科技的进步和发展，通讯设备逐渐成为人们生活中的重要沟通交流设备，如手机，电脑等，人们通过通讯设备可以进行日常的沟通和交流，方便了人们的日常生活。但随着通信设备的普及，通信诈骗的问题也随之产生，许多不法用户通过信息伪装的方式对其他用户进行电信诈骗，当用户无法判断信息真伪时就容易相信对方，造成财产损失。
发明内容
鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的提示方法、装置及计算机存储介质。
第一方面，本实施例提供一种提示方法，包括：
确定待检测语音信息；
在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；
如果是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
可选的，所述确定待检测语音信息，包括：
判断所述发送对象与用户间的关系是否满足预设条件；
如果否，确定所述发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中所述发送对象发送的语音信息为待检测语音信息。
可选的，所述判断所述待检测语音信息中的预设敏感音素是否满足预设条件，包括：
判断所述待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
可选的，所述判断所述待检测语音信息中的预设敏感音素是否满足预设条件，包括：
判断所述待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
可选的，在所述检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件之前，所述方法还包括：
从服务器中下载所述预设敏感音素，所述预设敏感音素为所述服务器通过大数据分析将获得的敏感信息转换成的音素。
可选的，所述方法还包括：按预设策略更新所述预设敏感音素。
可选的，所述输出提示信息，包括：
在显示屏上显示提示信息；和/或
将所述提示信息发送至预设电子设备，以使得所述预设电子设备输出所述提示信息。
可选的，在所述输出提示信息之后，所述方法还包括：
接收用户基于所述提示信息的反馈信息；
如果所述反馈信息表明所述用户确认所述发送对象为可疑对象，将所述发送对象添加至黑名单。
第二方面，本实施例还提供一种提示装置，包括：
确定单元，用于确定待检测语音信息；
判断单元，用于在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；
提示单元，用于如果所述判断单元的判断结果为是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
可选的，所述确定单元具体用于：
判断所述发送对象与用户间的关系是否满足预设条件；
如果否，确定所述发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中所述发送对象发送的语音信息为待检测语音信息。
可选的，所述判断单元具体用于：
判断所述待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
可选的，所述判断单元具体用于：
判断所述待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
可选的，所述装置还包括下载单元，所述下载单元具体用于：
在所述检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件之前，从服务器中下载所述预设敏感音素，所述预设敏感音素为所述服务器通过大数据分析将获得的敏感信息转换成的音素。
可选的，所述装置还包括更新单元，所述更新单元具体用于：按预设策略更新所述预设敏感音素。
可选的，所述提示单元具体用于：
在显示屏上显示提示信息；和/或
将所述提示信息发送至预设电子设备，以使得所述预设电子设备输出所述提示信息。
可选的，所述装置还包括设置单元，所述设置单元具体用于：
在所述输出提示信息之后，接收用户基于所述提示信息的反馈信息；
如果所述反馈信息表明所述用户确认所述发送对象为可疑对象，将所述发送对象添加至黑名单。
第三方面，本发明实施例还提供一种提示装置，包括处理器和存储器：所述存储器用于存储执行前述第一方面的所述提示方法的程序；所述处理器被配置为用于执行所述存储器中存储的程序。
第四方面，本发明实施例还提供一种计算机存储介质，用于储存为前述第一方面的所述提示方法所用的计算机软件指令，其包含用于执行上述方面为提示方法所设计的程序。
本申请实施例中的上述一个或多个技术方案，至少具有如下一种或多种技术效果：
在本发明实施例的技术方案中，首先确定待检测语音信息，由于在本实施例中，预先获得了预设敏感音素，预设敏感音素为预设敏感信息对应的音素。进而在对待检测语音进行检测时，可以直接仅基于声学模型进行检测，检测效率高，识别速度快。进而，在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件，如果待检测语音信息中的预设敏感音素满足预设条件，表明该待检测语音信息的发送对象是潜在的可疑对象，此时，输出提示信息，用于提示用户该发送对象为可疑对象，确保了可疑对象检测的高效性，为用户提供了一种针对语音信息的发送对象是否为可疑对象的有效提示方式，降低用户被电信诈骗的机率。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1为本发明第一实施例中的提示方法的流程图；
图2为本发明第二实施例中的提示装置的示意图；
图3为本发明第三实施例中的提示装置的示意图。
具体实施方式
本实施例公开一种提示方法、装置及计算机存储介质。为用户提供了一种针对语音信息的发送对象是否为可疑对象的有效提示方式，预防用户被电信诈骗。该方法包括：确定待检测语音信息；在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；如果是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
下面通过附图以及具体实施例对本发明技术方案做详细的说明，应当理解本申请实施例以及实施例中的具体特征是对本申请技术方案的详细的说明，而不是对本申请技术方案的限定，在不冲突的情况下，本申请实施例以及实施例中的技术特征可以相互组合。
本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
实施例
本发明第一实施例提供一种提示方法，该方法的流程图如图1所示，包括如下步骤：
S101：确定待检测语音信息；
S102：在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件，其中，预设敏感音素为预设敏感信息对应的音素；
S103：如果是，输出提示信息，用于提示待检测语音信息的发送对象为可疑对象。
具体的，在本实施例中，提示方法主要应用于通讯设备，具体的，通讯设备可以是手机、平板电脑等移动终端设备，还可以是具备通讯功能的电脑等电子设备，在此，本申请不做限制。当然，提示方法也可以应用于服务器。在应用于服务器情况下，由于用户间的语音信息是用户的隐私信息，所以，服务器需要得到用户授权才能获得对应的语音信息。
首先，本实施例通过步骤S101确定待检测语音信息，具体的，步骤S101可通过如下步骤实现：
判断发送对象与用户间的关系是否满足预设条件；如果否，确定发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中发送对象发送的语音信息为待检测语音信息。
具体的，在本实施例中，可以仅对与用户间的关系满足预设条件的发送对象的语音信息进行敏感音素检测。在具体实施过程中，预设条件可根据实际需要进行设定，在此，本申请不做限制。在本实施例中，以下述几种情况进行举例说明。
第一种：判断发送对象是否为用户的通讯录中的联系人，如果发送对象为用户的通讯录中的联系人，表明发送对象是用户认识熟悉的人，该发送对象与用户间的关系满足预设条件，可以不必对该对象的语音信息进行敏感音素检测。而如果发送对象不是用户的通讯录中的联系人，表明发送对象对于用户而言是陌生人，需要对该对象的语音信息进行敏感音素检测，即该对象发送的语音信息均需要进行敏感音素检测。
第二种：获得发送对象与用户间在最近的预设时间段内的历史通信记录，如：历史通话记录、历史聊天记录等。判断历史通信记录是否满足预设条件，比如：如果历史通信记录表明历史通话次数大于预设次数，或者历史通话时长大于预设时长，或者历史聊天信息的个数大于预设数值，均可表明发送对象是用户认识熟悉的人，该发送对象与用户间的关系满足预设条件，可以不必对该对象的语音信息进行敏感音素检测。而如果发送对象与用户间的历史通信记录满足预设条件，表明发送对象对于用户而言是陌生人，需要对该对象的语音信息进行敏感音素检测，即该对象发送的语音信息均需要进行敏感音素检测。
第三种：获得发送对象的通信标识，如：电话号码，如果通信标识为预设标识，如某些官方机构(警察局、政府机构等)的电话号码，表明该发送对象是公认的可信赖的对象，该发送对象与用户间的关系满足预设条件，可以不必对该对象的语音信息进行敏感音素检测。而如果发送对象的通信标识不是预设标识，表明发送对象对于用户而言是陌生人，需要对该对象的语音信息进行敏感音素检测，即该对象发送的语音信息均需要进行敏感音素检测。
进而，在确定发送对象与用户间的关系不满足预设条件时，可对发送对象发送的语音信息进行检测。待检测语音信息可以是发送对象与用户间的实时通话语音信息，即：发送对象与用户进行实时语音通话时，可获得实时的语音信息，进行敏感音素检测。
当然，待检测语音信息还可以是发送对象通过预设通信应用程序发送的语音信息。预设通信应用程序可以是用户选择的电子设备中安装的具备语音通信功能的应用程序，还可以默认设置为用户常用的具备语音通信功能的应用程序，如：使用频率大于预设频率的应用程序。在此，本申请不做限制。即：用户接收到发送对象通过预设通信应用程序发送的语音信息，可对该语音信息进行敏感音素检测。
进一步，在本实施例中，在进行敏感音素检测之前，需要获得预设敏感音素。具体的，可以从服务器中下载预设敏感音素，服务器通过大数据分析诈骗案例中的敏感信息，确定出在敏感信息可包括：“您是”、“订单”、“退款”、“转账”、“支付”、“银行”“卡号”、“金额”等，当然，还可以通过调研和经验值设定方式来设定预设敏感信息，在此，本申请不做限制。
进而，由于音素是语言识别领域的最小单元，可将这些敏感信息转换为敏感音素。具体的，可输入这些敏感信息的文本信息，由文本信息转换为音素。通过TTS(Text ToSpeech，文本转语音)系统进行转换，转换为指定语言类型的音素，比如：普通话、英语、西班牙语等等。当然，服务器的相关人员可以采用语言输入方式录制预设敏感信息的语音，通过声学模型将其分解为预设敏感音素。
在服务器确定出预设敏感音素后，可将其存储在云端，供各个通讯设备下载。这样，通信设备就可以根据需要进行下载。当然，在具体实施过程中，服务器也可仅维护预设敏感信息，将其发送至通讯设备，通讯设备可将其转换为预设敏感音素。
在通讯设备下载获得预设敏感音素以及确定待检测语音信息后，通过步骤S102，对待检测语音信息进行敏感音素检测。具体的，针对待检测语音，采用声学模型对待检测语音进行检测，得到语音特征到音素的映射，即得到待检测语音对应的音素，进而，将这些音素与预设敏感音素进行匹配，如果匹配成功，表明该待检测语音中存在预设敏感音素。
如何判断待检测语音信息中的预设敏感音素是否满足预设条件，具体可通过但不限于如下两种方式：
第一种：判断待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明待检测语音信息中的预设敏感音素满足预设条件。
具体的，在本实施例中，预设敏感音素存在多个，如前述实施例中列举的“您是”、“订单”、“退款”、“转账”、“支付”、“银行”“卡号”、“金额”等敏感信息对应的音素。所以，可以统计待检测语音中出现的预设敏感音素(重复或不重复)的个数，在其达到预设数值情况下，可确定待检测语音信息中的预设敏感音素满足预设条件，表明待检测语音的发送对象为可疑对象。在具体实施过程中，预设数值可根据实际需要进行设定，在此，本申请不做限制。
第二种：判断待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明待检测语音信息中的预设敏感音素满足预设条件。
具体的，在本实施例中，预设敏感音素存在多个，如前述实施例中列举的“您是”、“订单”、“退款”、“转账”、“支付”、“银行”“卡号”、“金额”等敏感信息对应的音素。所以，可以统计待检测语音中出现的预设敏感音素(重复或不重复)的个数，并且，预设敏感音素的出现时序满足预设时序条件情况下，可确定待检测语音信息中的预设敏感音素满足预设条件，表明待检测语音的发送对象为可疑对象。
由于在电信诈骗中，不法分子通常会伪装成用户熟悉的人员或相关机构的工作人员，介绍一些用户的基本信息，如：姓名、年纪、工作单位、购物记录等等，以取得用户的信任，在介绍完这些信息后，再进行金钱诈骗，所以，预设敏感音素中包括一些用户的基本信息对应的音素信息。而这些音素通常会出现在“银行”、“卡号”、“金额”等金钱信息的敏感音素之前，所以，需要待检测语音信息中存在的预设敏感音素的出现时序满足预设时序条件，即预设敏感信息间存在出现顺序，基本信息的音素出现在金钱信息的音素之前。在具体实施过程中，预设时序条件可根据实际需要进行设定，在此，本申请不做限制。进一步，针对用户的基本信息对应的敏感音素，是用户的隐私信息，也是个人信息，可由用户自行录入预设敏感音素中。
进一步，预设时序条件可以是服务器基于电信诈骗的数据进行大数据分析得到，也可以根据对电信诈骗的案件进行调研分析得出。预设时序条件可以在通讯设备下载预设敏感音素时同时获取，服务器可将预设敏感音素按预设时序排序，这样，通讯设备在下载预设敏感音素时，获得的预设敏感音素也会按预设时序排序，这个顺序就是预设时序条件要求的顺序。
在进行可疑对象检测时，考虑了敏感信息出现的时序，这个时序需要符合预设时序，该预设时序是根据真实的电信诈骗案件中敏感信息出现的时序得出，更加符合真实场景。这样，通过本实施例中的方法，能够更加精确地检测出可疑对象，有效降低误检概率。
进一步，在具体实施过程中，还可以采用将待检测语音转换为文字信息，再对文字进行预设敏感信息检测。这种方式会采用语音识别的方式，结合声学模型和语言模型将待检测语音转化为文字。声学模型是对声学、语音学、环境的变量、说话人性别、口音等的差异的知识表示。而语言模型是对一组字序列构成的知识表示。但是，由于语言模型占用空间较大，计算量较大，如果安装在通讯设备端，会占用较多的内存空间，消耗较多的资源。
所以，本实施例中的方法，如果该提示方法应用于通讯设备端，考虑到尽可能少地占用通讯设备的资源，通讯设备可以仅从服务器下载预设敏感音素，通过声学模型即可完成预设敏感音素的检测，判断待检测语音信息中存在的预设敏感音素是否满足预设条件，而无需安装语言模型进行语音识别，将语音信息转换为文字进行预设敏感信息检测。这样，能在消耗较少资源的情况下有效提高可疑对象检测的效率。应用于通讯设备的实时通话场景中，待检测语音信息为发送对象与用户间实时通话语音，可以快速对语音信息进行轻量级的敏感音素检测以及发送对象的可疑身份确认，能够更好地应用于实时通信场景。
进一步，在本实施例中，服务器可以对预设敏感音素进行更新。比如：在出现了新的电信诈骗方式时，需要添加与之对应的新的敏感信息的音素。或者，相关人员可对预设敏感音素的顺序进行调整，或者，相关人员可对预设敏感音素进行删减。这样，服务器中的预设敏感音素得到更新后，通讯设备可按预设策略更新预设敏感音素。可分为被动更新和主动更新两种方式。在被动更新方式中，服务器会将更新后的预设敏感音素发送至对应的通讯设备。这样，通讯设备中的预设敏感音素也能得到更新。在主动更新方式中，通讯设备可按预设时间间隔(如：每隔10天、20天等)发送更新请求至服务器，服务器在确认在此期间有信息更新，将更新后的预设敏感音素发送至通讯设备，这样，通讯设备中的预设敏感音素也能得到更新。
进而，如果通过步骤S103确定待检测语音信息中存在的预设敏感音素满足预设条件，表明待检测语音信息的发送对象为潜在的可疑对象，输出提示信息对用户进行有效提醒。输出提示信息可通过如下步骤实现：
在显示屏上显示提示信息；和/或将提示信息发送至预设电子设备，以使得预设电子设备输出提示信息。
具体的，在实时通话场景中，为了不影响用户通话，可将提示信息持续显示在显示屏上，以便用户在通话过程中和通话结束后均能看到该提示信息，直至用户关闭该提示信息。当然，提示信息还可以是语音信息，可在待检测语音播放完成后输出该提示语音。由于通讯设备的使用者可能是老人、小孩等用户，其辨别信息真伪能力较弱，可以为这些用户设定亲密联系人，比如：针对老人用户，亲密联系人设置为其子女。将提示信息发送至亲密联系人对应的电子设备，这样，用户的亲密联系人可以帮助其辨别信息的真伪，进一步防止用户受骗，降级用户被诈骗的机率。
进一步，在输出提示信息之后，本实施例中的方法还包括如下步骤：
接收用户基于提示信息的反馈信息；如果反馈信息表明用户确认发送对象为可疑对象，将发送对象添加至黑名单。
具体的，在本实施例中，在输出提示信息后，该提示信息还可以包括提示用户是否确认发送对象为可疑对象的信息，接收用户基于提示信息的反馈信息，如果反馈信息表明用户确认发送对象为可疑对象，将发送对象添加至黑名单，这样，用户就不会再接收到该发送对象的相关信息，屏蔽可疑对象对用户的骚扰。
通过本实施例中的方法，在对待检测语音进行检测时，可以直接仅基于声学模型进行检测，检测效率高，识别速度快。进而，在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件，如果待检测语音信息中的预设敏感音素满足预设条件，表明该待检测语音信息的发送对象是潜在的可疑对象，此时，输出提示信息，用于提示用户该发送对象为可疑对象，确保了可疑对象检测的高效性，为用户提供了一种针对语音信息的发送对象是否为可疑对象的有效提示方式，降低用户被电信诈骗的机率。
请参照图2，本发明第二实施例还提供了一种提示装置，装置包括：
确定单元201，用于确定待检测语音信息；
判断单元202，用于在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件，其中，预设敏感音素为预设敏感信息对应的音素；
提示单元203，用于如果判断单元的判断结果为是，输出提示信息，用于提示待检测语音信息的发送对象为可疑对象。
作为一种可选的实施例，确定单元201具体用于：
判断发送对象与用户间的关系是否满足预设条件；
如果否，确定发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中发送对象发送的语音信息为待检测语音信息。
作为一种可选的实施例，判断单元202具体用于：
判断待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明待检测语音信息中的预设敏感音素满足预设条件。
作为一种可选的实施例，判断单元202具体用于：
判断待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明待检测语音信息中的预设敏感音素满足预设条件。
作为一种可选的实施例，装置还包括下载单元，下载单元具体用于：
在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件之前，从服务器中下载预设敏感音素，预设敏感音素为服务器通过大数据分析将获得的敏感信息转换成的音素。
作为一种可选的实施例，装置还包括更新单元，更新单元具体用于：按预设策略更新预设敏感音素。
作为一种可选的实施例，提示单元203具体用于：
在显示屏上显示提示信息；和/或
将提示信息发送至预设电子设备，以使得预设电子设备输出提示信息。
作为一种可选的实施例，装置还包括设置单元，设置单元具体用于：
在输出提示信息之后，接收用户基于提示信息的反馈信息；
如果反馈信息表明用户确认发送对象为可疑对象，将发送对象添加至黑名单。
本发明第三实施例还提供了一种提示装置，请参照图3，为了便于说明，仅示出了与本发明实施例相关的部分，具体技术细节未揭示的，请参照本发明实施例方法部分。
图3示出的是与本发明实施例提供的提示装置的部分结构的示意图。该提示装置包括存储器301，所述存储器301用于存储执行前述第一实施例中的提示方法的程序。该提示装置还包括处理器302，与所述存储器301连接，所述处理器302被配置为用于执行所述存储器301中存储的程序。
所述处理器302执行所述计算机程序时实现上述第一实施例或第二实施例中提示方法中的步骤。或者，所述处理器执行所述计算机程序时实现上述第三实施例或第四实施例中的提示装置中各模块/单元的功能。
示例性的，所述计算机程序可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器中，并由所述处理器执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序在所述计算机装置中的执行过程。
所述装置可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，所述示意图3仅仅是提示装置的功能部件的示例图，并不构成对提示装置的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述提示装置还可以包括输入输出设备、网络接入设备、总线等。
所称处理器302可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等，所述处理器是所述计算机装置的控制中心，利用各种接口和线路连接整个计算机装置的各个部分。
所述存储器301可用于存储所述计算机程序和/或模块，所述处理器通过运行或执行存储在所述存储器内的计算机程序和/或模块，以及调用存储在存储器内的数据，实现所述计算机装置的各种功能。所述存储器可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据提示装置的使用所创建的数据(比如音频数据、视频数据等)等。此外，存储器可以包括高速随机存取存储器，还可以包括非易失性存储器，例如硬盘、内存、插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
在本发明实施例中，处理器302具有以下功能：
确定待检测语音信息；
在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件，其中，预设敏感音素为预设敏感信息对应的音素；
如果是，输出提示信息，用于提示待检测语音信息的发送对象为可疑对象。
在本发明实施例中，处理器302还具有以下功能：
判断发送对象与用户间的关系是否满足预设条件；
如果否，确定发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中发送对象发送的语音信息为待检测语音信息。
在本发明实施例中，处理器302还具有以下功能：
判断待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明待检测语音信息中的预设敏感音素满足预设条件。
在本发明实施例中，处理器302还具有以下功能：
判断待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明待检测语音信息中的预设敏感音素满足预设条件。
在本发明实施例中，处理器302还具有以下功能：
在检测到待检测语音信息中存在预设敏感音素情况下，判断待检测语音信息中的预设敏感音素是否满足预设条件之前，从服务器中下载预设敏感音素，预设敏感音素为服务器通过大数据分析将获得的敏感信息转换成的音素。
在本发明实施例中，处理器302还具有以下功能：按预设策略更新预设敏感音素。
在本发明实施例中，处理器302还具有以下功能：
在显示屏上显示提示信息；和/或
将提示信息发送至预设电子设备，以使得预设电子设备输出提示信息。
在本发明实施例中，处理器302还具有以下功能：
在输出提示信息之后，接收用户基于提示信息的反馈信息；
如果反馈信息表明用户确认发送对象为可疑对象，将发送对象添加至黑名单。
本发明第四实施例提供了一种计算机可读存储介质，其上存储有计算机程序，本发明第二实施例中的所述提示装置集成的功能单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述第一实施例的提示方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例作出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。
本发明还公开A1、一种提示方法，包括：
确定待检测语音信息；
在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；
如果是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
A2、如A1所述的方法，所述确定待检测语音信息，包括：
判断所述发送对象与用户间的关系是否满足预设条件；
如果否，确定所述发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中所述发送对象发送的语音信息为待检测语音信息。
A3、如A1所述的方法，所述判断所述待检测语音信息中的预设敏感音素是否满足预设条件，包括：
判断所述待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
A4、如A1所述的方法，所述判断所述待检测语音信息中的预设敏感音素是否满足预设条件，包括：
判断所述待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
A5、如A1所述的方法，在所述检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件之前，所述方法还包括：
从服务器中下载所述预设敏感音素，所述预设敏感音素为所述服务器通过大数据分析将获得的敏感信息转换成的音素。
A6、如A5所述的方法，所述方法还包括：按预设策略更新所述预设敏感音素。
A7、如A1所述的方法，所述输出提示信息，包括：
在显示屏上显示提示信息；和/或
将所述提示信息发送至预设电子设备，以使得所述预设电子设备输出所述提示信息。
A8、如A1～A7任一所述的方法，在所述输出提示信息之后，所述方法还包括：
接收用户基于所述提示信息的反馈信息；
如果所述反馈信息表明所述用户确认所述发送对象为可疑对象，将所述发送对象添加至黑名单。
B9、一种提示装置，包括：
确定单元，用于确定待检测语音信息；
判断单元，用于在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；
提示单元，用于如果所述判断单元的判断结果为是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
B10、如B9所述的装置，所述确定单元具体用于：
判断所述发送对象与用户间的关系是否满足预设条件；
如果否，确定所述发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中所述发送对象发送的语音信息为待检测语音信息。
B11、如B9所述的装置，所述判断单元具体用于：
判断所述待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
B12、如B9所述的装置，所述判断单元具体用于：
判断所述待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
B13、如B9所述的装置，所述装置还包括下载单元，所述下载单元具体用于：
在所述检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件之前，从服务器中下载所述预设敏感音素，所述预设敏感音素为所述服务器通过大数据分析将获得的敏感信息转换成的音素。
B14、如B13所述的装置，所述装置还包括更新单元，所述更新单元具体用于：按预设策略更新所述预设敏感音素。
B15、如B9所述的装置，所述提示单元具体用于：
在显示屏上显示提示信息；和/或
将所述提示信息发送至预设电子设备，以使得所述预设电子设备输出所述提示信息。
B16、如B9所述的装置，所述装置还包括设置单元，所述设置单元具体用于：
在所述输出提示信息之后，接收用户基于所述提示信息的反馈信息；
如果所述反馈信息表明所述用户确认所述发送对象为可疑对象，将所述发送对象添加至黑名单。
C17、一种提示装置，包括处理器和存储器：
所述存储器用于存储执行A1至A8中任一项所述方法的程序；
所述处理器被配置为用于执行所述存储器中存储的程序。
D18、一种计算机存储介质，用于储存为上述A1至A8中任一项所述提示方法所用的计算机软件指令，其包含用于执行上述方面为提示方法所设计的程序。
Claims (10)
1.一种提示方法，其特征在于，包括：
确定待检测语音信息；
在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；
如果是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
2.如权利要求1所述的方法，其特征在于，所述确定待检测语音信息，包括：
判断所述发送对象与用户间的关系是否满足预设条件；
如果否，确定所述发送对象与用户间的实时通话语音为待检测语音信息或确定预设通信应用程序中所述发送对象发送的语音信息为待检测语音信息。
3.如权利要求1所述的方法，其特征在于，所述判断所述待检测语音信息中的预设敏感音素是否满足预设条件，包括：
判断所述待检测语音信息中预设敏感音素的出现时序是否满足预设时序条件，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
4.如权利要求1所述的方法，其特征在于，所述判断所述待检测语音信息中的预设敏感音素是否满足预设条件，包括：
判断所述待检测语音信息中出现的预设敏感音素的个数是否达到预设数值，如果是，则表明所述待检测语音信息中的预设敏感音素满足预设条件。
5.如权利要求1所述的方法，其特征在于，在所述检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件之前，所述方法还包括：
从服务器中下载所述预设敏感音素，所述预设敏感音素为所述服务器通过大数据分析将获得的敏感信息转换成的音素。
6.如权利要求5所述的方法，其特征在于，所述方法还包括：按预设策略更新所述预设敏感音素。
7.如权利要求1所述的方法，其特征在于，所述输出提示信息，包括：
在显示屏上显示提示信息；和/或
将所述提示信息发送至预设电子设备，以使得所述预设电子设备输出所述提示信息。
8.一种提示装置，其特征在于，包括：
确定单元，用于确定待检测语音信息；
判断单元，用于在检测到所述待检测语音信息中存在预设敏感音素情况下，判断所述待检测语音信息中的预设敏感音素是否满足预设条件，其中，所述预设敏感音素为预设敏感信息对应的音素；
提示单元，用于如果所述判断单元的判断结果为是，输出提示信息，用于提示所述待检测语音信息的发送对象为可疑对象。
9.一种提示装置，其特征在于，包括处理器和存储器：
所述存储器用于存储执行权利要求1至7中任一项所述方法的程序；
所述处理器被配置为用于执行所述存储器中存储的程序。
10.一种计算机存储介质，其特征在于，用于储存为上述权利要求1至7中任一项所述提示方法所用的计算机软件指令，其包含用于执行上述方面为提示方法所设计的程序。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811228479.9A CN109547651A (zh) | 2018-10-22 | 2018-10-22 | 一种提示方法、装置及计算机存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811228479.9A CN109547651A (zh) | 2018-10-22 | 2018-10-22 | 一种提示方法、装置及计算机存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN109547651A true CN109547651A (zh) | 2019-03-29 |
Family
ID=65844362
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811228479.9A Pending CN109547651A (zh) | 2018-10-22 | 2018-10-22 | 一种提示方法、装置及计算机存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109547651A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111447327A (zh) * | 2020-03-16 | 2020-07-24 | 宇龙计算机通信科技(深圳)有限公司 | 诈骗电话的识别方法、装置、存储介质及终端 |
| CN112650420A (zh) * | 2019-10-10 | 2021-04-13 | 北京搜狗科技发展有限公司 | 一种语音处理方法、装置和介质 |
| CN115394018A (zh) * | 2022-08-29 | 2022-11-25 | 中国农业银行股份有限公司 | 自动设备的安全监控方法、装置、自助设备及存储介质 |
Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103179122A (zh) * | 2013-03-22 | 2013-06-26 | 马博 | 一种基于语音语义内容分析的防电信电话诈骗方法和系统 |
| CN103731832A (zh) * | 2013-12-26 | 2014-04-16 | 黄伟 | 防电话、短信诈骗的系统和方法 |
| CN104602240A (zh) * | 2014-12-19 | 2015-05-06 | 百度在线网络技术（北京）有限公司 | 一种防电话诈骗的方法及装置 |
| CN105100363A (zh) * | 2015-06-29 | 2015-11-25 | 小米科技有限责任公司 | 信息处理方法、装置及终端 |
| CN106303058A (zh) * | 2016-08-24 | 2017-01-04 | 成都中英锐达科技有限公司 | 防诈骗语音识别方法及系统 |
| CN106453882A (zh) * | 2016-09-29 | 2017-02-22 | 珠海格力电器股份有限公司 | 信息处理方法、装置及电子设备 |
| CN106550155A (zh) * | 2016-11-25 | 2017-03-29 | 上海欣方智能系统有限公司 | 对可疑号码进行诈骗样本甄别归类及拦截的方法及系统 |
| CN106713593A (zh) * | 2016-12-05 | 2017-05-24 | 宇龙计算机通信科技(深圳)有限公司 | 一种陌生号码自动处理方法及装置 |
| CN107147813A (zh) * | 2017-05-25 | 2017-09-08 | 广东工业大学 | 一种电信诈骗的防范方法及装置 |
| CN107197463A (zh) * | 2017-07-10 | 2017-09-22 | 北京亿赛通网络安全技术有限公司 | 一种电话诈骗的检测方法、存储介质及电子设备 |
| CN107360313A (zh) * | 2017-06-29 | 2017-11-17 | 胡玥莹 | 用于识别陌生来电的防诈骗通信系统及方法 |
-
2018
- 2018-10-22 CN CN201811228479.9A patent/CN109547651A/zh active Pending
Patent Citations (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103179122A (zh) * | 2013-03-22 | 2013-06-26 | 马博 | 一种基于语音语义内容分析的防电信电话诈骗方法和系统 |
| CN103731832A (zh) * | 2013-12-26 | 2014-04-16 | 黄伟 | 防电话、短信诈骗的系统和方法 |
| CN104602240A (zh) * | 2014-12-19 | 2015-05-06 | 百度在线网络技术（北京）有限公司 | 一种防电话诈骗的方法及装置 |
| CN105100363A (zh) * | 2015-06-29 | 2015-11-25 | 小米科技有限责任公司 | 信息处理方法、装置及终端 |
| CN106303058A (zh) * | 2016-08-24 | 2017-01-04 | 成都中英锐达科技有限公司 | 防诈骗语音识别方法及系统 |
| CN106453882A (zh) * | 2016-09-29 | 2017-02-22 | 珠海格力电器股份有限公司 | 信息处理方法、装置及电子设备 |
| CN106550155A (zh) * | 2016-11-25 | 2017-03-29 | 上海欣方智能系统有限公司 | 对可疑号码进行诈骗样本甄别归类及拦截的方法及系统 |
| CN106713593A (zh) * | 2016-12-05 | 2017-05-24 | 宇龙计算机通信科技(深圳)有限公司 | 一种陌生号码自动处理方法及装置 |
| CN107147813A (zh) * | 2017-05-25 | 2017-09-08 | 广东工业大学 | 一种电信诈骗的防范方法及装置 |
| CN107360313A (zh) * | 2017-06-29 | 2017-11-17 | 胡玥莹 | 用于识别陌生来电的防诈骗通信系统及方法 |
| CN107197463A (zh) * | 2017-07-10 | 2017-09-22 | 北京亿赛通网络安全技术有限公司 | 一种电话诈骗的检测方法、存储介质及电子设备 |
Non-Patent Citations (3)
| Title |
|---|
| 扬子晚报: ""电话诈骗掌握姓名身份证号 女士搭进去一辈子财富"", Retrieved from the Internet <URL:chinanews.com> * |
| 朱书勤;: "固定电话智能拦截系统设计及策略分析", 电子制作, no. 07 * |
| 淄博新闻网: ""诈骗手段层次不穷，电信诈骗竟能叫出真姓名谨慎"", Retrieved from the Internet <URL:zibo.dzwww.com> * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112650420A (zh) * | 2019-10-10 | 2021-04-13 | 北京搜狗科技发展有限公司 | 一种语音处理方法、装置和介质 |
| CN112650420B (zh) * | 2019-10-10 | 2022-06-21 | 北京搜狗科技发展有限公司 | 一种语音处理方法、装置和介质 |
| CN111447327A (zh) * | 2020-03-16 | 2020-07-24 | 宇龙计算机通信科技(深圳)有限公司 | 诈骗电话的识别方法、装置、存储介质及终端 |
| CN115394018A (zh) * | 2022-08-29 | 2022-11-25 | 中国农业银行股份有限公司 | 自动设备的安全监控方法、装置、自助设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11264013B2 (en) | Identifying digital private information and preventing privacy violations | |
| US11210461B2 (en) | Real-time privacy filter | |
| CN108205627A (zh) | 交互式助理模块对访问的有条件提供 | |
| CN109547651A (zh) | 一种提示方法、装置及计算机存储介质 | |
| CN108616654B (zh) | 消息提醒的方法、装置、终端及计算机可读存储介质 | |
| CN111340498A (zh) | 线下交易的实现方法和装置 | |
| CN103325037A (zh) | 一种基于语音识别的移动支付安全验证方法 | |
| WO2021184837A1 (zh) | 诈骗电话的识别方法、装置、存储介质及终端 | |
| CN113837638B (zh) | 话术确定方法、装置及设备 | |
| CN109145590A (zh) | 一种函数hook检测方法、检测设备及计算机可读介质 | |
| CN111553701A (zh) | 一种基于会话的风险交易确定方法和装置 | |
| CN107360313A (zh) | 用于识别陌生来电的防诈骗通信系统及方法 | |
| CN110933225A (zh) | 通话信息获取方法、装置、存储介质及电子设备 | |
| CN112307464A (zh) | 诈骗识别方法、装置及电子设备 | |
| CN109087647A (zh) | 声纹识别处理方法、装置、电子设备及存储介质 | |
| CN109831587A (zh) | 一种提醒事件启动方法、装置、设备及介质 | |
| CN107025597A (zh) | 基于大数据的风险预测方法和装置 | |
| CN111340574B (zh) | 风险用户的识别方法、装置和电子设备 | |
| CN111047146A (zh) | 一种企业用户的风险识别方法、装置及设备 | |
| CN110661925A (zh) | 屏蔽方法、服务器及计算机可读存储介质 | |
| CN116029673A (zh) | 业务审批数据抽样评价方法、装置、设备及存储介质 | |
| CN109446840A (zh) | 查看保单信息的方法、装置、电子设备及存储介质 | |
| CN111601000B (zh) | 通信网络诈骗的识别方法、装置和电子设备 | |
| US20170032353A1 (en) | Methods and systems for financial account access management | |
| EP4156665A1 (en) | Techniques to enable protection against voice phishing of a telephone call |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |