CN108073804B - 一种风险识别方法和装置 - Google Patents

Abstract

本发明公开了一种风险识别方法和装置，所述方法包括：获取待识别的网页上的联系方式信息；通过获取到的联系方式信息，与获取到的联系方式信息对应的用户进行对话；根据获取到的对话信息确定出待识别的网页是否存在风险。应用本发明所述方案，能够提高识别结果的准确性等。

Description

一种风险识别方法和装置

【技术领域】

本发明涉及互联网技术，特别涉及一种风险识别方法和装置。

【背景技术】

目前，互联网由信息提供逐渐扩展到服务提供，互联网上的风险问题也由信息风险扩展到服务风险，所述风险问题可包括赌博、低俗、假证、欺诈等。

为了维护一个安全无风险的网络环境，可对待展示给用户的各网页进行风险识别，以过滤掉存在风险的网页。

现有技术中通常采用以下风险识别方式：根据网页上所展示的信息，通过规则或机器学习的方式进行直接识别。但这种方式的识别结果的准确性较低，如对于线下化的风险则无法识别。

【发明内容】

本发明提供了一种风险识别方法和装置，能够提高识别结果的准确性。

具体技术方案如下：

一种风险识别方法，包括：

获取待识别的网页上的联系方式信息；

通过所述联系方式信息，与所述联系方式信息对应的用户进行对话；

根据获取到的对话信息确定出所述待识别的网页是否存在风险。

一种风险识别装置，包括：获取单元、对话单元以及识别单元；

所述获取单元，用于获取待识别的网页上的联系方式信息，并发送给所述对话单元；

所述对话单元，用于通过所述联系方式信息，与所述联系方式信息对应的用户进行对话，并将获取到的对话信息发送给所述识别单元；

所述识别单元，用于根据获取到的对话信息确定出所述待识别的网页是否存在风险。

基于上述介绍可以看出，采用本发明所述方案，可获取待识别的网页上的联系方式信息，并与联系方式信息对应的用户进行对话，进而可根据对话信息识别出待识别的网页是否存在风险，相比于现有技术，本发明所述方案可针对线下化的风险通过“钓鱼”的方式进行识别，更加真实地还原了风险触发场景，从而能够有效地弥补现有技术中的不足，进而提高了识别结果的准确性。

【附图说明】

图1为本发明所述风险识别方法实施例的流程图。

图2为本发明所述风险识别方法第一较佳实施例的流程图。

图3为本发明所述风险识别方法第二较佳实施例的流程图。

图4为本发明所述风险识别装置实施例的组成结构示意图。

【具体实施方式】

在实际应用中，当从网页上所展示的信息中难以确定出风险时，通过网页上提供的联系方式信息，进行对话式深入沟通，可能会发现网页上所展示的信息中没有体现的一些风险信息。

比如，网页上所展示的信息为印刷品制作广告，但是根据网页上提供的QQ号或手机号，与QQ号或手机号对应的用户进行联系沟通后，发现对方可以办理假证。

为此，本发明所述方案中提出一种风险识别方案，通过获取到的待识别的网页上的联系方式信息，与联系方式信息对应的用户进行对话，进而根据获取到的对话信息确定出待识别的网页是否存在风险。

为了使本发明的技术方案更加清楚、明白，以下参照附图并举实施例，对本发明所述方案进行进一步说明。

图1为本发明所述风险识别方法实施例的流程图，如图1所示，包括以下具体实现方式：

在11中，获取待识别的网页上的联系方式信息；

在12中，通过获取到的联系方式信息，与获取到的联系方式信息对应的用户进行对话；

在13中，根据获取到的对话信息确定出待识别的网页是否存在风险。

所述联系方式可包括即时通讯(IM，instant messaging)联系方式、电话联系方式等，其中，IM联系方式可包括QQ号等，电话联系方式可包括座机号和手机号等。

另外，可通过人工智能(AI，Artificial Intelligence)技术模拟人类，与获取到的联系方式信息对应的用户进行对话。

AI是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。

可利用获取的对话样本，构建出AI模型和风险识别模型，进而通过AI模型与获取到的联系方式对应的用户进行对话，并利用风险识别模型，根据获取到的对话信息确定出待识别的网页是否存在风险。

以下分别对上述各部分内容的具体实现进行详细说明。

一)AI模型及风险识别模型的获取

为得到上述模型，需要首先分别获取各不同风险行业的对话样本。

所述风险行业可包括假证、低俗等，针对一个网页，可综合该网页上所展示的信息、该网页的统一资源定位符(URL，Uniform Resoure Locator)以及IP地址等各种信息，确定出该网页所属的风险行业，具体实现为现有技术。

对话样本为通过人工方式，利用作为信息收集样本的网页上提供的联系方式信息，与该联系方式信息对应的用户进行对话后获取到的对话信息。

比如，针对作为信息收集样本的一个网页，可根据该网页上所提供的QQ号，与该QQ号对应的用户进行文本对话，并在对话结束后，将获取到的对话信息作为一个对话样本进行保存。

再比如，针对作为信息收集样本的一个网页，可根据该网页上所提供的手机号，与该手机号对应的用户进行语音对话，并在对话结束后，将获取到的语音对话信息转换为文本信息，将得到的文本信息作为一个对话样本进行保存。

将哪些网页作为信息收集样本可由人工来定。

在获取到足够数量的对话样本之后，即可进行模型的构建和训练，包括以下两种方式：

方式一

根据获取到的各不同风险行业的对话样本，构建出一个AI模型；

并且，可根据获取到的各不同风险行业的对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，训练得到一个风险识别模型；

方式二

根据获取到的各风险行业的对话样本，分别构建出与每个风险行业对应的AI模型；

并且，可根据获取到的各不同风险行业的对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，分别训练得到每个风险行业对应的风险识别模型。

可根据获取到的各不同风险行业的对话样本，分别构建出各不同风险行业的对答语料知识库，进一步地，可根据各对答语料知识库，通过机器学习等方式，构建出一个各风险行业共用的AI模型，即使得AI模型通过对各对答语料知识库进行学习，获取对应于各不同风险行业的对话能力/思维/方式，具体实现为现有技术，或者，可分别根据每个风险行业的对话样本，分别构建出每个风险行业对应的AI模型。

由于对话样本是在人工进行对话后获取的，那么还可以由人工根据对话内容，给出对话样本对应的网页是否存在风险的判定结果，这样，利用各对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，可训练得到一个各风险行业共用的风险识别模型，具体实现同样为现有技术，或者，可分别训练得到每个风险行业的风险识别模型。

二)风险识别

在得到上述AI模型以及风险识别模型之后，即可进行网页的风险识别。

即针对待识别的网页，可首先获取待识别的网页上的联系方式信息，之后，若仅构建出一个AI模型和一个风险识别模型，则可通过AI模型，与获取到的联系方式信息对应的用户进行对话，并将获取到的对话信息送入风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果，即得到待识别的网页的识别结果，若针对每个风险行业分别构建出一个AI模型和一个风险识别模型，则可通过与待识别的网页所属的风险行业对应的AI模型，与获取到的联系方式信息对应的用户进行对话，并将获取到的对话信息送入与待识别的网页所属的风险行业对应的风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果。

基于上述介绍，图2为本发明所述风险识别方法第一较佳实施例的流程图，如图2所示，包括以下具体实现方式。

在21中，确定出待识别的网页所属的风险行业。

如前所述，可综合待识别的网页上所展示的信息、待识别的网页的URL以及IP地址等各种信息，确定出待识别的网页所属的风险行业。

在22中，获取待识别的网页上的联系方式信息，并在当获取到的联系方式为IM联系方式时，执行23，当获取到的联系方式为电话联系方式时，执行24。

如何获取待识别的网页上的联系方式信息为现有技术。

如果待识别的网页上存在联系方式信息，则可按照本发明所述方式进行风险识别，如果待识别的网页上不存在联系方式信息，可按照现有方式对待识别的网页进行风险识别。

假设本实施例中所述的联系方式的类型包括IM联系方式和电话联系方式，那么如果为IM联系方式，则执行23，如果为电话联系方式，则执行24。

在23中，AI模型根据待识别的网页所属的风险行业，主动发起IM对话，进行文本对答，对话结束后得到文本形式的对话信息，之后执行25。

AI模型可模拟人类，根据待识别的网页所属的风险行业，利用待识别的网页上提供的IM联系方式，与对应的用户进行IM对话。

比如，待识别的网页所属的风险行业为假证，那么AI模型可模拟人类需要办假证时的对话方式，与对应的用户进行IM对话。

如何确定何时对话结束可根据实际需要而定，比如，若对应的用户超过预定时长未发言，则可认为对话结束。

在24中，AI模型根据待识别的网页所属的风险行业，主动发起语音对话，进行语音对答，对话结束后，生成文本形式的对话信息，之后执行25。

AI模型可模拟人类，根据待识别的网页所属的风险行业，利用待识别的网页上提供的电话联系方式，与对应的用户进行语音对话，包括对对方的语音进行识别、得到对答信息并合成为语音回复对方等。

同样，如何确定何时对话结束可根据实际需要而定。

在25中，将获取到的对话信息送入风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果。

判定结果可包括存在风险和不存在风险两种。

图3为本发明所述风险识别方法第二较佳实施例的流程图，如图3所示，包括以下具体实现方式。

在31中，确定出待识别的网页所属的风险行业。

在32中，获取待识别的网页上的联系方式信息，并在当获取到的联系方式为IM联系方式时，执行33，当获取到的联系方式为电话联系方式时，执行34。

在33中，待识别的网页所属的风险行业对应的AI模型主动发起IM对话，进行文本对答，对话结束后得到文本形式的对话信息，之后执行35。

在34中，待识别的网页所属的风险行业对应的AI模型主动发起语音对话，进行语音对答，对话结束后，生成文本形式的对话信息，之后执行35。

在35中，将获取到的对话信息送入待识别的网页所属的风险行业对应的风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果。

需要说明的是，图2和图3所示实施例中，如果从待识别的网页上获取到的联系方式信息中既包括IM联系方式又包括电话联系方式，那么可任选一个联系方式进行对话。

另外，在得到待识别的网页是否存在风险的判定结果之后，还可将本次识别的对话信息等作为一个新的对话样本进行保存，这样，后续可根据各新的对话样本以及原有的对话样本对AI模型以及风险识别模型进行进一步优化。

以上是关于方法实施例的介绍，以下通过装置实施例，对本发明所述方案进行进一步说明。

图4为本发明所述风险识别装置实施例的组成结构示意图，如图4所示，包括：获取单元41、对话单元42以及识别单元43。

获取单元41，用于获取待识别的网页上的联系方式信息，并发送给对话单元42。

对话单元42，用于通过联系方式信息，与联系方式信息对应的用户进行对话，并将获取到的对话信息发送给识别单元43。

识别单元43，用于根据获取到的对话信息确定出待识别的网页是否存在风险。

所述联系方式可包括IM联系方式、电话联系方式等，其中，IM联系方式可包括QQ号等，电话联系方式可包括座机号和手机号等。

对话单元42可通过AI技术模拟人类，与联系方式信息对应的用户进行对话。

另外，如图4所示，本实施例所述装置中还可进一步包括：模型构建单元44。

模型构建单元44，用于分别获取各不同风险行业的对话样本，对话样本为通过人工方式，利用作为信息收集样本的网页上提供的联系方式信息，与联系方式信息对应的用户进行对话后获取到的对话信息；根据各对话样本构建出一个AI模型，并将AI模型发送给对话单元42。

对话单元42可通过AI模型，与联系方式信息对应的用户进行对话。

模型构建单元44还可进一步用于，根据各对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，训练得到一个风险识别模型，并将风险识别模型发送给识别单元43。

识别单元43可将获取到的对话信息送入风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果。

模型构建单元44还可进一步用于，根据各风险行业的对话样本，分别构建出与每个风险行业对应的AI模型，并将各AI模型发送给对话单元42。

对话单元42可通过与待识别的网页所属的风险行业对应的AI模型，与联系方式信息对应的用户进行对话。

模型构建单元44还可进一步用于，根据各不同风险行业的对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，分别训练得到每个风险行业对应的风险识别模型，并将各风险识别模型发送给识别单元43。

识别单元43可将获取到的对话信息送入与待识别的网页所属的风险行业对应的风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果。

基于上述介绍可知，模型构建单元44可仅构建出一个各风险行业共用的AI模型和一个各风险行业共用的风险识别模型，或者，也可以针对每个风险行业，分别构建出一个AI模型和一个风险识别模型。

相应地，针对待识别的网页，获取单元41在获取到待识别的网页上的联系方式信息之后，若模型构建单元44仅构建出一个AI模型和一个风险识别模型，则对话单元42可通过AI模型，与获取到的联系方式信息对应的用户进行对话，并且，识别单元43可将获取到的对话信息送入风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果，若模型构建单元44针对每个风险行业分别构建出一个AI模型和一个风险识别模型，则对话单元42可通过与待识别的网页所属的风险行业对应的AI模型，与获取到的联系方式信息对应的用户进行对话，并且，识别单元43可将获取到的对话信息送入与待识别的网页所属的风险行业对应的风险识别模型，得到风险识别模型输出的待识别的网页是否存在风险的判定结果。

图4所示装置实施例的具体工作流程请参照前述方法实施例中的相应说明，此处不再赘述。

总之，采用本发明所述方案，可针对线下化的风险通过“钓鱼”的方式进行识别，更加真实地还原了风险触发场景，从而能够有效地弥补现有技术中的不足，进而提高了识别结果的准确性；而且，本发明所述方案可适用于任意类型的网页，尤其适用于商业广告类网页。

在本发明所提供的几个实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (13)

1.一种风险识别方法，其特征在于，包括：

获取待识别的网页上的联系方式信息；

通过所述联系方式信息，与所述联系方式信息对应的用户进行对话，包括：利用预先训练得到的人工智能AI模型，通过模拟所述待识别的网页所属的风险行业对应的对话方式，主动与所述联系方式信息对应的用户进行对话；

将获取到的对话信息送入预先训练得到的风险识别模型，得到所述风险识别模型输出的所述待识别的网页是否存在风险的判定结果。

2.根据权利要求1所述的方法，其特征在于，

所述获取待识别的网页上的联系方式信息之前，进一步包括：

分别获取各不同风险行业的对话样本，所述对话样本为通过人工方式，利用作为信息收集样本的网页上提供的联系方式信息，与所述联系方式信息对应的用户进行对话后获取到的对话信息；根据各对话样本构建出一个AI模型。

3.根据权利要求2所述的方法，其特征在于，

所述分别获取各不同风险行业的对话样本之后，进一步包括：

根据各对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，训练得到一个风险识别模型。

4.根据权利要求1所述的方法，其特征在于，

所述获取待识别的网页上的联系方式信息之前，进一步包括：

分别获取各不同风险行业的对话样本，所述对话样本为通过人工方式，利用作为信息收集样本的网页上提供的联系方式信息，与所述联系方式信息对应的用户进行对话后获取到的对话信息；根据各风险行业的对话样本，分别构建出与每个风险行业对应的AI模型；

所述与所述联系方式信息对应的用户进行对话包括：

通过与所述待识别的网页所属的风险行业对应的AI模型，与所述联系方式信息对应的用户进行对话。

5.根据权利要求4所述的方法，其特征在于，

所述分别获取各不同风险行业的对话样本之后，进一步包括：

根据各不同风险行业的对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，分别训练得到每个风险行业对应的风险识别模型；

所述将获取到的对话信息送入预先训练得到的风险识别模型包括：

将获取到的对话信息送入与所述待识别的网页所属的风险行业对应的风险识别模型。

6.根据权利要求1-5中任一项所述的方法，其特征在于，

所述联系方式包括：即时通讯IM联系方式和电话联系方式。

7.根据权利要求6所述的方法，其特征在于，

所述对话信息为文本信息；

该方法进一步包括：当通过所述电话联系方式进行对话时，将获取到的语音对话信息转换为所述文本信息。

8.一种风险识别装置，其特征在于，包括：获取单元、对话单元以及识别单元；

所述获取单元，用于获取待识别的网页上的联系方式信息，并发送给所述对话单元；

所述对话单元，用于通过所述联系方式信息，与所述联系方式信息对应的用户进行对话，包括：利用预先训练得到的人工智能AI模型，通过模拟所述待识别的网页所属的风险行业对应的对话方式，主动与所述联系方式信息对应的用户进行对话，并将获取到的对话信息发送给所述识别单元；

所述识别单元，用于将获取到的对话信息送入预先训练得到的风险识别模型，得到所述风险识别模型输出的所述待识别的网页是否存在风险的判定结果。

9.根据权利要求8所述的装置，其特征在于，

所述装置中进一步包括：模型构建单元；

所述模型构建单元，用于分别获取各不同风险行业的对话样本，所述对话样本为通过人工方式，利用作为信息收集样本的网页上提供的联系方式信息，与所述联系方式信息对应的用户进行对话后获取到的对话信息；根据各对话样本构建出一个AI模型，并将所述AI模型发送给所述对话单元。

10.根据权利要求9所述的装置，其特征在于，

所述模型构建单元进一步用于，根据各对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，训练得到一个风险识别模型，并将所述风险识别模型发送给所述识别单元。

11.根据权利要求9所述的装置，其特征在于，

所述模型构建单元进一步用于，根据各风险行业的对话样本，分别构建出与每个风险行业对应的AI模型，并将各AI模型发送给所述对话单元；

所述对话单元通过与所述待识别的网页所属的风险行业对应的AI模型，与所述联系方式信息对应的用户进行对话。

12.根据权利要求11所述的装置，其特征在于，

所述模型构建单元进一步用于，根据各不同风险行业的对话样本以及人工给出的各对话样本对应的网页是否存在风险的判定结果，分别训练得到每个风险行业对应的风险识别模型，并将各风险识别模型发送给所述识别单元；

所述识别单元将获取到的对话信息送入与所述待识别的网页所属的风险行业对应的风险识别模型，得到所述风险识别模型输出的所述待识别的网页是否存在风险的判定结果。

13.根据权利要求8-12中任一项所述的装置，其特征在于，

所述联系方式包括：即时通讯IM联系方式和电话联系方式。

Images