CN107122479A - 一种基于深度学习的用户密码猜测系统 - Google Patents

Abstract

本发明提供一种基于深度学习的用户密码猜测系统，通过对泄露密码数据集进行分析，可挖掘用户密码常见构成模式；依据学习到的密码常见构成模式，基于用户个人信息，可生成该用户可能使用的密码，包括数据处理，模式训练，常见模式提取，密码生成这四个子系统；对用户密码数据进行分析；根据用户密码数据，提出基于递归神经网络的方法建立用户密码模式概率模型；基于学习得到的用户密码模式概率模型，根据Beam Search方法生成最常见的用户密码模式；根据生成的常用密码模式，基于用户个人信息，生成该用户可能使用的密码；本发明可用于猜测用户密码；也可用于评估用户密码强度；还可以为用户提供尽可能少的修改建议，提升用户密码强度等。

Description

一种基于深度学习的用户密码猜测系统

技术领域

本发明属于数据挖掘技术领域，特别涉及一种基于深度学习的用户密码猜测系统。

背景技术

随着互联网时代的到来，互联网服务越来越多，而这些互联网服务广泛采用的用户认证方式就是文本密码，在可预见的未来，文本密码依然会占据不可替代的主导地位。尽管人们已经提出了多种不同的用户认证机制，然而没有任何一种能在不给用户引入额外负担的前提下保留文本密码的所有优势。因此，从攻击者的角度猜测用户密码有利于加深人们对于密码强度的理解，另一方面，猜测方法也可用于评估用户密码的强度，所提方法可帮助用户挑选强度更高的密码串，增强用户账号的安全性。

为了便于记忆，用户密码往往并不是随机字符串，用户密码中或多或少会包含用户的个人信息，包括用户名、姓名、出生日期、身份证号、手机号、邮箱等等。因此，为了提高密码猜测的速度和密码强度评估的准确度，我们应当考虑用户个人信息在用户密码构成中的重要作用以及个人信息对于密码强度的影响。综上，如何根据用户个人信息猜测用户密码和评估密码强度就有着极为重要的理论和现实意义。

目前已经有一些方法尝试根据个人信息猜测用户密码，如马尔科夫模型等，但是这些方法都或多或少都存在一些缺点。马尔科夫模型并不能捕捉密码串字符间的长距离依赖关系，另外，用户个人信息也并不能很自然地嵌入模型中。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种基于深度学习的用户密码猜测系统，本发明的一项优势在于，采用深度递归神经网络对用户密码模式进行建模，能够捕捉用户密码串中的长距离依赖关系，因此模型的表达能力更强；本发明的另一项优势在于，在用户密码生成过程中，充分考虑用户个人信息这一影响因素，用户个人信息可自然地嵌入到模型中；本发明的又一项优势在于，所提方法不仅可以生成用户可能使用的密码，也可用于评估用户密码的强度。

为了实现上述目的，本发明采用的技术方案是：

基于深度学习的用户密码猜测系统，包括：

数据处理子系统，实现输入数据的预处理，根据用户个人信息和用户密码生成用户密码模式；

具体地，给定用户个人信息和对应的用户密码字符串，借鉴自然语言处理分词思路，采用最长正向匹配算法对用户个人信息和用户密码字符串进行匹配，找到包含用户个人信息，如用户名、姓名、出生日期、身份证号、手机号、邮箱的子串，匹配完成后，从左到右扫描匹配结果并根据结果生成该特定密码串的构成模式。

模式训练子系统，通过分析用户密码模式数据，基于递归神经网络构建用户密码模式概率模型；

具体地，所述模式训练子系统基于数据处理子系统得到的用户密码构成模式，构建深度递归神经网络(RNN,Recurrent Neural Network)模型对用户密码构成模式进行分析，从而识别出密码构成模式中的长时依赖关系和共现关系，得到的密码构成模式概率模型可用于模式提取子系统生成最常用密码模式。

模式提取子系统，基于模式训练子系统得到的用户密码模式概率模型，利用BeamSearch方法生成用户最常用密码模式；

具体地，基于模式训练子系统得到的用户密码模式概率模型，本发明利用BeamSearch方法生成用户最常用密码模式。采用Beam Search方法可有效降低搜索空间，极大地提升算法效率，将时间复杂度从指数级别降到线性级别。

密码生成子系统，根据模式提取子系统生成的用户最常用密码模式，基于用户个人信息，生成用户可能使用的密码。

与现有技术相比，本发明的有益效果是：

1、使用递归神经网络模型对用户密码构成模式进行建模，提升了模型的表达能力。

本发明使用递归神经网络对用户密码构成模式进行建模，可捕捉密码构成模式中的长时依赖关系和共现关系，提升了模型的表达能力。

2、通过引入个人信息，可降低猜对用户密码所需的猜测次数，另外也可提升密码强度评估的准确度。

本发明将个人信息很自然地嵌入模型中，由于用户密码中普遍包含用户个人信息，因此本发明所提方法可降低猜对特定用户密码所需的猜测次数；通过引入个人信息，密码强度评估准确度也能得到较大提升。

3、通过引入Beam Search方法，可极大地减少算法搜索空间，提升算法效率。

引入Beam Search方法后，可将搜索空间控制在合理的范围内，提升算法运行效率，将算法时间复杂度从指数级别降至线性级别。

4、本发明有别于其他密码猜测系统，在密码猜测过程中充分利用用户个人信息，通过利用用户个人信息，可减少用户密码平均猜测次数，也可提高用户密码强度评估准确度。

附图说明

图1为本发明系统整体结构图。

图2为本发明数据处理子系统流程图。

图3为本发明数据处理子系统最大正向匹配算法示例图。

图4为本发明模式训练子系统流程图。

图5为模式训练子系统递归神经网络示意图。

图6为递归神经网络GRU单元结构图。

图7为本发明模式提取子系统流程图。

图8为本发明密码生成子系统流程图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面结合附图和实施例详细说明本发明的实施方式。

如图1所示，本系统由四个子系统组成，分别是数据处理子系统，模式训练子系统，模式提取子系统和密码生成子系统。系统的输入数据为用户的个人信息和对应的密码，用户个人信息包括用户名、姓名、出生日期、身份证号、手机号、邮箱等；

首先，将上述用户个人信息以及密码数据输入数据处理子系统，利用自然语言处理正向最大匹配算法对每组个人信息和密码进行匹配，根据匹配结果从左到右扫描生成密码串对应的密码模式；

其次，使用模式训练子系统对数据处理子系统得到的密码模式进行分析。为了捕捉用户密码模式中的长时依赖关系和共现关系，本发明采用递归神经网络对用户密码模式进行建模，构建用户密码模式概率模型，得到的模型可用于模式提取子系统生成最常用的用户密码模式；

再次，模式提取子系统利用模式训练子系统得到的用户密码模式概率模型，根据集束搜索(Beam Search)算法生成用户最常用的密码模式；

最后，根据模式提取子系统得到的最常用密码模式，按概率从高到低的顺序将密码模式中的每个部分使用相应的部分进行替换，生成用户可能使用的密码。

本发明中各个子系统的详细介绍如下：

1、数据处理子系统

主要实现输入数据的预处理，生成密码串对应的密码模式。

为了描述方便，下表1给出可能匹配上的所有密码模式：

表1 待匹配密码模式信息

注：匹配过程优先与用户个人信息进行匹配，以上所有个人信息均匹配不上时密码片段才会被标记为字母、数字或特殊符号类别。

具体地，如图2所示，数据处理子系统对用户密码数据的处理过程如下：

用户个人信息包括用户名、姓名、出生日期、身份证号、手机号、邮箱等，其中姓名为中文汉字形式，需要将其转化为拼音的形式。

借鉴自然语言处理领域中文分词思路，本发明采用正向最大匹配算法对用户个人信息和密码进行匹配，匹配流程如下(示例如附图3所示)：

1)从密码字符串左端开始匹配，考察窗口大小为最大匹配长度的子串，按2)流程进行匹配，若匹配成功，则标记匹配结果，否则左移结束位置，继续进行匹配，直到匹配成功或找不到匹配项。若找不到匹配项，则右移开始匹配位置；

2)将子串与用户个人信息一一进行匹配，若成功，则返回匹配结果，否则，转1)。个人信息匹配流程如下所示：

a)对于用户姓名，生成用户密码中常用的组合，如姓+名、名首字母+姓等16中不同组合形式，若子串能够与所有姓名可能组合之一完全匹配上，则匹配成功；

b)对于出生日期，生成用户密码中出生日期常用组合，如年+月+日、月+日等共10种不同的组合模式，若子串能够与所有出生日期可能组合之一完全匹配上，则匹配成功；

c)对于用户名、邮箱、身份证号、手机号等信息，若以上信息包含子串，则匹配成功；为避免误匹配，要求匹配子串长度不小于4。

d)整个密码字符串匹配完成后，对属于相同语义类别的连续子串进行合并，如附图中“！”，“@”，“#”均为特殊符号类别，则将其合并为S₃。

匹配完成后，从左到右扫描匹配结果，生成最终密码模式，每个模式项既包括匹配上的信息类型，也包括成功匹配子串的长度，附图3中密码生成的模式则可能为N₅B₄N₃S₃。

2、模式训练子系统

模式训练子系统利用递归神经网络分析密码模式数据，捕捉输入密码模式中的时序依赖关系和共现关系，构建密码模式概率模型。

具体地，如图4所示，模式训练子系统对密码模式数据的分析过程如下：

如附图5所示，递归神经网络每个时刻的输入为当前时刻的密码模式，输出为下一个时刻的密码模式，整个递归神经网络主要功能就是根据之前的密码模式预测下一个时刻每个可能的密码模式出现的概率。

上述递归神经网络(RNN)模型详细形式化描述如下：

RNN递归神经网络接受变长序列的输入x＝(x₁,…,x_T)，网络包含一个隐含状态h和可选输出y，每个时刻t，RNN隐含状态会按照下式进行更新：

h_<t>＝f(h_<t-1>,x_t) (1)

其中，x_t为当前时刻的输入，在本发明即为当前时刻的密码模式；h_t为当前时刻隐含状态；f是一个非线性激活函数，f可以是简单的Sigmoid函数，也可以是复杂的神经网络单元如LSTM(Long Short-Term Memory)或GRU(Gated Recurrent Unit)。

本发明中非线性激活函数f选为GRU单元，GRU单元结构如附图6所示：

以下详细介绍GRU单元激活值的计算过程。首先，重置门(reset gate)r_j可按照下式(2)计算得到：

r_j＝σ([W_rx]_j+[U_rh_<t-1>]_j) (2)

其中，σ为Sigmoid函数，[.]_j代表向量的第j个元素，x为输入向量，h_t-1为上个时刻的隐含状态。W_r和U_r是要学习得到的权重矩阵。

类似地，更新门z_j可通过下式(3)进行计算：

z_j＝σ([W_zx]_j+[U_zh_<t-1>]_j) (3)

隐含元的真实激活值h_j可通过式(4)进行计算：

其中，

在上式中，当重置门接近0时，隐含状态会被强制忽略上个时刻的隐含层状态并重置为当前输入。该机制可帮助隐含单元有效地丢弃对未来状态没有影响的无关信息，可得到一个更为简洁的表示。

另一方面，更新门控制着上一时刻隐含层状态会在多大程度上影响当前隐含层状态，这一机制可帮助RNN记住长期信息。

由于每个隐含单元都有单独的重置门和更新门，每个隐含单元能够捕捉到不同时间尺度的依赖关系。捕捉短时依赖关系的隐含单元的重置门会更加活跃，而捕捉长期依赖关系的隐含单元更新门则会更加活跃。

通过训练，RNN可预测序列中下一个符号(密码模式)的概率，汇总每个时刻的信息，RNN就可以学习得到一个序列的概率分布。每个时刻t的输出是一个条件概率分布，如通过Softmax激活函数我们可得到一个多项式分布：

其中w_j是权重矩阵W中的第j行。

基于此，可以使用下式计算序列x的概率：

综上，可得到如下优化目标：

其中N为所有训练样本的个数，p_θ(x_n)为序列x_n的概率，θ为模型参数。

整个RNN模型可通过RMSProp或者AdaGrad优化算法进行优化，优化得到的模型可用于特征提取子系统提取用户最常用的密码模式。

3、模式提取子系统

主要功能是基于模式训练子系统得到的用户密码模式概率模型，利用BeamSearch方法生成用户最常用密码模式；

具体地，附图7为模式提取子系统基本流程。

本发明使用的集束搜索算法(Beam Search)是一种启发式图搜索算法，通常用在解空间比较大的情况下，为了减少搜索所占用的空间和时间，在每一步深度扩展的时候，剪掉一些质量比较差的结点，保留下一些质量较高的结点。这样减少了空间消耗，并提高了时间效率，集束搜索算法可将原来指数时间复杂度降为线性时间复杂度。

集束搜索(Beam Search)使用广度优先策略建立搜索树，在树的每一层，按照启发代价对节点进行排序，然后仅留下预先确定的个数(Beam Width-集束宽度)的节点，仅这些节点在下一层次继续扩展，其他节点就被剪掉了。如果集束宽度无穷大，那该搜索就是宽度优先搜索。集束宽度可以是预先定好的，也可以是变动的，可以先按照一个最小的集束宽度进行搜索，如果没有找到合适的解，再扩大集束宽度再找一遍。算法流程如下所示：

1)初始化候选列表为空，扩展集合为[[<SOP>]](<SOP表示模式开始标识>)，设定集束宽度为k；

2)基于扩展集合，根据递归神经网络生成下一时刻密码模式的概率分布，计算到下个时刻为止所有已生成密码模式序列的概率，按概率从高到低排序并将前k个加入扩展集合，将概率前k的密码模式序列加入候选列表；

3)判断生成候选列表集合大小是否达到k，若达到，转4)，否则转2)；

4)对候选集合列表序列按概率从高到低排序输出。

通过以上集束搜索算法就可以找到概率较高的若干密码模式，即用户最常用的密码模式。

4、密码生成子系统

主要功能是根据模式提取子系统生成的用户最常用密码模式，基于用户个人信息，生成用户可能使用的密码。

具体地，如附图8所示，密码生成子系统的主要流程主要包括猜测结构生成和自适应替换两个阶段，以下详细介绍：

1)猜测结构生成：在本阶段，根据训练结果，按概率从高到低的顺序替换密码模式中的“D”和“S”符号，使用词典中的词替换密码模式串中的“L”符号。由于每个人的个人信息并不相同，所以只能在最后生成阶段考虑用户个人信息，本阶段并不对个人信息进行处理，所以本阶段生成的密码并不是真正的密码。因此，本阶段仅生成pre-terminal结构，生成的pre-terminal结构包含部分真正的猜测结果以及涉及个人信息的语义符号。比如，密码模式L₅N₅B₃S₁可能会被替换为helloN₅B₃！(如果“hello”在用户自定义字典中且“！”是训练集中出现次数最多的单个特殊字符)。值得一提的是，对于“L”符号而言，用户字典中具有相同长度的字符串具有相同的概率，“hello”的概率是其中N是用户输入字典中长度为5的字符串个数。

2)自适应替换：在本阶段，所有个人信息语义符号会被替换为特定用户对应的个人信息，如果有多个相同长度的候选项，则所有的都会被替换，生成候选密码。以helloN₅B₃！为例，若用户姓名为“张三”，N₅则会替换为“zhang”。然而，鉴于B₃有多个候选项，所有长度为3的“19910816”的子串都可能是一个候选项，生成的候选密码会包含所有可能的子串，如“hellozhang991！”,“hellozhang108！”,…,“hellozhang816！”等等。我们会一直尝试替换直到找到一个和“张三”密码完全匹配的密码串。此外，由于并不是每个特定长度的个人信息都能找到，并不是所有的个人信息语义符号都能被替换。在此种情形下，并不会为该用户生成相应的密码猜测结果。

综上，本发明提供的一种基于深度学习的用户密码系统，通过对用户密码模式进行分析，根据用户的个人信息，预测用户可能使用的密码。本发明可用于猜测用户密码；也可用于评估用户密码强度。

Claims (8)

1.一种基于深度学习的用户密码猜测系统，其特征在于，包括：

数据处理子系统，实现输入数据的预处理，根据用户个人信息和用户密码生成用户密码模式；

模式训练子系统，通过分析用户密码模式数据，基于递归神经网络构建用户密码模式概率模型；

模式提取子系统，基于模式训练子系统得到的用户密码模式概率模型，利用BeamSearch方法生成用户最常用密码模式；

密码生成子系统，根据模式提取子系统生成的用户最常用密码模式，基于用户个人信息，生成用户可能使用的密码。

2.根据权利要求1所述基于深度学习的用户密码猜测系统，其特征在于，所述数据处理子系统根据用户个人信息和对应的密码，利用最长正向匹配算法将用户个人信息和密码进行匹配，根据匹配结果生成用户密码使用的密码模式，为模式训练子系统准备数据条件。

3.根据权利要求2所述基于深度学习的用户密码猜测系统，其特征在于，所述将用户个人信息和密码进行匹配指找到包含用户个人信息的子串，匹配完成后，从左到右扫描匹配结果并根据结果生成该特定密码串的构成模式，所述用户个人信息包括用户名、姓名、出生日期、身份证号、手机号、邮箱。

4.根据权利要求1所述基于深度学习的用户密码猜测系统，其特征在于，所述模式训练子系统使用递归神经网络(RNN，Recurrent Neural Network)来对用户密码模式进行分析，对用户密码模式中时序上的依赖关系和共现关系进行建模，假定用户密码模式输入存在一定时序上的先后关系，则递归神经网络每个时刻的输入为当前时刻用户密码模式，输出为下一时刻用户密码模式，以此构建用户密码模式概率模型。

5.根据权利要求4所述基于深度学习的用户密码猜测系统，其特征在于，所述用户密码模式概率模型为：

<mrow> <msub> <mi>max</mi> <mi>&amp;theta;</mi> </msub> <mfrac> <mn>1</mn> <mi>N</mi> </mfrac> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>n</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>N</mi> </munderover> <msub> <mi>logp</mi> <mi>&amp;theta;</mi> </msub> <mrow> <mo>(</mo> <msub> <mi>x</mi> <mi>n</mi> </msub> <mo>)</mo> </mrow> </mrow>

其中N为递归神经网络所有训练样本的个数，p_θ(x_n)为序列x_n的概率，θ为模型参数，h_<t>＝f(h_<t-1>,x_t)，x_t为当前时刻的输入，即当前时刻的密码模式，h_t为当前时刻隐含状态；f是一个非线性激活函数，w_j是权重矩阵W中的第j行。

6.根据权利要求4所述基于深度学习的用户密码猜测系统，其特征在于，所述用户密码模式RNN模型通过RMSProp或者AdaGrad优化算法进行优化。

7.根据权利要求1所述基于深度学习的用户密码猜测系统，其特征在于，所述利用BeamSearch方法生成用户最常用密码模式的流程如下：

1)初始化候选列表为空，扩展集合为[[<SOP>]]，<SOP>表示模式开始标识，设定集束宽度为k；

2)基于扩展集合，根据递归神经网络生成下一时刻密码模式的概率分布，计算到下个时刻为止所有已生成密码模式序列的概率，按概率从高到低排序并将前k个加入扩展集合，将概率前k的密码模式序列加入候选列表；

3)判断生成候选列表集合大小是否达到k，若达到，转4)，否则转2)；

4)对候选集合列表序列按概率从高到低排序输出；

通过以上步骤找到概率较高的若干密码模式，即用户最常用的密码模式。

8.根据权利要求1所述基于深度学习的用户密码猜测系统，其特征在于，所述密码生成子系统生成用户可能使用的密码主要包括猜测结构生成和自适应替换两个阶段，其中：

1)猜测结构生成：在本阶段，根据训练结果，按概率从高到低的顺序替换密码模式中的“数字”和“特殊字符”符号，使用词典中的词替换密码模式串中的“字母”符号，生成pre-terminal结构，结构中包含部分真正的猜测结果以及涉及个人信息的语义符号；

2)自适应替换：在本阶段，所有个人信息语义符号会被替换为特定用户对应的个人信息，如果有多个相同长度的候选项，则所有的都会被替换，生成候选密码。