CN110689166B - 一种基于随机梯度下降算法的用户行为分析方法及装置 - Google Patents

Abstract

本发明涉及深度学习技术领域，揭示了一种基于随机梯度下降算法的用户行为分析方法及装置。所述方法包括：根据随机梯度下降算法获取初始函数，利用非线性规划最优性条件及余弦退火算法确定初始函数对应的样本用户行为的约束条件，通过结合初始函数及约束条件获取目标函数并求取目标函数的最优化损失确定全局最优解，构造得到深度学习模型，从而调用深度学习模型分析目标用户的用户行为，执行相应的用户策略。通过添加兼顾多个约束方向的约束条件，使得目标函数的优化过程可兼顾多个因素，并拓宽了应用场景。

Description

一种基于随机梯度下降算法的用户行为分析方法及装置

技术领域

本发明涉及深度学习技术领域，特别涉及一种基于随机梯度下降算法的用户行为分析方法及装置、电子设备及存储介质。

背景技术

随机梯度下降算法(SGD)已广泛应用于深度学习等技术领域，用以分析并预测用户行为，在使用随机梯度下降算法时，通常会先确定一个目标函数，并在目标函数梯度最小的方向上根据单一约束方向对该目标函数进行优化。而在对用户行为进行深度学习时，由于用户样本包括的信息(例如用户的学历和工作情况)较为复杂且都具备一定的考价值，因此需要以用户的学历和工作情况分别构建约束方向，在此情况下，由于随机梯度算法只能根据单一约束方向优化目标函数，且在优化过程中算法可能约束方向单一而陷入局部最小值，造成优化过程停滞，使得随机梯度下降算法难以被直接应用于深度学习项目中。可见，现有的随机梯度下降算法无法兼顾多个约束方向，应用场景存在较大限制。

发明内容

为了解决传统的随机梯度下降算法存在的无法兼顾多个约束方向，应用场景存在较大限制的问题，本发明提供了一种基于随机梯度下降算法的用户行为分析方法及装置。

本发明实施例第一方面公开了一种基于随机梯度下降算法的用户行为分析方法，所述方法包括：

根据随机梯度下降算法获取初始函数；

利用非线性规划最优性条件及余弦退火算法确定所述初始函数对应的样本用户行为的约束条件，所述约束条件包括所述样本用户行为的至少两个行为参数；

结合所述初始函数及所述至少两个行为参数获取目标函数，根据所述目标函数的最优化损失确定全局最优解，并根据所述全局最优解得到深度学习模型；

调用所述深度学习模型分析目标用户的用户行为，得到所述目标用户的用户类型，根据所述目标用户的用户类型对所述目标用户执行相应的用户策略。

本发明实施例第二方面公开了一种基于随机梯度下降算法的用户行为分析装置，所述基于随机梯度下降算法的用户行为分析装置包括：

初始函数单元，用于根据随机梯度下降算法获取初始函数；

约束单元，利用非线性规划最优性条件及余弦退火算法确定所述初始函数对应的样本用户行为的约束条件，所述约束条件包括所述样本用户行为的至少两个行为参数；

模型构造单元，用于结合所述初始函数及所述至少两个行为参数获取目标函数，根据所述目标函数的最优化损失确定全局最优解，并根据所述全局最优解得到深度学习模型；

类型分析单元，用于调用所述深度学习模型分析目标用户的用户行为，得到所述目标用户的用户类型，根据所述目标用户的用户类型对所述目标用户执行相应的用户策略。

本发明实施例第三方面公开了一种电子设备，所述电子设备包括：

处理器；

存储器，所述存储器上存储有计算机可读指令，所述计算机可读指令被所述处理器执行时，实现本发明实施例第一方面公开的一种基于随机梯度下降算法的用户行为分析方法。

本发明实施例第四方面公开了一种计算机可读存储介质，其存储计算机程序，所述计算机程序使得计算机执行本发明实施例第一方面公开的一种基于随机梯度下降算法的用户行为分析方法。

本发明的实施例提供的技术方案可以包括以下有益效果：

本发明所提供的一种基于随机梯度下降算法的用户行为分析方法包括如下步骤：根据随机梯度下降算法获取初始函数，利用非线性规划最优性条件及余弦退火算法确定初始函数对应的约束条件，通过结合初始函数及约束条件获取目标函数，最终根据目标函数的最优化损失确定全局最优解。

此方法下，通过非线性规划最优性条件及余弦退火算法对初始函数添加兼顾多个约束方向的约束条件，并在约束条件的引导下获得目标函数，使得目标函数的优化过程可兼顾多个约束方向，拓宽了应用场景。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本发明。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并于说明书一起用于解释本发明的原理。

图1是本发明实施例公开的一种基于随机梯度下降算法的用户行为分析装置的结构示意图；

图2是本发明实施例公开的一种基于随机梯度下降算法的用户行为分析方法的流程图；

图3是本发明实施例公开的另一种基于随机梯度下降算法的用户行为分析方法的流程图；

图4是本发明实施例公开的另一种基于随机梯度下降算法的用户行为分析装置的结构示意图；

图5是本发明实施例公开的又一种基于随机梯度下降算法的用户行为分析装置的结构示意图。

具体实施方式

这里将详细地对示例性实施例执行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。

本发明的实施环境可以是电子设备，例如笔记本电脑、台式电脑等代码存储及运行终端。

图1是本发明实施例公开的一种基于随机梯度下降算法的用户行为分析装置的结构示意图。如图1所示，装置100可以包括以下一个或多个组件：处理组件102，存储器104，电源组件106，多媒体组件108，音频组件110，传感器组件114以及通信组件116。

处理组件102通常控制装置100的整体操作，诸如与显示，电话呼叫，数据通信，相机操作以及记录操作相关联的操作等。处理组件102可以包括一个或多个处理器118来执行指令，以完成下述的方法的全部或部分步骤。此外，处理组件102可以包括一个或多个模块，用于便于处理组件102和其他组件之间的交互。例如，处理组件102可以包括多媒体模块，用于以方便多媒体组件108和处理组件102之间的交互。

存储器104被配置为存储各种类型的数据以支持在装置100的操作。这些数据的示例包括用于在装置100上操作的任何应用程序或方法的指令。存储器104可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(Static RandomAccess Memory，简称SRAM)，电可擦除可编程只读存储器(Electrically ErasableProgrammable Read-Only Memory，简称EEPROM)，可擦除可编程只读存储器(ErasableProgrammable Read Only Memory，简称EPROM)，可编程只读存储器(Programmable Red-Only Memory，简称PROM)，只读存储器(Read-Only Memory，简称ROM)，磁存储器，快闪存储器，磁盘或光盘。存储器104中还存储有一个或多个模块，用于该一个或多个模块被配置成由该一个或多个处理器118执行，以完成如下所示方法中的全部或者部分步骤。

电源组件106为装置100的各种组件提供电力。电源组件106可以包括电源管理系统，一个或多个电源，及其他与为装置100生成、管理和分配电力相关联的组件。

多媒体组件108包括在装置100和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(Liquid Crystal Display，简称LCD)和触摸面板。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与触摸或滑动操作相关的持续时间和压力。屏幕还可以包括有机电致发光显示器(Organic Light Emitting Display，简称OLED)。

音频组件110被配置为输出和/或输入音频信号。例如，音频组件110包括一个麦克风(Microphone，简称MIC)，当装置100处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器104或经由通信组件116发送。在一些实施例中，音频组件110还包括一个扬声器，用于输出音频信号。

传感器组件114包括一个或多个传感器，用于为装置100提供各个方面的状态评估。例如，传感器组件114可以检测到装置100的打开/关闭状态，组件的相对定位，传感器组件114还可以检测装置100或装置100一个组件的位置改变以及装置100的温度变化。在一些实施例中，该传感器组件114还可以包括磁传感器，压力传感器或温度传感器。

通信组件116被配置为便于装置100和其他设备之间有线或无线方式的通信。装置100可以接入基于通信标准的无线网络，如WiFi(Wireless-Fidelity，无线保真)。在本发明实施例中，通信组件116经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在本发明实施例中，通信组件116还包括近场通信(Near Field Communication，简称NFC)模块，用于以促进短程通信。例如，在NFC模块可基于射频识别(Radio FrequencyIdentification，简称RFID)技术，红外数据协会(Infrared Data Association，简称IrDA)技术，超宽带(Ultra Wideband，简称UWB)技术，蓝牙技术和其他技术来实现。

在示例性实施例中，装置100可以被一个或多个应用专用集成电路(ApplicationSpecific Integrated Circuit，简称ASIC)、数字信号处理器、数字信号处理设备、可编程逻辑器件、现场可编程门阵列、控制器、微控制器、微处理器或其他电子元件实现，用于执行下述方法。

请参阅图2，图2是本发明实施例公开的一种基于随机梯度下降算法的用户行为分析方法的流程示意图。其中，图2所描述的用户行为分析方法适用于笔记本电脑、台式电脑等电子设备。本发明实施例以电子设备为例描述用户行为分析方法，不应构成对该方法的限定。如图2所示该用户行为分析方法可以包括以下步骤：

201、根据随机梯度下降算法获取初始函数。

本发明实施例中，对于需要求取全局最优解的待优化用户样本，需先根据随机梯度下降算法为其构造初始函数。

作为一种可选的实施方式，根据待优化用户样本构造随机梯度下降算法的基础函数通过最小化优化基础函数带来的损失可求取全局最优解ω，得到求取全局最优解ω的初始函数如下：

其中，y为待优化用户样本的初始数值，为针对待优化用户样本的预设损失数值。

可见，通过采用随机梯度算法构造出待优化用户样本的初始函数，可在该初始函数为基础上对算法进行优化。

202、利用非线性规划最优性条件及余弦退火算法确定初始函数对应的样本用户行为的约束条件。

本发明实施例中，约束条件包括样本用户的至少两个行为参数；假设只根据初始函数求取优化损失，则优化过程只能朝着梯度最小的方向进行，约束条件单一，为了使初始函数适应实际需求，可构造至少包括两个行为参数的约束条件对初始函数的优化方向进行约束。

作为一种可选的实施方式，利用非线性规划最优性条件及余弦退火算法确定初始函数对应的约束条件，可以通过以下方式实现：根据非线性规划最优性条件为全局最优解ω添加限制条件，添加限制条件的求取全局最优解ω的函数如下：

sbjto.||ω||＜1

其中，限制条件sbjto.||ω||＜1表示全局最优解ω的模要小于1；

根据余弦退火算法为限制条件添加待定系数，并以限制条件及待定系数作为约束条件对初始函数进行约束，得到添加约束条件的求取全局最优解ω的函数如下：

其中，γ为限制条件的待定系数。

进一步可选地，根据余弦退火算法为限制条件添加待定系数，确定待定系数γ的预设余弦退火函数如下：

γ＝cos(S(t))

其中，cos(S(t))用于控制待定系数γ在随机梯度下降过程中随着优化时间t呈现余弦变化趋势。

可以看出，采用非线性规划最优性条件可根据实际需求对全局最优解ω的模添加限制条件，可有效地将优化过程控制在实际需求的范围内进行优化；而待定系数也可影响全局最优解的求取，若待定系数较大，约束条件对全局最优解的影响较大，若待定系数较小，约束条件对全局最优解的影响较小，因此，为了使限制条件在整个约束过程中更为平稳，需要采用余弦退火算法构造待定系数用以调整限制条件，使待定系数在优化过程中呈现余弦变化趋势，且在越接近全局最优解时，限制条件所产生的影响更小。

203、结合初始函数及至少两个行为参数获取目标函数，根据目标函数的最优化损失确定全局最优解，并根据全局最优解得到深度学习模型。

本发明实施例中，在步骤202确定出初始函数的限制条件与限制条件的约束系数作为约束条件之后，即可求取得到目标函数。

作为一种可选的实施方式，结合初始函数及约束条件获取目标函数，根据目标函数的最优化损失确定全局最优解，并根据全局最优解得到深度学习模型，可以通过以下方式实现：综合初始函数与约束条件对应的函数，得到求取全局最优解ω的目标函数如下：

计算目标函数的最优化损失确定出目标函数的全局最优解W；根据全局最优解W构造深度学习模型，深度学习模型根据样本用户行为划分出若干用户类型，每一用户类型对应于若干行为参数。

此时，根据目标函数的最优化损失可确定出全局最优解，假设在对用户行为进行分析时求取得到的全局最优解为用户的学历、工作情况及还款能力等行为参数，则可根据上述行为参数构建深度学习模型，深度学习模型根据不同用户所对应的行为参数将用户划分为若干用户类型。

可以看出，目标函数中除了有初始函数对待优化用户样本进行优化，还存在约束条件用以约束初始函数，且约束条件受到待定系数的影响呈现余弦变化趋势，从而实现了在目标函数的优化过程中对优化方向进行持续约束，而不再根据单一约束方向进行优化，从而正确地引导了优化方向，并构造得到兼顾多方面因素的深度学习模型。

作为另一种可选的实施方式，基于随机梯度下降算法进行用户行为分析的目的是使优化过程得到约束，从而获得收敛性较好的全局最优解，因此，对随机梯度算法进行优化除了可采用非线性规划最优性条件及余弦退火算法，还可根据实际需求采用其它具备收敛性的算法对随机梯度算法构造得到的初始函数进行约束，从而使优化结果产生实际所需的收敛性。

204、调用深度学习模型分析目标用户的用户行为，得到目标用户的用户类型，根据目标用户的用户类型对目标用户执行相应的用户策略。

本发明实施例中，在智能推荐或者反欺诈领域中，在采用深度学习模型将用户划分为若干用户类型之后，还将对不同用户类型的用户执行不同的用户策略。

作为一种可选的实施方式，根据目标用户的用户类型对目标用户执行相应的用户策略，可以通过以下方式实现：分析对应于目标用户的用户行为的目标行为参数；检测目标行为参数是否匹配于深度学习模型中的任一用户类型；若是，将与目标行为参数相匹配的用户类型设为目标用户的用户类型；若否，根据目标行为参数更新深度学习模型，并得到对应于目标用户的用户类型。具体地，假设上述流程应用于反欺诈领域，构建得到深度学习模型并分析得到用户类型及对应的行为参数为如下：正常用户(工作稳定、还款记录良好)、风险用户(无抵押资产)，则可将未经分类的目标用户的目标行为参数输入深度学习模型中进行分析，假设目标行为参数为(工作稳定、还款记录良好、具有抵押资产)，则目标行为参数与正常用户的行为参数相匹配，可确定目标用户的用户类型为正常用户，并对该目标用户执行正常用户的用户策略，如批准用户的信贷申请等；再假设目标用户对应的目标行为参数为(无稳定工作、存在失信记录)，深度学习模型无法将该目标用户划分为已有的任一用户类型，且分析得到目标行为参数具有独特性，则深度学习模型在分析过程中将该目标用户归为新的用户类型，并由管理人员确认后将该新的用户类型命名为黑名单用户，且黑名单用户的行为参数为(无稳定工作、存在失信记录)，且确定对黑名单用户执行不通过信贷申请的用户策略，从而实现了在分析过程中对深度学习模型进行更新。

可见，实施图2所描述的方法，通过利用非线性规划最优性条件及余弦退火算法构造约束条件，对根据随机梯度下降算法所构造的初始函数进行多方面的约束，使得优化过程在约束条件的约束下兼顾多个约束方向进行优化，且约束条件可根据实际需求进行设定，应用场景广泛。

请参阅图3，图3是本发明实施例公开的另一种基于随机梯度下降算法的用户行为分析方法的流程示意图。如图3所示，该用户行为分析方法可以包括以下步骤：

301、根据随机梯度下降算法获取初始函数。

302、利用非线性规划最优性条件及余弦退火算法确定初始函数对应的样本用户行为的约束条件。

303、结合初始函数及至少两个行为参数获取目标函数，根据目标函数的最优化损失确定全局最优解，并根据全局最优解得到深度学习模型。

304、记录对应于不同优化类型的全局最优解的优化方法，构造优化算法模型。

本发明实施例中，对于构建得到目标函数并求取得到全局最优解的历史优化数据，其优化方法及通用算法可应用于相同优化类型的待优化用户样本，从而无需对该相同优化类型的待优化用户样本重新构造初始函数以及进行优化。

作为一种可选的实施方式，在结合初始函数及至少两个行为参数获取目标函数之后，获取对应于不同优化类型的历史优化数据的全局最优解的优化方法，构造优化算法模型，将通用算法与优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解优化方法的目标优化算法模型；其中，通用算法包括若干对应于不同优化类型及不同代码语言的底层优化算法。具体地，通过分析历史优化数据，可对历史优化数据的优化类型进行分类，并获得求取每一优化类型的历史优化数据对应的全局最优解的优化方法，从而构造出优化类型与优化算法相对应的优化算法模型。可以理解的是，由于不同的待优化用户样本所处的代码环境不同，需要采用适配于待优化用户样本代码环境的代码语言所编写的算法对其进行处理，因此，可存储由不同代码语言所编写的通用算法，并将通用算法与优化算法模型进行集成，从而进一步构建得到优化类型与优化算法相对应的目标优化算法模型，从而优化类型不同或者代码语言不同的待优化用户样本亦可在目标优化算法模型中查找到适用的求取全局最优解的优化方法。

本发明实施例中，在构建得到目标优化算法模型之后，若有新的待优化用户样本需要进行优化，则可通过判别该待优化用户样本的优化类型，在目标优化算法模型中为该待优化用户样本调用适用的优化方法。

作为一种可选的实施方式，在将通用算法与优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解的优化方法的目标优化算法模型之后，在检测到对待优化用户样本进行优化的指令时，在目标优化算法模型中调用对应于所述待优化用户样本的优化类型的全局最优解优化方法，优化待优化用户样本。具体地，假设构建得到的目标优化算法模型中包括有采用随机梯度下降用户行为分析方法及采用动量梯度下降用户行为分析方法，并相应地存储有使用Java语言和Python语言所编写的底层优化算法，此时检测到有对新的待优化用户样本进行优化的指令，则检测该待优化用户样本的优化类型，假设检测到该待优化用户样本适合采用随机梯度下降算法进行优化，且该待优化用户样本所处的代码环境使用的代码语言为Java语言，则可在目标优化算法模型中直接调用随机梯度下降算法及相应的使用Java语言编写的底层优化算法对该待优化用户样本进行优化处理，避免了反复对相同优化类型的待优化用户样本构造目标函数，从而提高了优化效率。

作为另一种可选的实施方式，若检测到待优化用户样本的优化类型不存在于目标优化算法模型中，则执行上述步骤为待优化用户样本构造目标函数，并在目标函数构造完成后将该待优化用户样本的优化类型更新至目标算法优化模型中，同时将其所使用到的底层优化算法以多种代码语言的形式更新至目标算法优化模型中，从而在对各类型待优化用户样本的优化处理过程中，目标算法优化模型将变得更为完善。

305、调用深度学习模型分析目标用户的用户行为，得到目标用户的用户类型，根据目标用户的用户类型对目标用户执行相应的用户策略。

可见，实施图3所描述的方法，可根据不同优化类型的优化方法及对应的通用算法构建目标算法优化模型，从而可直接调用目标算法优化模型中的与待优化用户样本的优化类型相同的优化方法优化待优化用户样本，避免了优化过程中的重复步骤，提高了优化效率。

请参阅图4，图4是本发明实施例公开的一种基于随机梯度下降算法的用户行为分析装置的结构示意图。如图4所示，该基于随机梯度下降算法的用户行为分析装置可以包括：初始函数单元401、约束单元402、模型构造单元403及算法集成单元405，其中，

初始函数单元401，用于根据随机梯度下降算法获取初始函数；

约束单元402，用于利用非线性规划最优性条件及余弦退火算法确定初始函数对应的样本用户行为的约束条件，约束条件包括样本用户行为的至少两个行为参数；

模型构造单元403，用于结合初始函数及至少两个行为参数获取目标函数，根据目标函数的最优化损失确定全局最优解，并根据全局最优解得到深度学习模型；

类型分析单元404，用于调用深度学习模型分析目标用户的用户行为，得到目标用户的用户类型，根据目标用户的用户类型对目标用户执行相应的用户策略。

本发明实施例中，初始函数单元401用于获取初始函数，约束单元402为初始函数添加约束条件，模型构造单元403根据初始函数与约束条件生成目标函数，确定全局最优解并构造深度学习模型，类型分析单元404分析目标用户的用户类型并执行相应的用户策略。

作为一种可选的实施方式，初始函数单元401根据待优化用户样本构造随机梯度下降算法的基础函数通过最小化优化基础函数带来的损失可求取全局最优解ω，得到求取全局最优解ω的初始函数如下：

其中，y为待优化用户样本的初始数值，为针对待优化用户样本的预设损失数值。

可见，初始函数单元401通过采用随机梯度算法构造出待优化用户样本的初始函数，可在该初始函数为基础上对算法进行优化。

作为一种可选的实施方式，约束单元402利用非线性规划最优性条件及余弦退火算法确定初始函数对应的约束条件，可以通过以下方式实现：根据非线性规划最优性条件为全局最优解ω添加限制条件，添加限制条件的求取全局最优解ω的函数如下：

sbjto.||ω||＜1

其中，限制条件sbjto.||ω||＜1表示全局最优解ω的模要小于1；

约束单元402根据余弦退火算法为限制条件添加待定系数，并以限制条件及待定系数作为约束条件对初始函数进行约束，得到添加约束条件的求取全局最优解ω的函数如下：

其中，γ为限制条件的待定系数。

进一步可选地，约束单元402根据余弦退火算法为限制条件添加待定系数，确定待定系数γ的预设余弦退火函数如下：

γ＝cos(S(t))

其中，cos(S(t))用于控制待定系数γ在随机梯度下降过程中随着优化时间t呈现余弦变化趋势。

可以看出，约束单元402采用非线性规划最优性条件可根据实际需求对全局最优解ω的模添加限制条件，可有效地将优化过程控制在实际需求的范围内进行优化；而待定系数也可影响全局最优解的求取，若待定系数较大，约束条件对全局最优解的影响较大，若待定系数较小，约束条件对全局最优解的影响较小，因此，为了使限制条件在整个约束过程中更为平稳，需要采用余弦退火算法构造待定系数用以调整限制条件，使待定系数在优化过程中呈现余弦变化趋势，且在越接近全局最优解时，限制条件所产生的影响更小。

作为一种可选的实施方式，模型构造单元403结合初始函数及约束条件获取目标函数，根据目标函数的最优化损失确定全局最优解，并根据全局最优解得到深度学习模型，可以通过以下方式实现：综合初始函数与约束条件对应的函数，得到求取全局最优解ω的目标函数如下：

计算目标函数的最优化损失确定出目标函数的全局最优解W；根据全局最优解W构造深度学习模型，深度学习模型根据样本用户行为划分出若干用户类型，每一用户类型对应于若干行为参数。

此时，模型构造单元403根据目标函数的最优化损失可确定出全局最优解，假设在对用户行为进行分析时求取得到的全局最优解为用户的学历、工作情况及还款能力等行为参数，则可根据上述行为参数构建深度学习模型，深度学习模型根据不同用户所对应的行为参数将用户划分为若干用户类型。

可以看出，目标函数中除了有初始函数对待优化用户样本进行优化，还存在约束条件用以约束初始函数，且约束条件受到待定系数的影响呈现余弦变化趋势，从而实现了在目标函数的优化过程中对优化方向进行持续约束，而不再根据单一约束方向进行优化，从而正确地引导了优化方向，并构造得到兼顾多方面因素的深度学习模型。

作为另一种可选的实施方式，基于随机梯度下降算法进行用户行为分析的目的是使优化过程得到约束，从而获得收敛性较好的全局最优解，因此，对随机梯度算法进行优化除了可采用非线性规划最优性条件及余弦退火算法，还可根据实际需求采用其它具备收敛性的算法对随机梯度算法构造得到的初始函数进行约束，从而使优化结果产生实际所需的收敛性。

作为一种可选的实施方式，类型分析单元404根据目标用户的用户类型对目标用户执行相应的用户策略，可以通过以下方式实现：分析对应于目标用户的用户行为的目标行为参数；检测目标行为参数是否匹配于深度学习模型中的任一用户类型；若是，将与目标行为参数相匹配的用户类型设为目标用户的用户类型；若否，根据目标行为参数更新深度学习模型，并得到对应于目标用户的用户类型。具体地，假设上述流程应用于反欺诈领域，构建得到深度学习模型并分析得到用户类型及对应的行为参数为如下：正常用户(工作稳定、还款记录良好)、风险用户(无抵押资产)，则类型分析单元404可将未经分类的目标用户的目标行为参数输入深度学习模型中进行分析，假设目标行为参数为(工作稳定、还款记录良好、具有抵押资产)，则目标行为参数与正常用户的行为参数相匹配，可确定目标用户的用户类型为正常用户，并对该目标用户执行正常用户的用户策略，如批准用户的信贷申请等；再假设目标用户对应的目标行为参数为(无稳定工作、存在失信记录)，类型分析单元404无法将该目标用户划分为已有的任一用户类型，且分析得到目标行为参数具有独特性，则类型分析单元404在分析过程中将该目标用户归为新的用户类型，并由管理人员确认后将该新的用户类型命名为黑名单用户，且黑名单用户的行为参数为(无稳定工作、存在失信记录)，且确定对黑名单用户执行不通过信贷申请的用户策略，从而实现了在分析过程中对深度学习模型进行更新。

可见，实施图4所描述的基于随机梯度下降算法的用户行为分析装置，目标函数中除了有初始函数对待优化用户样本进行优化，还存在约束单元402添加约束条件用以约束初始函数，且约束条件受到待定系数的影响呈现余弦变化趋势，从而实现了在目标函数的优化过程中对优化方向进行持续约束，并由模型构造单元403构造得到深度学习模型，类型分析单元404可根据深度学习模型划分用户类型。

请参阅图5，图5是本发明实施例公开的又一种基于随机梯度下降算法的用户行为分析装置的结构示意图。图5所示的基于随机梯度下降算法的用户行为分析装置是由图4所示的基于随机梯度下降算法的用户行为分析装置进行优化得到的。与图4所示的基于随机梯度下降算法的用户行为分析装置相比较，图5所示的基于随机梯度下降算法的用户行为分析装置还可以包括：算法集成单元405，其中，

算法集成单元405，用于在模型构造单元403结合初始函数及至少两个行为参数获取目标函数之后，获取对应于不同优化类型的历史优化数据的全局最优解的优化方法，构造优化算法模型；将通用算法与优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解优化方法的目标优化算法模型；其中，所述通用算法包括若干对应于不同优化类型及不同代码语言的底层优化算法；

此外，算法集成单元405，还用于在算法集成单元405将通用算法与优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解的优化方法的目标优化算法模型之后，在检测到对待优化用户样本进行优化的指令时，在目标优化算法模型中调用对应于待优化用户样本的优化类型的全局最优解优化方法，优化待优化用户样本。

本发明实施例中，算法集成单元405可根据不同优化类型的优化方法及对应的通用算法构建目标算法优化模型。

作为一种可选的实施方式，在模型构造单元403结合初始函数及约束条件获取目标函数之后，算法集成单元405获取对应于不同优化类型的历史优化数据的全局最优解的优化方法，构造优化算法模型，将通用算法与优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解优化方法的目标优化算法模型；其中，通用算法包括若干对应于不同优化类型及不同代码语言的底层优化算法。具体地，算法集成单元405通过分析历史优化数据，可对历史优化数据的优化类型进行分类，并获得求取每一优化类型的历史优化数据对应的全局最优解的优化方法，从而构造出优化类型与优化算法相对应的优化算法模型。可以理解的是，由于不同的待优化用户样本所处的代码环境不同，需要采用适配于待优化用户样本代码环境的代码语言所编写的算法对其进行处理，因此，算法集成单元405可存储由不同代码语言所编写的通用算法，并将通用算法与优化算法模型进行集成，从而进一步构建得到优化类型与优化算法相对应的目标优化算法模型，从而优化类型不同或者代码语言不同的待优化用户样本亦可在目标优化算法模型中查找到适用的求取全局最优解的优化方法。

作为一种可选的实施方式，在算法集成单元405将通用算法与优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解的优化方法的目标优化算法模型之后，算法集成单元405在检测到对待优化用户样本进行优化的指令时，在目标优化算法模型中调用对应于所述待优化用户样本的优化类型的全局最优解优化方法，优化待优化用户样本。具体地，假设算法集成单元405构建得到的目标优化算法模型中包括有采用随机梯度下降用户行为分析方法及采用动量梯度下降用户行为分析方法，并相应地存储有使用Java语言和Python语言所编写的底层优化算法，此时算法集成单元405检测到有对新的待优化用户样本进行优化的指令，则检测该待优化用户样本的优化类型，假设算法集成单元405检测到该待优化用户样本适合采用随机梯度下降算法进行优化，且该待优化用户样本所处的代码环境使用的代码语言为Java语言，则可在目标优化算法模型中直接调用随机梯度下降算法及相应的使用Java语言编写的底层优化算法对该待优化用户样本进行优化处理，避免了反复对相同优化类型的待优化用户样本构造目标函数，从而提高了优化效率。

作为另一种可选的实施方式，若算法集成单元405检测到待优化用户样本的优化类型不存在于目标优化算法模型中，则转向初始函数单元401、约束单元402及模型构造单元403为待优化用户样本构造目标函数并构造深度学习模型，算法集成单元405在目标函数构造完成后将该待优化用户样本的优化类型更新至目标算法优化模型中，同时将其所使用到的底层优化算法以多种代码语言的形式更新至目标算法优化模型中，从而在对各类型待优化用户样本的优化处理过程中，目标算法优化模型将变得更为完善。

可见，实施图5所描述的基于随机梯度下降算法的用户行为分析装置，算法集成单元405可根据不同优化类型的优化方法及对应的通用算法构建目标算法优化模型，从而算法集成单元405可直接调用目标算法优化模型中的与待优化用户样本的优化类型相同的优化方法优化待优化用户样本，避免了优化过程中的重复步骤，提高了优化效率。

本发明还提供一种电子设备，该电子设备包括：

处理器；

存储器，该存储器上存储有计算机可读指令，该计算机可读指令被处理器执行时，实现如前所示的一种基于随机梯度下降算法的用户行为分析方法。

该电子设备可以是图1所示的装置100。

在一示例性实施例中，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时，实现如前所示的一种基于随机梯度下降算法的用户行为分析方法。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围执行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (6)

1.一种基于随机梯度下降算法的用户行为分析方法，其特征在于，包括：

根据待优化用户样本构造随机梯度下降算法的基础函数，通过最小化优化基础函数带来的损失求取全局最优解/>，得到求取所述全局最优解/>的初始函数如下：

其中，为所述待优化用户样本的初始数值，/>为针对所述待优化用户样本的预设损失数值；

根据非线性规划最优性条件为所述全局最优解添加限制条件，添加所述限制条件的求取所述全局最优解/>的函数如下：

其中，所述限制条件表示所述全局最优解/>的模要小于1；

根据余弦退火算法为所述限制条件添加待定系数，并以所述限制条件及所述待定系数作为约束条件对所述初始函数对应的所述待优化用户样本的用户行为进行约束，得到添加所述约束条件的求取所述全局最优解的函数如下：

其中，为所述限制条件的待定系数，所述约束条件包括所述待优化用户样本的用户的至少两个行为参数，所述行为参数包括用户的学历、工作情况及还款能力；

所述根据余弦退火算法为所述限制条件添加待定系数，确定所述待定系数的预设余弦退火函数如下：

其中，S(t)是以时间t为变量的函数，用于控制所述待定系数/>在随机梯度下降过程中随着优化时间t呈现余弦变化趋势；

综合所述初始函数与所述约束条件对应的函数，得到求取所述全局最优解的目标函数如下：

计算所述目标函数的最优化损失确定出所述目标函数的全局最优解；

根据所述全局最优解构造深度学习模型，所述深度学习模型根据所述样本用户行为划分出若干用户类型，每一所述用户类型对应于若干所述行为参数；调用所述深度学习模型分析目标用户的用户行为，得到所述目标用户的用户类型，根据所述目标用户的用户类型对所述目标用户执行相应的用户策略；

其中，所述调用所述深度学习模型分析目标用户的用户行为，得到所述目标用户的用户类型，包括：

分析对应于所述目标用户的用户行为的目标行为参数；

检测所述目标行为参数是否匹配于所述深度学习模型中的任一所述用户类型；

若是，将与所述目标行为参数相匹配的用户类型设为所述目标用户的用户类型；

若否，根据所述目标行为参数更新所述深度学习模型，并得到对应于所述目标用户的用户类型。

2.根据权利要求1所述的方法，其特征在于，在获取目标函数之后，所述方法还包括：

通过分析历史优化数据，对历史优化数据的优化类型进行分类，并获得求取每一优化类型的历史优化数据对应的全局最优解的优化方法，构造出优化类型与优化方法相对应的优化算法模型；

将通用算法与所述优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解优化方法的目标优化算法模型；其中，所述通用算法包括若干对应于不同优化类型及不同代码语言的底层优化算法。

3.根据权利要求2所述的用户行为分析方法，其特征在于，在所述将通用算法与所述优化算法模型进行集成，得到包括对应于不同优化类型的全局最优解的优化方法的目标优化算法模型之后，所述方法还包括：

在检测到对待优化用户样本进行优化的指令时，在所述目标优化算法模型中调用对应于所述待优化用户样本的优化类型的全局最优解优化方法，优化所述待优化用户样本。

4.一种基于随机梯度下降算法的用户行为分析装置，其特征在于，用于执行权利要求1~3中任一项所述的方法，所述基于随机梯度下降算法的用户行为分析装置包括：

初始函数单元，用于根据随机梯度下降算法获取初始函数；

约束单元，利用非线性规划最优性条件及余弦退火算法确定所述初始函数对应的待优化用户样本的用户行为的约束条件，所述约束条件包括所述待优化用户样本的至少两个行为参数；

模型构造单元，用于结合所述初始函数及所述至少两个行为参数获取目标函数，根据所述目标函数的最优化损失确定全局最优解，并根据所述全局最优解得到深度学习模型；

类型分析单元，用于调用所述深度学习模型分析目标用户的用户行为，得到所述目标用户的用户类型，根据所述目标用户的用户类型对所述目标用户执行相应的用户策略；

其中，所述调用所述深度学习模型分析目标用户的用户行为，得到所述目标用户的用户类型，包括：

分析对应于所述目标用户的用户行为的目标行为参数；

检测所述目标行为参数是否匹配于所述深度学习模型中的任一所述用户类型；

若是，将与所述目标行为参数相匹配的用户类型设为所述目标用户的用户类型；

若否，根据所述目标行为参数更新所述深度学习模型，并得到对应于所述目标用户的用户类型。

5.一种电子设备，包括存储器和处理器，所述存储器存储有计算机程序，其特征在于，所述处理器执行所述计算机程序时实现权利要求1~3中任一项所述的基于随机梯度下降算法的用户行为分析方法的步骤。

6.一种计算机可读存储介质，其特征在于，其存储计算机程序，所述计算机程序使得计算机执行权利要求1~3任一项所述的基于随机梯度下降算法的用户行为分析方法。