CN117690277A - 阈值确定方法、装置、设备及存储介质 - Google Patents

Abstract

本发明公开了一种阈值确定方法、装置、设备及存储介质。应用于银行交易监测系统中，方法包括：获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率，至少一个预设预警规则为可疑交易监测模型中的预警规则；将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；基于最优评估值表确定每一个预设预警规则对应的目标阈值。解决了在对可疑交易监测模型中的阈值进行确定时，存在成本高，无法保证阈值最优性和整体性的问题，有效的降低了成本，并有效的保证了阈值最优性和整体性。

Description

阈值确定方法、装置、设备及存储介质

技术领域

本发明实施例涉及可疑交易监测技术领域，尤其涉及一种阈值确定方法、装置、设备及存储介质。

背景技术

随着异常交易现象日益复杂化，国内外反异常交易监管形势也日趋严峻，亟需利用新技术丰富和完善反异常交易监测手段。为实现银行交易监测系统对交易的自动化监测，及时全面的识别出异常交易特征并生成预警信息及交易信息，可以通过可疑交易监测模型提取监测指标，并当监测指标满足某些设定阈值时认定为异常交易特征。

但是在对可疑交易监测模型中的阈值进行确定时，存在成本高，无法保证阈值最优性和整体性的问题。

发明内容

本发明提供了一种阈值确定方法、装置、设备及存储介质，以解决在对可疑交易监测模型中的阈值进行确定时，存在成本高，无法保证阈值最优性和整体性的问题。

根据本发明的一方面，提供了一种阈值确定方法，应用于银行交易监测系统中，方法包括：

获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率至少一个预设预警规则为可疑交易监测模型中的预警规则；

将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；

基于最优评估值表确定每一个预设预警规则对应的目标阈值。

根据本发明的另一方面，提供了一种阈值确定装置，其特征在于，应用于银行交易监测系统中，装置包括：

数据获取模块，用于获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率；

评估值表更新模块，用于将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；

阈值确定模块，用于基于最优评估值表确定每一个预设预警规则对应的目标阈值。

根据本发明的另一方面，提供了一种电子设备，电子设备包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的计算机程序，计算机程序被至少一个处理器执行，以使至少一个处理器能够执行本发明任一实施例的阈值确定方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机指令，计算机指令用于使处理器执行时实现本发明任一实施例的阈值确定方法。

本发明实施例提供的技术方案，应用于银行交易监测系统中，通过获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率，至少一个预设预警规则为可疑交易监测模型中的预警规则；将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；基于最优评估值表确定每一个预设预警规则对应的目标阈值。通过上述技术方案，将获取的至少一个预设预警规则对应的预警量和预警准确率输入到构建的Q学习模型中，在Q学习模型中，利用Q学习算法根据预警量和预警准确率，迭代更新评估值表，能够得到最优评估值表，基于最优评估值表能够确定每一个预设预警规则对应的目标阈值，实现了根据预警量和预警准确率的反馈自动确定最优阈值。解决了在对可疑交易监测模型中的阈值进行确定时，存在成本高，无法保证阈值最优性和整体性的问题，有效的降低了成本，并有效的保证了阈值最优性和整体性。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例一提供的一种阈值确定方法的流程图；

图2是本发明实施例二提供的一种阈值确定方法的流程图；

图3是本发明实施例三提供的一种阈值确定装置的结构示意图；

图4是本发明实施例四提供的一种阈值确定设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例一

图1是本发明实施例一提供的一种阈值确定方法的流程图，本实施例可适用于对可疑交易监测模型中的阈值进行确定的情况，该方法可以由阈值确定装置来执行，该阈值确定装置可以采用硬件和/或软件的形式实现，该阈值确定装置可配置于阈值确定设备中。如图1所示，该方法包括：

S110、获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率，至少一个预设预警规则为可疑交易监测模型中的预警规则。

在本实施例中，预设预警规则包括提前设定的规则，用于确定交易流水中的异常交易特征。交易流水可以理解为金融机构在资金往来中的一些交易记录。交易流水涉及多个监测指标，该监测指标可以为交易金额、交易笔数等。预警量用于表示交易流水中满足对应预设预警规则的数量，示例性的，总交易流水为100笔，而交易金额满足预设预警规则的交易流水为20笔，则预警量为20。预警准确率用于表示预警量中预警准确的概率，示例性的，预警量为20，但是在这20笔中，通过身份验证等其他辅助方式判断，仅有10笔是预警准确的，那么此时预警准确率为50％。

具体的，银行交易监测系统利用可疑交易监测模型来识别异常交易特征，并生成预警信息及相关的交易信息。该预警信息可以包括预警量和预警准确率。该可疑交易监测模型中包括多个预设预警规则，并根据交易流水中的监测指标以及监测指标对应的预设预警规则能够确定预警量和预警准确率。因此，可以获得可疑交易监测模型中至少一个预设预警规则对应的预警量和预警准确率。

S120、将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表。

在本实施例中，Q学习模型包括Q学习算法和评估值表。其中，Q学习算法为强化学习方法的一类，基本思想是通过反馈值优化一个可迭代计算的Q函数。评估值表用于保存经过Q学习算法迭代更新后的值。

具体的，考虑到一些相关技术在对预设预警规则中的阈值进行确定时，是通过业务人员依据监管要求或自身的工作经验，人为调整每个预设预警规则的阈值，进而使得可疑交易监测模型具有符合预期的预警量和预警准确率，整个过程消耗大量的人力、物力和时间，且很难保证最终的阈值是最优解。因此，可以利用Q学习模型实现预设预警规则对应阈值的自主确定。即在可疑交易监测模型中构建包括Q学习算法和评估值表的Q学习模型，进而将获取的每个预设预警规则对应的预警量和预警准确率输入到Q学习模型，根据每个预设预警规则对应的预警量和预警准确率，利用Q学习算法迭代更新评估值表，得到最优评估值表。

S130、基于最优评估值表确定每一个预设预警规则对应的目标阈值。

在本实施例中，目标阈值可以理解为预设预警规则对应的最终阈值。

具体的，根据最优评估值表，能够确定每一个预设预警规则对应的目标阈值。

本发明实施例提供的技术方案，应用于银行交易监测系统中，通过获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率，至少一个预设预警规则为可疑交易监测模型中的预警规则；将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；基于最优评估值表确定每一个预设预警规则对应的目标阈值。通过上述技术方案，将获取的至少一个预设预警规则对应的预警量和预警准确率输入到构建的Q学习模型中，在Q学习模型中，利用Q学习算法根据预警量和预警准确率，迭代更新评估值表，能够得到最优评估值表，基于最优评估值表能够确定每一个预设预警规则对应的目标阈值，实现了根据预警量和预警准确率的反馈自动确定最优阈值。解决了在对可疑交易监测模型中的阈值进行确定时，存在成本高，无法保证阈值最优性和整体性的问题，有效的降低了成本，并有效的保证了阈值最优性和整体性。

在一些实施例中，Q学习算法通过以下方式确定：根据预设回报因子、奖惩因子以及上一次迭代的评估值表，确定Q学习算法，其中，奖惩因子根据预警量和预警准确率确定；其中，评估值表为二维矩阵，评估值表的行表示预设预警规则，评估值表的列表示预设阈值，评估值表中的元素代表评估值，评估值用于表示预设预警规则对预设阈值的偏好程度。通过上述技术方案，能够有效确定Q学习算法和评估值表。

在本实施例中，预设回报因子可根据经验值设定，一般取值在0到1之间。奖惩因子根据预警量和预警准确率确定。

具体的，通过预设回报因子、奖惩因子以及上一次迭代的评估值表，能够确定Q学习算法。评估值表为二维矩阵，该二维矩阵的行表示预设预警规则，评估值表的列表示预设阈值，该预设阈值的值是根据提前设置好的阈值范围确定的，示例性的，预设阈值可以为从阈值范围为[1～3]的区间内，选取的整数值。评估值表中的元素代表评估值，评估值用于表示预设预警规则对预设阈值的偏好程度。

示例性的，表1为一个3×3的评估值表，如表1所示：

表1

其中，该评估值表中包含3个预设预警规则，设置的阈值范围是[1`3]，预设阈值的取值分别是1、2、3，该评估值表中的每个评估值均为0。

可选的，在更新的过程中，预设预警规则对应的预警量和预警准确率是根据评估值表中最大评估值对应的预设阈值确定的。

实施例二

图2是本发明实施例二提供的一种阈值确定方法的流程图，本实施例在上述各可选实施例基础上进行优化和扩展，本实施例展开说明了将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型后，Q学习模型如何根据预警量和预警准确率确定最优评估值表，以及根据最优评估值表如何确定预设预警规则的目标阈值。如图2所示，该方法包括：

S210、获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率，至少一个预设预警规则为可疑交易监测模型中的预警规则。

S220、将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表，其中，评估值影响值通过奖惩因子与上一次迭代的评估值表中对应的评估值的差值，乘以预设回报因子得到。

具体的，将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型后，Q学习模型中的Q学习算法通过如下公式能够更新评估值表中的每个评估值：

其中，表示评估值，/>表示上一次迭代的评估值，α表示预设回报因子，r表示奖惩因子，该奖惩因子基于预设预警规则对应的预警量和预警准确率确定，i表示当前迭代次数，m表示第m个预设预警规则。通过采用上述公式对评估值表中的每个评估值进行更新，实现对评估值表的更新。

S230、若所有预设预警规则对应的预警量均满足第一预设条件且对应的预警准确率均满足第二预设条件，则将当前迭代的评估值表作为最优评估值表。

在本实施例中，第一预设条件和第二预设条件是提前设置好的。

具体的，预警量满足第一预设条件时，可认为预警量接近预期预警量，预警准确率满足第二预设条件时，可以认为预警准确率接近预期预警准确率。若可疑交易监测模型中的所有预设预警规则对应的预警量均满足第一预设条件，同时对应的预警准确率均满足第二预设条件，则能够表明当前迭代的评估值表使得当前的可疑交易监测模型整体预警量适中，且预警准确率高，所以将当前迭代的评估值表作为最优评估值表。

S240、将最优评估值表中每一行的最大评估值对应的预设阈值，确定为对应预设预警规则的目标阈值。

具体的，最优评估值表中的每一行表示一个预设预警规则，每一行的最大评估值表示当前预设预警规则对该最大评估值对应的预设阈值的偏好程度最大。将最优评估值表中每一行的最大评估值对应的预设阈值，确定为对应预设预警规则的目标阈值，以此能够确保目标阈值的优越性。

示例性的，表2为评估值表的更新过程，如表2所示：

表2

该评估值表包括三个预设预警规则尝试寻找最优的预设阈值，在初始时刻，所有预设阈值对应的评估值可以是随机数，也可以是根据实际情况设置的，在迭代更新的过程中，这些预设预警规则倾向于选择评估值大的预设阈值。从表中可以看到，通过Q学习算法对评估值表的进行i次更新后，预设预警规则1会选择预设阈值1，预设预警规则2会选择预设阈值2，预设预警规则3会选择预设阈值2。经过一定迭代次数后，所有预设预警规则会收敛到最大评估值对应的预设阈值，使可疑交易监测模型的预警量最大限度符合预期，也有效地提升了模型的预警准确率。

本发明实施例二提供的技术方案，通过获取至少一个预设预警规则对应的预警量和预警准确率；将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表；若所有预设预警规则对应的预警量均满足第一预设条件且对应的预警准确率均满足第二预设条件，则将当前迭代的评估值表作为最优评估值表；将最优评估值表中每一行的最大评估值对应的预设阈值，确定为对应预设预警规则的目标阈值。通过上述技术方案，有效的保证了阈值最优性和整体性，进一步保证可疑交易监测模型的预警量适中和预警准确性。

在一些实施例中，在通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表之后，还包括：若任一预设预警规则对应的预警量不满足第一预设条件或对应的预警准确率不满足第二预设条件，则重复执行通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表。通过上述技术方案，能够保证可疑交易监测模型阈值调整的整体性，同时保证评估值表的不断更新，为获取最优评估值表奠定基础。

具体的，若预设预警规则对应的预警量不满足第一预设条件，可认为预警量不符合预期预警量，预警准确率不满足第二预设条件，可认为预警准确率不符合预期预警准确率，对于可疑交易监测模型中的任一预设预警规则对应的预警量不满足第一预设条件或对应的预警准确率不满足第二预设条件时，则该可疑交易监测模型的性能较差，此时，将根据当前各预设预警规则对应的预警量和预警准确率，通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表。并在基于更新后的评估值表确定的预警量仍不满足第一预设条件或预警准确率仍不满足第二预设条件时，迭代更新评估值表。

在一些实施例中，第一预设条件包括预警量处于第一预设阈值范围内；第二预设条件包括预警准确率处于第二预设阈值范围内。通过上述技术方案，能够有效的确定第一预设条件和第二预设条件，进而有利于保证可疑交易监测模型的优越性。

在本实施例中，第一预设阈值范围和第二预设阈值范围可以根据经验值设置区间。

具体的，为了使最终的可疑交易监测模型有符合预期的预警量和预警准确率，通过设置第一预设条件和第二预设条件进行确定。其中，第一预设条件包括预警量处于第一预设阈值范围内，可认为此时的预警量接近预期，第二预设条件包括预警准确率处于第二预设阈值范围内，可认为此时的预警准确率接近预期值。

在一些实施例中，奖惩因子为二维矩阵，奖惩因子的取值通过以下方式进行确定：若预设预警规则对应的预警量满足第一预设条件且对应的预警准确率满足第二预设条件，则奖惩因子中的元素均取值为1；否则，奖惩因子中的元素均取值为-1。通过上述技术方案，能够有效的确定奖惩因子的值，为获取最优评估值表奠定基础。

具体的，奖惩因子为二维矩阵，该二维矩阵的大小与估值表的大小相同。奖惩因子是根据预设预警规则对应的预警量和预警准确率确定的，当预设预警规则对应的预警量满足第一预设条件且对应的预警准确率满足第二预设条件，则奖惩因子中的元素均取值为1；否则，奖惩因子中的元素均取值为-1。

在一些实施例中，在通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表之后，还包括：若Q学习模型迭代到预设次数，则将当前迭代的评估值表作为最优评估值表。通过上述技术方案，能够有效保证Q学习模型更新迭代的效率和评估值表的最优性，进一步有利于可疑交易监测模型性能的提升。

在本实施例中，预设次数是根据实际情况进行设置的。

具体的，为了保证Q学习模型更新迭代的效率和评估值表的最优性，可以设置Q学习模型的迭代次数，基于Q学习模型的特性，在Q学习模型迭代到预设次数时，该迭代的预设次数对应的Q学习模型中的评估值表相较于预设次数之前迭代的评估值表更为可靠，所以可以将当前迭代的评估值表作为最优评估值表。

实施例三

图3是本发明实施例三提供的一种阈值确定装置的结构示意图。如图3所示，阈值确定装置应用于银行交易监测系统中，该装置包括：

数据获取模块31，用于获取至少一个预设预警规则对应的预警量和预警准确率，其中，预警量用于表示交易流水中满足对应预设预警规则的数量，预警准确率用于表示预警量中预警准确的概率，至少一个预设预警规则为可疑交易监测模型中的预警规则；

评估值表更新模块32，用于将至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；

阈值确定模块33，用于基于最优评估值表确定每一个预设预警规则对应的目标阈值。

本发明实施例三提供的技术方案，实现了根据预警量和预警准确率的反馈自动确定最优阈值。解决了在对可疑交易监测模型中的阈值进行确定时，存在成本高，无法保证阈值最优性和整体性的问题，有效的降低了成本，并有效的保证了阈值最优性和整体性。

可选的，Q学习算法通过以下方式确定：

根据预设回报因子、奖惩因子以及上一次迭代的评估值表，确定Q学习算法，其中，奖惩因子根据预警量和预警准确率确定；

其中，评估值表为二维矩阵，评估值表的行表示预设预警规则，评估值表的列表示预设阈值，评估值表中的元素代表评估值，评估值用于表示预设预警规则对预设阈值的偏好程度。

可选的，利用Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表，包括：

通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表，其中，评估值影响值通过奖惩因子与上一次迭代的评估值表中对应的评估值的差值，乘以预设回报因子得到；

若所有预设预警规则对应的预警量均满足第一预设条件且对应的预警准确率均满足第二预设条件，则将当前迭代的评估值表作为最优评估值表；

可选的，阈值确定模块33，具体用于将最优评估值表中每一行的最大评估值对应的预设阈值，确定为对应预设预警规则的目标阈值。

可选的，在通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表之后，还包括：

若任一预设预警规则对应的预警量不满足第一预设条件或对应的预警准确率不满足第二预设条件，则重复执行通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表。

可选的，第一预设条件包括预警量处于第一预设阈值范围内；

第二预设条件包括预警准确率处于第二预设阈值范围内。

可选的，奖惩因子为二维矩阵，奖惩因子的取值通过以下方式进行确定：

若预设预警规则对应的预警量满足第一预设条件且对应的预警准确率满足第二预设条件，则奖惩因子中的元素均取值为1；否则，奖惩因子中的元素均取值为-1。

可选的，在通过分别计算上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表之后，还包括：

若Q学习模型迭代到预设次数，则将当前迭代的评估值表作为最优评估值表。

本发明实施例所提供的阈值确定装置可执行本发明任意实施例所提供的阈值确定方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4是本发明实施例四提供的一种阈值确定设备的结构示意图。该阈值确定设备可以为电子设备，旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如阈值确定方法。

在一些实施例中，阈值确定方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的阈值确定方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行阈值确定方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种阈值确定方法，其特征在于，应用于银行交易监测系统中，所述方法包括：

获取至少一个预设预警规则对应的预警量和预警准确率，其中，所述预警量用于表示交易流水中满足对应预设预警规则的数量，所述预警准确率用于表示所述预警量中预警准确的概率，所述至少一个预设预警规则为可疑交易监测模型中的预警规则；

将所述至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用所述Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；

基于所述最优评估值表确定每一个预设预警规则对应的目标阈值。

2.根据权利要求1所述的方法，其特征在于，所述Q学习算法通过以下方式确定：

根据预设回报因子、奖惩因子以及上一次迭代的评估值表，确定所述Q学习算法，其中，所述奖惩因子根据所述预警量和所述预警准确率确定；

其中，所述评估值表为二维矩阵，所述评估值表的行表示所述预设预警规则，所述评估值表的列表示预设阈值，所述评估值表中的元素代表评估值，所述评估值用于表示所述预设预警规则对所述预设阈值的偏好程度。

3.根据权利要求2所述的方法，其特征在于，利用所述Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表，包括：

通过分别计算所述上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表，其中，所述评估值影响值通过所述奖惩因子与所述上一次迭代的评估值表中对应的评估值的差值，乘以所述预设回报因子得到；

若所有预设预警规则对应的预警量均满足第一预设条件且对应的预警准确率均满足第二预设条件，则将当前迭代的评估值表作为最优评估值表；

所述基于所述最优评估值表确定每一个预设预警规则对应的目标阈值，包括：

将所述最优评估值表中每一行的最大评估值对应的预设阈值，确定为对应预设预警规则的目标阈值。

4.根据权利要求3所述的方法，其特征在于，在所述通过分别计算所述上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表之后，还包括：

若任一预设预警规则对应的预警量不满足第一预设条件或对应的预警准确率不满足第二预设条件，则重复执行通过分别计算所述上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表。

5.根据权利要求3所述的方法，其特征在于，

所述第一预设条件包括所述预警量处于第一预设阈值范围内；

所述第二预设条件包括所述预警准确率处于第二预设阈值范围内。

6.根据权利要求3所述的方法，其特征在于，所述奖惩因子为二维矩阵，所述奖惩因子的取值通过以下方式进行确定：

若预设预警规则对应的预警量满足所述第一预设条件且对应的预警准确率满足所述第二预设条件，则奖惩因子中的元素均取值为1；否则，奖惩因子中的元素均取值为-1。

7.根据权利要求3所述的方法，其特征在于，在所述通过分别计算所述上一次迭代的评估值表中每个评估值与评估值影响值的和更新评估值表之后，还包括：

若所述Q学习模型迭代到预设次数，则将当前迭代的评估值表作为最优评估值表。

8.一种阈值确定装置，其特征在于，应用于银行交易监测系统中，所述装置包括：

数据获取模块，用于获取至少一个预设预警规则对应的预警量和预警准确率，其中，所述预警量用于表示交易流水中满足对应预设预警规则的数量，所述预警准确率用于表示所述预警量中预警准确的概率，所述至少一个预设预警规则为可疑交易监测模型中的预警规则；

评估值表更新模块，用于将所述至少一个预设预警规则对应的预警量和预警准确率输入到Q学习模型中，利用所述Q学习模型中的Q学习算法迭代更新评估值表，得到最优评估值表；

阈值确定模块，用于基于所述最优评估值表确定每一个预设预警规则对应的目标阈值。

9.一种阈值确定设备，其特征在于，所述阈值确定设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的阈值确定方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的阈值确定方法。