CN117099118A - 通过扰动交易参数来解释黑盒模型的系统、方法和计算机程序产品 - Google Patents

通过扰动交易参数来解释黑盒模型的系统、方法和计算机程序产品 Download PDF

Info

Publication number
CN117099118A
CN117099118A CN202280005693.6A CN202280005693A CN117099118A CN 117099118 A CN117099118 A CN 117099118A CN 202280005693 A CN202280005693 A CN 202280005693A CN 117099118 A CN117099118 A CN 117099118A
Authority
CN
China
Prior art keywords
transaction
parameter
perturbed
risk score
parameters
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280005693.6A
Other languages
English (en)
Inventor
曹石
C·切蒂亚
阚玺
王丹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Visa International Service Association
Original Assignee
Visa International Service Association
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Visa International Service Association filed Critical Visa International Service Association
Publication of CN117099118A publication Critical patent/CN117099118A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00—Payment architectures, schemes or protocols
    • G06Q20/38—Payment protocols; Details thereof
    • G06Q20/40—Authorisation, e.g. identification of payer or payee, verification of customer or shop credentials; Review and approval of payers, e.g. check credit lines or negative lists
    • G06Q20/401—Transaction verification
    • G06Q20/4016—Transaction verification involving fraud or risk level assessment in transaction processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/045—Explanation of inference; Explainable artificial intelligence [XAI]; Interpretable artificial intelligence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Accounting & Taxation (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Strategic Management (AREA)
  • General Engineering & Computer Science (AREA)
  • Finance (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computer Security & Cryptography (AREA)
  • Computing Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种计算机实施的方法包括：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于所述至少一个影响参数生成查询响应消息。

Description

通过扰动交易参数来解释黑盒模型的系统、方法和计算机程 序产品
相关申请的交叉引用
本申请要求于2022年3月15日提交的第63/319,814号美国临时专利申请的优先权，所述美国临时专利申请的公开内容以全文引用的方式并入本文中。
技术领域
本公开大体上涉及“黑盒”机器学习模型，且在非限制性实施例或方面中，涉及通过扰动交易参数来解释黑盒机器学习模型的系统、方法和计算机程序产品。
背景技术
引入“黑盒”机器学习模型以结合电子支付交易使用。然而，由于机器学习模型的未知(例如，“黑盒”)性质，很难理解输入数据的哪些方面驱动模型的决策(输出)。这种缺乏透明度的情况使用户很难监控模型、理解模型或从中学习，或在遇到质询时证明其结果。
发明内容
根据非限制性实施例或方面，提供一种计算机实施的方法，包括：用至少一个处理器接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中风险得分是由机器学习模型基于多个交易参数生成的；对于多个交易参数中的每个交易参数，用至少一个处理器扰动交易参数的值，且用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分；用至少一个处理器通过比较针对多个交易参数中的每一个生成的受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及用至少一个处理器基于至少一个影响参数生成查询响应消息。
在非限制性实施例或方面，扰动交易参数的值可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。递增交易参数的值可包括将所述值增加或减小高达5％以形成受扰动交易参数。受扰动交易参数可包括分类交易参数，其中扰动分类交易参数的值可包括将分类交易参数的类别从第一类别改变为第二类别。用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分可以在每次仅扰动多个交易参数中的单个交易参数的情况下进行。风险得分可以满足阈值。第一支付交易可包括授权决策，其中基于风险得分，授权决策为拒绝授权决策。授权决策可能已经由代表发行方的发行方系统的交易服务提供商的交易处理系统生成。授权决策可能已经由交易处理系统在发行方系统未能与电子支付处理网络的组件通信时生成。授权决策可能已经由交易处理系统通过将多个交易参数应用于黑盒机器学习模型而生成，其中黑盒机器学习模型是基于发行方系统的建模历史授权决策生成的。授权决策可能已经由交易处理系统基于与发起第一支付交易的用户相关联的历史交易数据生成。确定至少一个影响参数可包括从多个交易参数中确定风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。所述方法还可包括：在用户装置上显示与第一支付交易相关联的数据和与与第一支付交易相关联的数据相关联的可选元素；由用户装置接收指示可选元素的选择的用户输入；以及响应于可选元素的选择，由用户装置生成并发送查询请求消息。
根据非限制性实施例或方面，提供一种系统，包括至少一个处理器，所述至少一个处理器被编程或配置成：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中风险得分是由机器学习模型基于多个交易参数生成的；对于多个交易参数中的每个交易参数，扰动交易参数的值，且用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对多个交易参数中的每一个生成的受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于至少一个影响参数生成查询响应消息。
在非限制性实施例或方面，扰动交易参数的值可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。递增交易参数的值可包括将所述值增加或减小高达5％以形成受扰动交易参数。受扰动交易参数可包括分类交易参数，其中扰动分类交易参数的值包括将分类交易参数的类别从第一类别改变为第二类别。用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分可以在每次仅扰动多个交易参数中的单个交易参数的情况下进行。风险得分可以满足阈值。第一支付交易可包括授权决策，其中基于风险得分，授权决策为拒绝授权决策。授权决策可能已经由代表发行方的发行方系统的交易服务提供商的交易处理系统生成。授权决策可能已经由交易处理系统在发行方系统未能与电子支付处理网络的组件通信时生成。授权决策可能已经由交易处理系统通过将多个交易参数应用于黑盒机器学习模型而生成，其中黑盒机器学习模型是基于发行方系统的建模历史授权决策生成的。授权决策可能已经由交易处理系统基于与发起第一支付交易的用户相关联的历史交易数据生成。确定至少一个影响参数可包括从多个交易参数中确定风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。所述系统可包括用户装置，所述用户装置被编程或配置成：显示与第一支付交易相关联的数据和与与第一支付交易相关联的数据相关联的可选元素；接收指示可选元素的选择的用户输入；以及响应于可选元素的选择，生成并发送查询请求消息。
根据非限制性实施例或方面，提供一种计算机程序产品，包括至少一个非瞬态计算机可读介质，所述至少一个非瞬态计算机可读介质包括程序指令，所述程序指令在由至少一个处理器执行时使所述至少一个处理器：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中风险得分是由机器学习模型基于多个交易参数生成的；对于多个交易参数中的每个交易参数，扰动交易参数的值，且用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对多个交易参数中的每一个生成的受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于至少一个影响参数生成查询响应消息。
在非限制性实施例或方面，扰动交易参数的值可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。递增交易参数的值可包括将所述值增加或减小高达5％以形成受扰动交易参数。受扰动交易参数可包括分类交易参数，其中扰动分类交易参数的值包括将分类交易参数的类别从第一类别改变为第二类别。用机器学习模型重新分析第一支付交易以基于受扰动交易参数生成受扰动风险得分可以在每次仅扰动多个交易参数中的单个交易参数的情况下进行。风险得分可以满足阈值。第一支付交易可包括授权决策，其中基于风险得分，授权决策为拒绝授权决策。授权决策可能已经由代表发行方的发行方系统的交易服务提供商的交易处理系统生成。授权决策可能已经由交易处理系统在发行方系统未能与电子支付处理网络的组件通信时生成。授权决策可能已经由交易处理系统通过将多个交易参数应用于黑盒机器学习模型而生成，其中黑盒机器学习模型是基于发行方系统的建模历史授权决策生成的。授权决策可能已经由交易处理系统基于与发起第一支付交易的用户相关联的历史交易数据生成。确定至少一个影响参数可包括从多个交易参数中确定风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。程序指令在由用户装置执行时可以使所述用户装置：显示与第一支付交易相关联的数据和与与第一支付交易相关联的数据相关联的可选元素；接收指示可选元素的选择的用户输入；以及响应于可选元素的选择，生成并发送查询请求消息。
将在以下编号条款中阐述其它非限制性实施例或方面：
条款1：一种计算机实施的方法，包括：用至少一个处理器接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，用至少一个处理器扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；用至少一个处理器通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及用至少一个处理器基于所述至少一个影响参数生成查询响应消息。
条款2：根据条款1所述的方法，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。
条款3：根据条款1或2所述的方法，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。
条款4：根据条款1至3中任一项所述的方法，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。
条款5：根据条款1至4中任一项所述的方法，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。
条款6：根据条款1至5中任一项所述的方法，其中所述风险得分满足阈值。
条款7：根据条款1至6中任一项所述的方法，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。
条款8：根据条款1至7中任一项所述的方法，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。
条款9：根据条款1至8中任一项所述的方法，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。
条款10：根据条款1至9中任一项所述的方法，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。
条款11：根据条款1至10中任一项所述的方法，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。
条款12：根据条款1至11中任一项所述的方法，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。
条款13：根据条款1至12中任一项所述的方法，包括：在用户装置上显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；由所述用户装置接收指示所述可选元素的选择的用户输入；以及响应于所述可选元素的选择，由所述用户装置生成并发送所述查询请求消息。
条款14：一种系统，包括至少一个处理器，所述至少一个处理器被编程或配置成：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于所述至少一个影响参数生成查询响应消息。
条款15：根据条款14所述的系统，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。
条款16：根据条款14或15所述的系统，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。
条款17：根据条款14至16中任一项所述的系统，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。
条款18：根据条款14至17中任一项所述的系统，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。
条款19：根据条款14至18中任一项所述的系统，其中所述风险得分满足阈值。
条款20：根据条款14至19中任一项所述的系统，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。
条款21：根据条款14至20中任一项所述的系统，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。
条款22：根据条款14至21中任一项所述的系统，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。
条款23：根据条款14至22中任一项所述的系统，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。
条款24：根据条款14至23中任一项所述的系统，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。
条款25：根据条款14至24中任一项所述的系统，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。
条款26：根据条款14至25中任一项所述的系统，包括用户装置，所述用户装置被编程或配置成：显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；接收指示所述可选元素的选择的用户输入；以及响应于所述可选元素的选择，生成并发送所述查询请求消息。
条款27：一种计算机程序产品，包括至少一个非瞬态计算机可读介质，所述至少一个非瞬态计算机可读介质包括程序指令，所述程序指令在由至少一个处理器执行时使所述至少一个处理器：接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及基于所述至少一个影响参数生成查询响应消息。
条款28：根据条款27所述的计算机程序产品，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。
条款29：根据条款27或28所述的计算机程序产品，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。
条款30：根据条款27至29中任一项所述的计算机程序产品，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。
条款31：根据条款27至30中任一项所述的计算机程序产品，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。
条款32：根据条款27至31中任一项所述的计算机程序产品，其中所述风险得分满足阈值。
条款33：根据条款27至32中任一项所述的计算机程序产品，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。
条款34：根据条款27至33中任一项所述的计算机程序产品，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。
条款35：根据条款27至34中任一项所述的计算机程序产品，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。
条款36：根据条款27至35中任一项所述的计算机程序产品，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。
条款37：根据条款27至36中任一项所述的计算机程序产品，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。
条款38：根据条款27至37中任一项所述的计算机程序产品，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。
条款39：根据条款27至38中任一项所述的计算机程序产品，其中所述程序指令在由用户装置执行时使所述用户装置：显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；接收指示所述可选元素的选择的用户输入；以及响应于所述可选元素的选择，生成并发送所述查询请求消息。
在参考附图考虑以下描述和所附权利要求书时，本公开的这些和其它特征和特性以及相关结构元件和各部分的组合的操作方法和功能以及制造经济性将变得更加显而易见，所有附图形成本说明书的部分，其中相似附图标号在各图中标示对应部分。然而，应明确地理解，图式仅出于说明和描述的目的，并非旨在作为本发明的限制的定义。
附图说明
下文参考示意性附图中示出的非限制性、示例性实施例更详细地解释额外优势和细节，在附图中：
图1示出根据一些非限制性实施例或方面的通过扰动交易参数来解释黑盒模型的系统的示意图；
图2示出根据一些非限制性实施例或方面的离群值交易的图；
图3示出根据一些非限制性实施例或方面的受扰动离群值交易的图；
图4示出根据一些非限制性实施例或方面的扰动数字交易参数的过程的示意图；
图5示出根据一些非限制性实施例或方面的扰动分类交易参数的过程的示意图；
图6示出根据一些非限制性实施例或方面的若干交易参数的模型梯度的表示的示意图；
图7示出根据一些非限制性实施例或方面的基于模型输出的各种交易参数的扰动的影响的线图；
图8示出根据一些非限制性实施例或方面的模型对各种交易参数的扰动的敏感性的条形图；
图9示出根据一些非限制性实施例或方面的具有针对被拒绝交易启用查询请求的用户界面的用户装置的示意图；
图10示出根据一些非限制性实施例或方面的具有显示查询响应消息的用户界面的用户装置的示意图；并且
图11示出结合非限制性实施例或方面使用的装置的示例组件。
具体实施方式
为了进行以下描述，术语“端”、“上”、“下”、“右”、“左”、“竖直”、“水平”、“顶部”、“底部”、“橫向”、“纵向”和其派生词应与实施例在附图中的定向相关。然而，应理解，实施例可采用各种替代变化和步骤顺序，除了明确指定为相反的情况之外。还应理解，附图中所示的以及在以下说明书中描述的特定装置和过程仅仅是本发明的示例性实施例或方面。因此，与本文公开的实施例或方面有关的特定尺寸和其它物理特性不应被视为限制。
本文所使用的方面、组件、元件、结构、动作、步骤、功能、指令等都不应当被理解为关键的或必要的，除非明确地如此描述。并且，如本文所使用，冠词“一”希望包括一个或多个项目，且可与“一个或多个”和“至少一个”互换使用。此外，如本文所使用，术语“集合”希望包括一个或多个项目(例如，相关项目、不相关项目、相关项目与不相关项目的组合等)，并且可与“一个或多个”或“至少一个”互换使用。在希望仅有一个项目的情况下，使用术语“一个”或类似语言。且，如本文所使用，术语“具有”等希望是开放式术语。另外，除非另外明确陈述，否则短语“基于”希望意味着“至少部分地基于”。
如本文所使用，术语“账户标识符”可包括一个或多个主账号(PAN)、令牌或与客户账户相关联的其它标识符。例如，实时支付(RTP)交易中的账户标识符可包括发送方账户(被称为债务人账户)的标识符和接收方账户(被称为债权人账户)的标识符。账户标识符可以是字母数字或字符和/或符号的任何组合。令牌可与一个或多个数据结构(例如，一个或多个数据库等)中的PAN、债务人账户标识符、债权人账户标识符或其它原始账户标识符相关联，使得令牌可用于进行交易而无需直接使用原始账户标识符。在一些实例中，原始账户标识符可与用于不同个人或目的的多个令牌相关联。
如本文所使用，术语“通信”可以指数据(例如，信息、信号、消息、指令、命令等)的接收、接纳、发送、传送、提供等。一个单元(例如，装置、系统、装置或系统的组件、其组合等)与另一单元通信意味着所述一个单元能够直接或间接地从所述另一单元接收信息和/或向所述另一单元发送信息。这可以指代在本质上有线和/或无线的直接或间接连接(例如，直接通信连接、间接通信连接等)。另外，尽管所发送的信息可以在第一单元与第二单元之间被修改、处理、中继和/或路由，但这两个单元也可以彼此通信。例如，即使第一单元被动地接收信息且不会主动地将信息发送到第二单元，第一单元也可以与第二单元通信。作为另一示例，如果至少一个中间单元处理从第一单元接收的信息且将处理后的信息传送到第二单元，那么第一单元可以与第二单元通信。
如本文所使用，术语“计算装置”或“用户装置”可指被配置成处理数据的一个或多个电子装置。在一些示例中，计算装置可以包括接收、处理和输出数据的必要组件，例如处理器、显示器、存储器、输入装置、网络接口等。计算装置可以是移动装置。作为示例，移动装置可以包括蜂窝电话(例如，智能手机或标准蜂窝电话)、便携式计算机、可穿戴装置(例如，手表、眼镜、镜片、服装等)、个人数字助理(PDA)，和/或其它类似装置。计算装置还可以是台式计算机、服务器计算机或其它形式的非移动计算机。
如本文所使用，术语“发行方”、“发行方机构”、“发行方银行”或“支付装置发行方”可指向个体(例如，用户、客户等)提供用于进行例如信用卡支付交易和/或借记卡支付交易的支付交易的账户的一个或多个实体。例如，发行方机构可向客户提供唯一地标识与所述客户相关联的一个或多个账户的账户标识符，例如PAN。在一些非限制性实施例中，发行方可以与唯一地标识发行方机构的银行标识号(BIN)相关联。如本文所使用，“发行方系统”可以指由发行方或代表发行方操作的一个或多个计算机系统，例如执行一个或多个软件应用程序的服务器。例如，发行方系统可以包括用于授权交易的一个或多个授权服务器。
如本文所使用，术语“商家”可以指基于例如支付交易的交易向客户提供商品和/或服务或者对商品和/或服务的访问的个人或实体。术语“商家”或“商家系统”还可以指由商家或代表商家操作的一个或多个计算机系统，例如执行一个或多个软件应用程序的服务器计算机。
如本文所使用，术语“支付装置”可以指支付卡(例如，信用卡或借记卡)、礼品卡、智能卡、智能介质、工资卡、医疗保健卡、腕带、包含账户信息的机器可读介质、钥匙链装置或吊坠、射频标识(RFID)应答器、零售商折扣或会员卡等。支付装置可包括易失性或非易失性存储器以存储信息(例如，账户标识符、账户持有人的姓名等)。
如本文所使用，术语“支付网关”可指实体和/或由此类实体(例如，商家服务提供商、支付服务提供商、支付服务商、与收单方有合约的支付服务商、支付集合人(paymentaggregator)等)或代表此类实体操作的支付处理系统，所述实体将支付服务(例如，交易服务提供商支付服务、支付处理服务等)提供给一个或多个商家。支付服务可以与由交易服务提供商管理的便携式金融装置的使用相关联。如本文所使用，术语“支付网关系统”可以指由支付网关或代表支付网关操作的一个或多个计算机系统、计算机装置、服务器、服务器群组等。
如本文所使用，术语“销售点(POS)装置”可以指可被商家用来进行交易(例如，支付交易)和/或处理交易的一个或多个装置。例如，POS装置可包括一个或多个客户端装置。另外或替代地，POS装置可包括外围装置、读卡器、扫描装置(例如，代码扫描器)、通信接收器、近场通信(NFC)接收器、RFID接收器和/或其它非接触式收发器或接收器、基于接触的接收器、支付终端等。
如本文所使用，术语“销售点(POS)系统”可以指商家用来进行交易的一个或多个客户端装置和/或外围装置。例如，POS系统可以包括一个或多个POS装置，和/或可用于进行支付交易的其它类似装置。在一些非限制性实施例中，POS系统(例如，商家POS系统)可以包括被编程或配置成通过网页、移动应用程序等处理在线支付交易的一个或多个服务器计算机。
如本文所使用，术语“处理器”可以表示任何类型的处理单元，例如具有一个或多个核心的单个处理器、一个或多个处理器的一个或多个核心、各自具有一个或多个核心的多个处理器、和/或处理单元的其它布置和组合。对“至少一个处理器”的提及可以指前面提到的处理器或不同的处理器。
如本文所使用，术语“服务器”可指或包括由互联网等网络环境中的多方操作或促进所述多方的通信和处理的一个或多个计算装置，但应了解，可通过一个或多个公共或专用网络环境促进通信，并且可能有各种其它布置。此外，在网络环境中直接或间接通信的多个计算装置(例如服务器、销售点(POS)装置、移动装置等)可构成“系统”。如本文所使用，对“服务器”或“处理器”的提及可指陈述为实施先前步骤或功能的先前所述服务器和/或处理器、不同的服务器和/或处理器，和/或服务器和/或处理器的组合。例如，如在说明书和权利要求书中所使用，陈述为实施第一步骤或功能的第一服务器和/或第一处理器可指代陈述为实施第二步骤或功能的相同或不同服务器和/或处理器。
如本文所使用，术语“系统”可指一个或多个计算装置或计算装置组合，例如但不限于处理器、服务器、客户端装置、软件应用程序和/或其它类似组件。
如本文所使用，术语“交易服务提供商”可指向商家或其它实体接收交易授权请求且在一些情况下通过交易服务提供商与发行方机构之间的协议来提供支付保证的实体。例如，交易服务提供商可包括例如之类的支付网络，或处理交易的任何其它实体。术语“交易处理系统”可指由交易服务提供商或代表交易服务提供商操作的一个或多个计算机系统，例如执行一个或多个软件应用程序的交易处理服务器。交易处理服务器可包括一个或多个处理器，并且在一些非限制性实施例或方面中，可以由交易服务提供商或代表交易服务提供商操作。
本文所描述的非限制性实施例或方面涉及用于解释改进现有电子支付系统的用于支付交易的黑盒模型的系统、方法和计算机程序产品。在黑盒机器学习模型领域中特别出现的一个问题是此类模型在向用户提供其决策背后的推理时缺乏透明度。通常，仅输入参数和输出决策是已知的。非限制性实施例或方面自动解释由黑盒机器学习模型生成且与支付交易相关联的决策(例如，授权决策)，以便增强模型的透明度。非限制性实施例或方面还使用户能够监控模型(以补救任何潜在的模型错误)、理解模型或从中学习、和/或在遇到质询的情况下证明模型所生成的其支付交易决策结果。此外，通过增强模型的透明度，可以对支付过程进行修改，以减少执行此类过程所需的计算资源量。
非限制性实施例或方面通过仅接收相关支付交易作为输入而不是要求整个样本数据集作为输入以便分析所述支付交易来有效地解释支付交易决策。这通过扰动相关交易的交易参数以便关注紧密围绕相关交易的局部环境来完成。可以将受扰动交易参数输入到黑盒模型中以分析受扰动交易参数，并且可以将黑盒模型的来自受扰动交易参数的输出与黑盒模型的来自原始交易参数的输出进行比较。此比较可用于确定影响参数，所述影响参数可引起支付交易决策的生成和/或使支付交易相对于其它历史支付交易为离群值。非限制性实施例或方面可以基于影响参数生成支付交易决策的可解释原因，以便增强与黑盒模型所生成的决策相关联的透明度。因此，本文所描述的系统、方法和计算机程序产品增强黑盒机器学习模型的透明度，使得用户能够监控模型从而允许修复错误、使得能够从模型理解或学习、使得能够对模型的决策进行可解释的证明，和/或改进现有支付过程，同时以减少生成模型解释所需的计算资源的有效方式这样做。
图1描绘根据非限制性实施例或方面的用于解释用于支付交易决策的“黑盒”模型的系统100。如本文所使用，术语“黑盒模型”和“黑盒机器学习模型”是指接收输入并基于所述输入和最终用户未知的一个或多个过程生成输出的模型。如本文所使用，“支付交易决策”是指结合电子支付交易(例如，信用卡或借记卡交易)的处理作出的确定，例如支付授权决策、所生成风险得分、欺诈确定等。系统100可包括在电子支付交易中与各种商家接洽的用户的用户装置和/或支付装置102(下文被称为用户装置102)。用户装置和支付装置可以是相同的装置，也可以是单独的装置。用户装置102可以与电子支付处理网络104和/或模型解释网络106以及系统100的组件结合使用。
电子支付处理网络104可包括与在电子支付交易中与用户接洽的商家相关联的商家系统108，以及分别与与用户支付装置相关联的交易服务提供商和发行方相关联的交易处理系统110和发行方系统112。电子支付处理网络104可包括黑盒模型114。模型解释网络106可包括模型解释网络(MIN)处理器116、扰动处理器118和参数分析平台120。
继续参考图1，在一些非限制性实施例或方面中，用户装置102可以与电子支付处理网络104接合以处理用户与商家之间的电子支付交易直至完成。这包括授权、清算和结算电子支付交易。用户装置102可以与与商家相关联的商家系统108通信以发起电子支付交易。商家系统108可以通过电子支付处理网络104与分别与用户支付装置的交易服务提供商和发行方相关联的交易处理系统110和发行方系统112通信，以处理电子支付交易。这包括生成至少一个支付交易决策。
支付交易决策(例如，授权决策、风险得分和/或欺诈确定)可以由发行方系统112生成。然而，在一些非限制性实施例或方面中，交易处理系统110可以“代替(stand-in)”发行方系统112来生成支付交易决策(例如，代替处理(STIP))。交易处理系统110可以在发行方系统112和/或交易处理系统110无法与电子支付处理网络104中的其它组件通信的情况下代替生成支付交易决策。例如，发行方系统112可能暂时失去连接，使得其未能与交易处理系统110和/或电子支付处理网络104的其它组件通信，因此交易处理系统110代表发行方系统112生成支付交易决策，以使得支付交易不会自动失败。
继续参考图1，生成支付交易决策的发行方系统112或交易处理系统110可以使用黑盒模型114生成支付交易决策。可以训练黑盒模型114以使用历史交易数据和机器学习技术生成支付交易决策。黑盒模型114可以使用历史交易数据以及与即时支付交易相关联的交易数据作为输入来生成支付交易决策。黑盒模型114可以使用全球(所有用户的)历史交易数据和发起即时交易的特定用户的历史交易数据。在一些实施例或方面中，发起即时交易的特定用户的历史交易数据可能由于其与特定用户的相关性增加而由用于即时交易的黑盒模型114更重地加权。黑盒模型114可以生成支付交易决策，而不生成所生成支付交易决策的人类可解释原因。在一些实例中，黑盒模型可以返回支付交易决策，而不提供该决策背后的原因。可以在支付交易的结账程序期间(例如，在用户与销售点系统接洽时)针对支付交易生成支付交易决策。
对于交易处理系统110代表发行方系统112生成授权决策(STIP)的实施例，授权决策可以由交易处理系统110通过将多个交易参数应用于黑盒机器学习模型(与黑盒模型114分开或相同)来生成。此黑盒模型可以通过以下方式生成：使用发行方系统112的历史授权决策来训练模型，以使得交易处理系统110尽可能模仿在发行方系统112可用于生成授权决策的情况下由发行方系统112作出的授权决策。
支付交易决策可以传送到用户装置102。例如，用户装置102可以显示与电子支付交易相关联的数据，包括与支付交易决策相关联的数据。用户装置102还可以显示与电子支付交易的数据相关联的可选元素，用户可以在用户装置102的用户界面上与所述可选元素接洽。
继续参考图1，在一些非限制性实施例或方面中，可以接合模型解释网络106以便解释用于电子支付交易的黑盒模型114的支付交易决策。为了接合模型解释网络106，用户可以在用户装置102的用户界面上选择与电子支付交易的数据相关联的可选元素，以使用户装置102生成查询请求消息。还可以响应于其它输入或事件而生成查询请求消息。用户装置102可以将查询请求消息传送到模型解释网络(MIN)处理器116以发起对用于电子支付交易的黑盒模型114的支付交易决策的解释。另外或替代地，在一些非限制性实施例或方面中，交易处理系统110、发行方系统112或电子支付处理网络104的一些其它系统可以生成查询请求消息并将其发送到MIN处理器116以发起对用于电子支付交易的黑盒模型114的支付交易决策的解释。
查询请求可以标识支付交易和/或包括与支付交易相关联的交易数据。交易数据可包括具有相关联值的多个交易参数。交易参数可以是在ISO 8583中指定为数据元素的参数、从ISO8583中指定的数据元素导出的数据元素或与支付交易相关联的任何其它数据。交易数据可包括在处理支付交易期间作为支付交易决策生成的风险得分。风险得分可以是指示与支付交易相关联的风险的数值，其中所述数值指示与支付交易相关联的相对风险水平。风险得分可以是指示与支付交易相关联的相对风险水平的分类值(例如，授权/拒绝；欺诈性/非欺诈性)。风险得分可能已经由黑盒模型114基于支付交易的多个交易参数生成。
支付交易的风险得分可以满足阈值，从而指示所述支付交易为离群值。阈值可以基于与被标识为“正常”(也称为“非离群值”)的历史支付交易相关联的统计数据(例如，平均值、中值、众数)来确定。例如，正常历史支付交易可以具有具有第一值的中值或平均风险得分，并且阈值可以被确定为高于或低于中值或平均风险得分的量或百分比。例如，如果平均风险得分为50(在100中)，则可以选择阈值比平均风险得分高至少50％(即，至少75)，使得风险得分为75-100的支付交易被视为“离群值”支付交易。风险得分满足(例如，超过)阈值和/或成为离群值可以自动触发对支付交易的模型决策的解释。
响应于接收到查询请求消息，MIN处理器116可以将与支付交易相关联的交易数据传送到扰动处理器118。对于多个交易参数中的每一个，扰动处理器118可以扰动交易参数的值，且用黑盒模型114重新分析支付交易以基于受扰动交易参数生成受扰动风险得分。
扰动交易参数可包括将交易参数的值递增一定量和/或所述值的百分比，其中受扰动交易参数包括数字交易参数。例如，可以将交易参数的值扰动高达10％，例如高达5％，例如高达2.5％，例如高达1％。数字交易参数可以是具有数值的参数，其中所述数值与与参数相关联的量相关联。数字交易参数的非限制性实例包括但不限于交易金额、一段时间内的交易计数(例如，每日交易次数)、平均用户交易金额、一段时间内的平均用户交易计数等。
扰动交易参数可包括将分类交易参数的类别从第一类别改变为第二类别，其中交易参数包括分类交易参数。分类参数可以是其中参数的值标示与所述值相关联的类别(例如，有卡或无卡交易)的参数。分类参数可具有与其相关联的数值，但该数值可能不与与参数相关联的量相关联(例如，商家类别代码的数字是指商家的商品或服务的类别，而不是交易的金额、日期或时间等)。分类交易参数的非限制性实例包括但不限于商家类别代码、交易类型(例如，有卡或无卡)、交易日期等。
重新分析支付交易可包括将支付交易的交易数据包括在机器学习模型中，除非用受扰动交易参数值替换已扰动交易参数的值以生成受扰动风险得分。通过针对每个受扰动交易参数值的支付交易进行重新建模，可以针对每个交易参数生成至少一个受扰动风险得分。这可以通过每次仅扰动多个交易参数中的单个交易参数来完成，以便理解每个交易参数对风险得分(支付交易决策)的个别影响。在一些非限制性实施例或方面中，可以每次扰动交易参数的组合，以便理解该组合对风险得分的影响。这些扰动技术使得模型能够通过围绕特定支付交易的值进行扰动来关注特定支付交易的局部环境。所述扰动技术进一步使得重新建模能够在所需要的唯一输入是与特定支付交易相关联的相关交易数据的情况下发生，而不是要求提交较大样本大小的数据以用于重新建模。
继续参考图1，在一些非限制性实施例或方面中，扰动处理器118的输出(每个交易参数的受扰动风险得分)可包括对参数分析平台120的输入。参数分析平台120可以分析受扰动风险得分，以通过比较针对多个交易参数中的每一个生成的受扰动风险得分来确定电子支付交易的多个交易参数的至少一个影响参数。至少一个影响参数可以是至少部分地使得电子支付交易的支付交易决策生成为离群值的参数。当参数分析平台120所生成的算法将至少一个影响参数与满足阈值的权重相关联(例如，参数对支付交易决策具有影响并且重要到足满足阈值)时，可以确定至少一个影响参数已至少部分地使得电子支付交易的支付交易决策的生成为离群值。至少一个影响参数可以是单个交易参数、交易参数的组合和/或从至少一个交易参数导出的复合参数。确定至少一个影响参数可包括由参数分析平台120从多个交易参数中确定使得风险得分与对应受扰动风险得分之间的差(相对于初始风险得分的量或百分比)高于阈值的至少一个交易参数。确定至少一个影响参数可包括由参数分析平台120从多个交易参数中确定风险得分与对应受扰动风险得分之间具有最大差(相对于初始风险得分的量或百分比)的交易参数，例如基于量化差值标识5、3或1个最有影响力的交易参数。
继续参考图1，在一些非限制性实施例或方面中，MIN处理器116可以基于至少一个影响参数生成查询响应消息。查询响应消息可包括电子支付交易的支付交易决策的至少一个可解释原因，用户可以理解这些可解释原因。可解释原因可包括一个或多个影响参数的标识。模型解释网络106可以自动将所确定影响参数与可解释原因相关联，以便使黑盒模型114的支付交易决策对于用户更透明。MIN处理器116可以将查询响应消息发送到传送查询请求消息的装置(例如，用户装置102、交易处理系统110、发行方系统112等)。在一些实例中，可解释原因可包括或可用于自动生成一个或多个修改的支付过程或用于修改支付过程以改进未来交易的肯定授权率的建议。
根据一些非限制性实施例或方面，支付交易决策可包括授权决策，基于风险得分，所述决策为拒绝支付交易，并且可以根据根据本公开的方法、系统和计算机程序产品来解释导致黑盒模型114作出拒绝授权决策的交易参数。
根据一些非限制性实施例或方面，支付交易决策可包括欺诈决策，基于风险得分，所述决策为将支付交易标记为欺诈性的，并且可以根据根据本公开的方法、系统和计算机程序产品来解释导致黑盒模型114作出欺诈确定的交易参数。
根据一些非限制性实施例或方面，支付交易决策可包括分类为离群值的风险得分，并且可以根据根据本公开的方法、系统和计算机程序产品来解释导致黑盒模型114作出离群值风险得分的交易参数。
作为示例提供图1所示的系统和装置的数目和布置。可存在额外系统和/或装置、更少系统和/或装置、不同的系统和/或装置，和/或以与图1所示的那些不同的方式布置的系统和/或装置。此外，可在单个系统和/或装置内实施图1中展示的两个或更多个系统或装置，或图1中展示的单个系统或装置可实施为多个分布式系统或装置。另外或替代地，系统100的一组系统(例如，一个或多个系统)或一组装置(例如，一个或多个装置)可以执行被描述为由系统100的另一组系统或另一组装置执行的一个或多个功能。
尽管本文已主要关于交易/交易参数描述系统、方法和计算机程序产品，但应了解，系统、方法和计算机程序产品可应用于接收可扰动的任何类型的输入参数的任何类型的黑盒机器学习模型。
在一些非限制性实施例或方面中，计算机程序产品包括至少一个非瞬态计算机可读介质，所述至少一个非瞬态计算机可读介质包括程序指令，所述程序指令在由至少一个处理器执行时使所述至少一个处理器执行先前所描述的方法中的一个。至少一个处理器可包括图1所示的任何组件(例如，用户装置102、电子支付处理网络104、模型解释网络106、商家系统108、交易处理系统110、发行方系统112、黑盒模型114、MIN处理器116、扰动处理器118或参数分析平台120等)。
参考图2-8，在电子支付交易的上下文中示出和描述用于解释用于扰动交易参数的黑盒模型的过程的非限制性实例。
参考图2，图示出根据一些非限制性实施例或方面的离群值交易。在图2的图中，每个数据点(由圆圈或加号表示)表示支付交易，并且图上每个数据点的布置量化由黑盒模型114针对该支付交易生成的风险得分。风险得分可以是指示与支付交易相关联的风险的数值，其中数值指示与支付交易相关联的相对风险水平，和/或风险得分可以是指示与支付交易相关联的相对风险水平的分类值(例如，授权/拒绝；欺诈性/非欺诈性)。
在图2所示的非限制性实例中，图包括包含由黑盒模型114标识为非离群值的多个支付交易的非离群值区域222。图还包含由黑盒模型114标识为离群值+1、+2的两个支付交易。离群值+1、+2可由于其风险得分满足阈值而相对于其它支付交易被标识为离群值。这些离群值+1、+2可以是先前描述的查询请求消息的主项，以便确定支付交易决策(例如，离群值风险得分)的可解释原因。
参考图3，图示出根据一些非限制性实施例或方面的受扰动离群值交易。除下文所描述之外，图3的图与图2的图相同。在图3的图中，离群值+1、+2各自在离群值+1、+2附近受到扰动。离群值+1、+2的扰动324在图3的图中由包围离群值+1、+2中的每一个的加号表示。离群值+1、+2的扰动324中的每一个可以通过将交易参数的值递增一定量和/或所述值的百分比，例如高达10％，例如高达5％，例如高达2.5％，例如高达1％，来扰动单个交易参数。离群值+1、+2可以每次仅被扰动多个交易参数中的单个交易参数，使得每个离群值+1、+2被多次扰动，以便理解每个交易参数对离群值+1、+2的风险得分(例如，支付交易决策)的个别影响。
参考图4，示意图示出根据一些非限制性实施例或方面的扰动数字交易参数的过程。所示的过程包括每次仅扰动多个交易参数中的单个交易参数。在图4中，所述过程包括输入值426[x1,x2,x3]，输入值中的每一个表示数字交易参数。所述过程可包括每次扰动单个交易参数的输入值426以生成多个受扰动值428。这在来自图4的实例中通过以下方式示出：首先在前两个受扰动值428中将交易参数x1扰动+/-Δ，并且在第二两个受扰动值428中将交易参数x2扰动+/-Δ。可以将受扰动值428输入到黑盒模型114中，以通过分析受扰动输出430来分析每个扰动如何影响风险得分。受扰动输出430将原始风险得分yi与原始风险得分加上由黑盒模型114分析受扰动值428引起的原始风险得分的变化Δyi的总和进行比较。原始风险得分的变化Δyi越小，受扰动交易参数的扰动对所述离群值+1、+2的即时环境中的风险得分的影响就越小。原始风险得分的变化Δyi越大，受扰动交易参数的扰动对所述离群值+1、+2的即时环境中的风险得分的影响就越大。可以针对数字交易参数执行将交易参数扰动Δ(一定量)，所述数字交易参数可以是具有数值的参数，所述数值与与参数相关联的量相关联。
参考图5，示意图示出根据一些非限制性实施例或方面的扰动分类交易参数的过程。所示的过程包括每次仅扰动多个交易参数中的单个交易参数。在图4中，所述过程包括输入值426[‘a’,x1,x2]，输入值中的每一个表示交易参数。虽然x1和x2为如先前所描述的数字交易参数，但‘a’为分类交易参数，其中所述参数的值标示与所述值相关联的类别。在图5的实例中，第一交易参数的类别选项532为[‘a’,‘b’,‘c’,‘d’]。所述过程可包括每次扰动单个交易参数的输入值426以生成多个受扰动值428。这在来自图5的实例中通过以下方式示出：首先在前三个受扰动值428中每次(使用‘b’、‘c’和‘d’)将交易参数‘a’扰动一个类别，在第四和第五受扰动值428中将交易参数x1扰动+/-Δ，并且在最后两个受扰动值428中将交易参数x2扰动+/-Δ。可以将受扰动值428输入到黑盒模型114中，以通过分析受扰动输出430来分析每个扰动如何影响风险得分。受扰动输出430将原始风险得分yi与原始风险得分加上由黑盒模型114分析受扰动值428引起的原始风险得分的变化Δyi的总和进行比较。原始风险得分的变化Δyi越小，受扰动交易参数的扰动对所述离群值+1、+2的即时环境中的风险得分的影响就越小。原始风险得分的变化Δyi越大，受扰动交易参数的扰动对所述离群值+]1、+2的即时环境中的风险得分的影响就越大。可以针对分类交易参数执行通过用第二类别替换第一类别(例如，用‘b’替换‘a’)来扰动交易参数。如图5所示，输入值426可以具有数字和分类交易参数的混合物，使得数字交易参数扰动技术与分类交易参数扰动技术的组合可以用于扰动输入值426。
参考图6，示意图示出根据一些非限制性实施例或方面的若干交易参数的模型梯度634的表示。模型梯度634可以是在交易参数的扰动期间黑盒模型114的输出的图形表示。在此实例中，模型梯度634示出两个交易参数635、636的梯度，但应了解，可以针对任何数目的交易参数生成此类模型梯度634。轴线x1和x2可以表示交易参数635、636的值，而竖直轴线可以表示交易参数635、636的给定值的模型输出的值。模型梯度634以图形方式示出相对于参数635、636的离群值+1、+2周围的环境。例如，第一交易参数635的在第一方向上的陡峭梯度可以指示在第一方向上扰动第一交易参数635对模型输出具有实质性影响，而第一交易参数635的在第一方向上的轻微梯度可以指示在第一方向上扰动第一交易参数635对模型输出具有非实质影响。可以通过扰动交易参数并针对扰动绘制模型输出图形来使用黑盒模型114生成模型梯度634。
继续参考图6，分析可包括比较两个交易参数635、636以确定哪个交易参数可对模型输出具有更实质性的影响(例如，确定哪个交易参数对扰动更敏感)。例如，对于离群值+1，与离群值+1附近的在x1方向上的梯度相比，x2方向上的梯度表现为在离群值+1附近更陡峭。因此，对于此实例，可以得出结论，与交易参数635(由x1方向表示)相比，交易参数636(由x2方向表示)更敏感且对离群值+1附近的模型输出具有更实质性的影响。可以针对每个交易参数进行这种比较，以针对交易参数对离群值+1附近的模型输出的影响来制定交易参数的排名。
参考图7，线图736示出根据一些非限制性实施例或方面的基于模型输出的各种交易参数的扰动的影响。线图736示出基于多个交易参数的输入参数扰动738的模型输出扰动740的变化。在线图736中，每种不同样式的线表示不同的交易参数，如随其中提供的图例所示。每个输入参数扰动738通过每次扰动一个交易参数来执行。线图736可以通过个别地扰动交易参数并针对每个交易参数的扰动绘制模型输出而使用黑盒模型114生成。线图736的线可以彼此比较，以分析哪个(哪些)交易参数对离群值+1具有更实质性的影响。
参考图8，条形图842示出根据一些非限制性实施例或方面的模型对各种交易参数的扰动的敏感性。条形图842示出交易参数844(沿着x轴)和每个交易参数844的参数影响846(沿着y轴)。参数影响846可以量化交易参数844中的每一个对模型输出的影响，使得可以直接比较交易参数844。在一些非限制性实例中，可以通过比较在特定扰动水平下(例如，通过将每个交易参数扰动5％)模型输出的变化来量化参数影响846。在其它非限制性实例中，参数影响846可以被量化为针对每个交易参数844执行的多个扰动的合成。
继续参考图8，在一些非限制性实施例或方面中，例如，可以基于条形图842中所示的比较每个交易参数844的参数影响846的数据，由模型解释网络106确定至少一个影响参数。例如，至少一个影响参数可以是具有最高参数影响846的值(例如，Pay_0)的交易参数844。例如，至少一个影响参数可以是具有例如前3或前5的最高参数影响846的值的交易参数844。例如，至少一个影响参数可以是满足阈值参数影响846的值的任何交易参数。
参考图9，示出根据一些非限制性实施例或方面的具有实现针对被拒绝交易生成查询请求的用户界面948的用户装置102。用户界面948可以显示与由用户装置102的用户发起的支付交易相关联的交易历史数据950。交易历史数据950可包括例如交易标识符952、商家标识符954、交易金额956和授权状态958。交易标识符952可包括从任何其它交易中标识目标交易的唯一标识符。商家标识符954可以标识参与目标交易的商家。交易金额956可以指定用户与交易商家之间交换(或意图交换)的金额。授权状态958可以标识交易是被授权还是被拒绝。
继续参考图9，用户界面948还可以在离群值交易旁边显示可选元素960，例如具有被拒绝授权状态958的交易。应了解，可以将授权状态958替换为指示交易是欺诈性的还是非欺诈性的欺诈状态，或替换为示出分配给交易的风险得分的风险得分，或者除了授权状态958之外，可以将这些额外类型的数据添加到用户界面948。可选元素960可以显示在离群值交易旁边，以便用户请求关于交易为何被黑盒模型114分类为离群值的另外数据。可选元素960的用户选择可以自动使得生成并发送与离群值支付交易相关联的查询请求消息。
参考图10，示出根据一些非限制性实施例或方面的具有显示查询响应消息1062的用户界面948的用户装置102。用户界面948可以显示拒绝原因1064，其包括被标识为对将交易分类为离群值具有实质性影响的交易参数的影响参数1066。应了解，影响参数可以另外或替代地被标识为用于将交易标识为欺诈性的或具有具有离群值的风险得分的实质性交易参数。应了解，多个影响参数1066可以被标识为在将交易分类为离群值时具有实质性影响。
参考图11，示出根据非限制性实施例或方面的装置1100的示例组件的图式。例如，装置1100可以对应于图1所示的用户装置102、电子支付处理网络104、模型解释网络106、商家系统108、交易处理系统110、发行方系统112、黑盒模型114、MIN处理器116、扰动处理器118或参数分析平台120中的任一个。在一些非限制性实施例或方面中，此类系统或装置可包括至少一个装置1100和/或装置1100的至少一个组件。所示组件的数目和布置作为实例提供。在一些非限制性实施例或方面中，与图11所示的那些相比，装置1100可包括额外组件、更少组件、不同组件或以不同方式布置的组件。另外或替代地，装置1100的一组组件(例如，一个或多个组件)可以执行被描述为由装置1100的另一组组件执行的一个或多个功能。
如图11所示，装置1100可包括总线1102、处理器1104、存储器1106、存储组件1108、输入组件1110、输出组件1112和通信接口1114。总线1102可包括准许装置1100的组件之间的通信的组件。在一些非限制性实施例或方面中，处理器1104可以在硬件、固件或硬件和软件的组合中实施。例如，处理器1104可包括处理器(例如，中央处理单元(CPU)、图形处理单元(GPU)、加速处理单元(APU)等)、微处理器、数字信号处理器(DSP)和/或可以被编程为执行功能的任何处理组件(例如，现场可编程门阵列(FPGA)、专用集成电路(ASIC)等)。存储器1106可包括随机存取存储器(RAM)、只读存储器(ROM)，和/或存储供处理器1104使用的信息和/或指令的另一类型的动态或静态存储装置(例如，闪存存储器、磁存储器、光学存储器等)。
继续参考图11，存储组件1108可以存储与装置1100的操作和使用相关的信息和/或软件。例如，存储组件1108可包括硬盘(例如，磁盘、光盘、磁光盘、固态磁盘等)和/或另一类型的计算机可读介质。输入组件1110可包括准许装置1100例如经由用户输入接收信息的组件(例如，触摸屏显示器、键盘、小键盘、鼠标、按钮、开关、麦克风等)。另外或替代地，输入组件1110可包括用于感测信息的传感器(例如，全球定位系统(GPS)部件、加速度计、陀螺仪、致动器等)。输出组件1112可包括从装置1100提供输出信息的组件(例如，显示器、扬声器、一个或多个发光二极管(LED)等)。通信接口1114可包括使装置1100能够例如经由有线连接、无线连接或有线和无线连接的组合与其它装置通信的收发器类组件(例如，收发器、单独的接收器和发送器等)。通信接口1114可以准许装置1100从另一装置接收信息和/或向另一装置提供信息。例如，通信接口1114可包括以太网接口、光接口、同轴接口、红外接口、射频(RF)接口、通用串行总线(USB)接口、接口、蜂窝网络接口等。
装置1100可以执行本文所描述的一个或多个过程。装置1100可以基于处理器1104执行由存储器1106和/或存储组件1108等计算机可读介质存储的软件指令来执行这些过程。计算机可读介质可包括任何非瞬态存储器装置。存储器装置包括位于单个物理存储装置内部的存储器空间或散布于多个物理存储装置上的存储器空间。软件指令可以经由通信接口1114从另一计算机可读介质或从另一装置读取到存储器1106和/或存储组件1108中。在被执行时，存储在存储器1106和/或存储组件1108中的软件指令可以使处理器1104执行本文所描述的一个或多个过程。另外或替代地，硬接线电路系统可替代软件指令或与软件指令结合使用以执行本文所描述的一个或多个过程。因此，本文所描述的实施例不限于硬件电路系统和软件的任何特定组合。本文所使用的术语“被编程或配置”是指一个或多个装置上的软件、硬件电路系统或其任何组合的布置。
尽管已出于说明的目的详细描述了实施例，但应理解，此类细节仅用于所述目的，并且本公开不限于所公开的实施例或方面，但相反，旨在涵盖处于所附权利要求书的精神和范围内的修改和等同布置。例如，应理解，本公开预期，尽可能地，任何实施例或方面的一个或多个特征可与任何其它实施例或方面的一个或多个特征组合。

Claims (20)

1.一种计算机实施的方法，包括：
用至少一个处理器接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；
对于所述多个交易参数中的每个交易参数，用至少一个处理器扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；
用至少一个处理器通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及
用至少一个处理器基于所述至少一个影响参数生成查询响应消息。
2.根据权利要求1所述的方法，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。
3.根据权利要求2所述的方法，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。
4.根据权利要求1所述的方法，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。
5.根据权利要求1所述的方法，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。
6.根据权利要求1所述的方法，其中所述风险得分满足阈值。
7.根据权利要求1所述的方法，其中所述第一支付交易包括授权决策，其中基于所述风险得分，所述授权决策为拒绝授权决策。
8.根据权利要求7所述的方法，其中所述授权决策是由代表发行方的发行方系统的交易服务提供商的交易处理系统生成的。
9.根据权利要求8所述的方法，其中所述授权决策是由所述交易处理系统在所述发行方系统未能与电子支付处理网络的组件通信时生成的。
10.根据权利要求8所述的方法，其中所述授权决策是由所述交易处理系统通过将所述多个交易参数应用于黑盒机器学习模型而生成的，其中所述黑盒机器学习模型是基于所述发行方系统的建模历史授权决策生成的。
11.根据权利要求8所述的方法，其中所述授权决策是由所述交易处理系统基于与发起所述第一支付交易的用户相关联的历史交易数据生成的。
12.根据权利要求1所述的方法，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。
13.根据权利要求1所述的方法，包括：
在用户装置上显示与所述第一支付交易相关联的数据和与与所述第一支付交易相关联的所述数据相关联的可选元素；
由所述用户装置接收指示所述可选元素的选择的用户输入；以及
响应于所述可选元素的选择，由所述用户装置生成并发送所述查询请求消息。
14.一种系统，包括至少一个处理器，所述至少一个处理器被编程或配置成：
接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；
对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；
通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及
基于所述至少一个影响参数生成查询响应消息。
15.根据权利要求14所述的系统，其中扰动所述交易参数的值包括将所述交易参数的所述值递增一定量和/或所述值的百分比，其中所述受扰动交易参数包括数字交易参数。
16.根据权利要求15所述的系统，其中递增所述交易参数的所述值包括将所述值增加或减小高达5％以形成所述受扰动交易参数。
17.根据权利要求14所述的系统，其中所述受扰动交易参数包括分类交易参数，其中扰动所述分类交易参数的值包括将所述分类交易参数的类别从第一类别改变为第二类别。
18.根据权利要求14所述的系统，其中用所述机器学习模型重新分析所述第一支付交易以基于所述受扰动交易参数生成受扰动风险得分是在每次仅扰动所述多个交易参数中的单个交易参数的情况下进行的。
19.根据权利要求14所述的系统，其中确定所述至少一个影响参数包括从所述多个交易参数中确定所述风险得分与对应受扰动风险得分之间的差满足阈值的至少一个交易参数。
20.一种计算机程序产品，包括至少一个非瞬态计算机可读介质，所述至少一个非瞬态计算机可读介质包括程序指令，所述程序指令在由至少一个处理器执行时使所述至少一个处理器：
接收标识具有多个交易参数和风险得分的第一支付交易的查询请求消息，其中所述风险得分是由机器学习模型基于所述多个交易参数生成的；
对于所述多个交易参数中的每个交易参数，扰动所述交易参数的值，且用所述机器学习模型重新分析所述第一支付交易以基于受扰动交易参数生成受扰动风险得分；
通过比较针对所述多个交易参数中的每一个生成的所述受扰动风险得分来从所述多个交易参数中确定至少一个影响参数；以及
基于所述至少一个影响参数生成查询响应消息。
CN202280005693.6A 2022-03-15 2022-07-19 通过扰动交易参数来解释黑盒模型的系统、方法和计算机程序产品 Pending CN117099118A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202263319814P 2022-03-15 2022-03-15
US63/319,814 2022-03-15
PCT/US2022/037592 WO2023177414A1 (en) 2022-03-15 2022-07-19 System, method, and computer program product for interpreting black box models by perturbing transaction parameters

Publications (1)

Publication Number Publication Date
CN117099118A true CN117099118A (zh) 2023-11-21

Family

ID=88023853

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280005693.6A Pending CN117099118A (zh) 2022-03-15 2022-07-19 通过扰动交易参数来解释黑盒模型的系统、方法和计算机程序产品

Country Status (3)

Country Link
US (2) US11922424B2 (zh)
CN (1) CN117099118A (zh)
WO (1) WO2023177414A1 (zh)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110992042A (zh) * 2018-10-03 2020-04-10 维萨国际服务协会 用于产生服务提供商交易请求的基于位置的风险评估的系统、方法和计算机程序产品
CN111242319A (zh) * 2020-01-15 2020-06-05 支付宝(杭州)信息技术有限公司 模型预测结果的解释方法和装置

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140089190A1 (en) * 2012-09-27 2014-03-27 Bank Of America Corporation Claim rate black box
US9875347B2 (en) 2014-07-31 2018-01-23 Nok Nok Labs, Inc. System and method for performing authentication using data analytics
WO2016167544A1 (en) * 2015-04-14 2016-10-20 Samsung Electronics Co., Ltd. Apparatus and method for fraud detection in a mobile device
US10504035B2 (en) * 2015-06-23 2019-12-10 Microsoft Technology Licensing, Llc Reasoning classification based on feature pertubation
US10387800B2 (en) * 2015-06-29 2019-08-20 Wepay, Inc. System and methods for generating reason codes for ensemble computer models
US20180322406A1 (en) 2017-05-04 2018-11-08 Zestfinance, Inc. Systems and methods for providing machine learning model explainability information
US11328220B2 (en) * 2017-09-06 2022-05-10 BigML, Inc. Prediction characterization for black box machine learning models
US10607231B1 (en) * 2017-09-27 2020-03-31 Worldpay, Llc Systems and methods for optimizing transaction authorization conversion rate
US11354590B2 (en) * 2017-11-14 2022-06-07 Adobe Inc. Rule determination for black-box machine-learning models
US11049012B2 (en) * 2017-11-21 2021-06-29 Fair Isaac Corporation Explaining machine learning models by tracked behavioral latent features
US12093790B1 (en) * 2018-05-04 2024-09-17 Massachusetts Mutual Life Insurance Company Systems and methods for computational risk scoring based upon machine learning
US11487997B2 (en) * 2018-10-04 2022-11-01 Visa International Service Association Method, system, and computer program product for local approximation of a predictive model
US10855726B2 (en) * 2018-10-15 2020-12-01 Visa International Service Association Systems and methods for determining access outcomes using access request scoring
US11983563B2 (en) 2019-05-08 2024-05-14 Bank Of America Corporation Contextual information extractor with model explainability calculator
US11551123B2 (en) * 2019-06-11 2023-01-10 International Business Machines Corporation Automatic visualization and explanation of feature learning output from a relational database for predictive modelling
US11373109B2 (en) 2019-07-02 2022-06-28 Fair Isaac Corporation Temporal explanations of machine learning model outcomes
US11645581B2 (en) * 2019-08-13 2023-05-09 Fair Isaac Corporation Meaningfully explaining black-box machine learning models
US20210103838A1 (en) 2019-10-04 2021-04-08 Tookitaki Holding Pte. Ltd. Explainability framework and method of a machine learning-based decision-making system
US11875232B2 (en) * 2019-12-02 2024-01-16 Fair Isaac Corporation Attributing reasons to predictive model scores
US20230186078A1 (en) * 2020-04-30 2023-06-15 Visa International Service Association System, Method, and Computer Program Product for Dynamic User Interfaces for RNN-Based Deep Reinforcement Machine-Learning Models
EP3968103A1 (en) * 2020-09-15 2022-03-16 ABB Schweiz AG Explaining machine learning output in industrial applications
EP4035098A4 (en) * 2020-10-14 2023-11-29 Feedzai - Consultadoria e Inovação Tecnológica, S.A. MODEL AGNOSIA APPROACH TO INTERPRETING SEQUENCE PREDICTIONS
US20230111445A1 (en) * 2021-10-09 2023-04-13 Mastercard International Incorporated Neural network based methods and systems for increasing approval rates of payment transactions

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110992042A (zh) * 2018-10-03 2020-04-10 维萨国际服务协会 用于产生服务提供商交易请求的基于位置的风险评估的系统、方法和计算机程序产品
CN111242319A (zh) * 2020-01-15 2020-06-05 支付宝(杭州)信息技术有限公司 模型预测结果的解释方法和装置

Also Published As

Publication number Publication date
US20230298030A1 (en) 2023-09-21
US20240169352A1 (en) 2024-05-23
US11922424B2 (en) 2024-03-05
WO2023177414A1 (en) 2023-09-21

Similar Documents

Publication Publication Date Title
US11741475B2 (en) System, method, and computer program product for evaluating a fraud detection system
CN111279375B (zh) 用于检测模式外交易的系统和方法
CN112823366B (zh) 用于检测潜在洗钱活动的系统、方法和计算机程序产品
US11847572B2 (en) Method, system, and computer program product for detecting fraudulent interactions
CN114387074A (zh) 使用深度学习和生存模型进行欺诈预防的方法、系统和计算机程序产品
US20210027300A1 (en) System, Method, and Computer Program Product for Generating Aggregations Associated with Predictions of Transactions
US20210097543A1 (en) Determining fraud risk indicators using different fraud risk models for different data phases
US20210304206A1 (en) System and Method for Processing a Transaction Based on a Recovery Scoring Model
CN114930368A (zh) 用于确定欺诈的系统、方法和计算机程序产品
CN113095820A (zh) 用于确定非索引记录对应性的系统、方法和计算机程序产品
CN112236793B (zh) 用于进行涉及货到付款的支付交易的系统、方法和计算机程序产品
US20240061865A1 (en) Database management for digitally storing item information
CN118020088A (zh) 用于检测商家数据变动的系统、方法和计算机程序产品
CN117099118A (zh) 通过扰动交易参数来解释黑盒模型的系统、方法和计算机程序产品
CN112805738B (zh) 用于支付交易的实时自动授权的系统、方法
US20240211971A1 (en) Contextual recommendations based on behavioral analytics
CN116583851B (zh) 使用自动编码器清洗来自未标记数据集的噪声数据的系统、方法和计算机程序产品
US11847654B2 (en) System, method, and computer program product for learning continuous embedding space of real time payment transactions
WO2023150247A1 (en) System, method, and computer program product for interpreting black box models for payment authorization decisions
US20240320929A1 (en) Augmented reality techniques to identify a merchant category code associated with a transaction
US20240289791A1 (en) Method, System, and Computer Program Product for Linking Latent Related Payment Devices
US20220138501A1 (en) Method, System, and Computer Program Product for Recurrent Neural Networks for Asynchronous Sequences
US20240062120A1 (en) System, Method, and Computer Program Product for Multi-Domain Ensemble Learning Based on Multivariate Time Sequence Data
CN116964603A (zh) 用于基于多变量时间序列数据的多域集成学习的系统、方法和计算机程序产品
CN115769233A (zh) 用于异常检测的残差神经网络

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination